Les autorités de protection des données appliquent le RGPD à l'IA depuis des années, et le report des échéances du règlement sur l'IA par l'omnibus numérique 2026 n'y change rien. Selon les observatoires de l'application du droit, les régulateurs d'Italie, de Grèce, de France et des Pays-Bas ont sanctionné le fournisseur de reconnaissance faciale Clearview AI entre 2022 et 2024, et la Garante italienne a agi contre OpenAI, Replika et DeepSeek. En décembre 2024, le Comité européen de la protection des données (CEPD) a ajouté un avis formel sur les modèles d'IA.
Le bilan n'est pas à sens unique. En mars 2026, un tribunal de Rome a annulé l'amende de 15 millions EUR infligée par la Garante à OpenAI, selon les informations disponibles pour une question de compétence et non sur le fond. Cet article tire ce que l'avis du CEPD et le bilan de l'application, aussi imparfait soit-il, enseignent aux entreprises qui développent ou achètent de l'IA aujourd'hui. Il s'agit d'informations générales, pas de conseils juridiques, et il complète notre article précédent sur les amendes RGPD pour erreurs d'IA ainsi que notre guide sur le recoupement entre RGPD et règlement sur l'IA.
Avis 28/2024 du CEPD : le mode d'emploi des modèles d'IA
Le CEPD a adopté l'avis en décembre 2024 (les sources indiquent le 17 ou le 18 décembre) à la demande de la Commission irlandaise de protection des données, au titre de l'article 64, paragraphe 2, du RGPD. Il répond à quatre questions, résumées par Hunton et CMS.
- Anonymat. Un modèle n'est anonyme que si deux conditions sont réunies : la probabilité d'extraire directement les données personnelles des personnes ayant servi à l'entraînement, y compris de façon probabiliste, est insignifiante, tout comme celle de les obtenir par des requêtes. Les affirmations exigent une documentation telle que des AIPD et des garanties techniques, selon William Fry.
- Intérêt légitime. Ce n'est pas une base par défaut. Les responsables doivent passer un test en trois étapes : intérêt, nécessité et mise en balance. Parmi les exemples pouvant convenir figurent un agent conversationnel qui assiste les utilisateurs, la détection de fraude et la détection de menaces dans les systèmes d'information.
- Attentes raisonnables. Les facteurs pertinents comprennent le caractère public des données, la relation avec le responsable, la nature du service, le contexte et la source de la collecte, les usages ultérieurs du modèle et le fait que les personnes savent ou non que leurs données sont en ligne.
- Mesures d'atténuation. Elles comprennent la pseudonymisation, les données synthétiques, une transparence allant au-delà des articles 13 et 14 et un droit d'opposition offert dès le départ.
- Développement illicite. L'effet sur le déploiement ultérieur est apprécié au cas par cas. Les mesures correctrices peuvent inclure une amende, une limitation temporaire ou l'effacement des données traitées illicitement et, lorsque c'est impossible, de l'ensemble du jeu de données ou du modèle, sous réserve de proportionnalité, selon Baker McKenzie.
Deux points méritent d'être soulignés. Si un modèle est réellement anonyme, le RGPD ne s'applique pas à son fonctionnement ultérieur, et l'illicéité antérieure ne devrait pas l'affecter. Et les déployeurs ne peuvent pas supposer que le développeur a tout bien fait : ils doivent évaluer leur propre conformité, avec une profondeur proportionnée au risque.
Le bilan de l'application
Le tableau rassemble les principales actions rapportées par les observatoires et les commentaires de cabinets. Les montants et les dates proviennent de sources secondaires, et les décisions originales n'ont pas été examinées.
| Autorité | Date | Cible | Action | Statut |
|---|---|---|---|---|
| Garante (Italie) | févr. 2022 | Clearview AI | Amende de 20 M EUR ; interdiction du traitement biométrique ; effacement des données de résidents italiens | Sort d'un éventuel recours non confirmé |
| HDPA (Grèce) | juil. 2022 | Clearview AI | Amende de 20 M EUR | Sort d'un éventuel recours non confirmé |
| CNIL (France) | oct. 2022 | Clearview AI | Amende de 20 M EUR | Sort d'un éventuel recours non confirmé |
| AP (Pays-Bas) | sept. 2024 | Clearview AI | Amende de 30,5 M EUR, plus une possible astreinte supplémentaire jusqu'à 5,1 M EUR | Sort d'un éventuel recours non confirmé |
| Garante (Italie) | Fin 2024 (les sources disent nov. ou déc.) | OpenAI (ChatGPT) | Amende de 15 M EUR et injonction de campagne médiatique : pas de base légale pour l'entraînement, transparence, vérification de l'âge, notification de violation | Annulée par le tribunal de Rome le 18 mars 2026 ; un possible appel de la Garante était signalé comme à l'étude en juin 2026 |
| Garante (Italie) | janv. 2025 | DeepSeek | Ordre de blocage de l'application en Italie ; pas d'amende | Source unique |
| Garante (Italie) | mai 2025 | Luka Inc. (Replika) | Amende de 5 M EUR : pas de base légale valable, pas de vérification d'âge efficace | Source unique ; issue inconnue |
Sources du tableau : privacyterms, gdprfine, Blocksize et Wilson Sonsini. Cette dernière est rédigée par des conseils d'OpenAI et doit être lue comme un récit partial.
Cinq leçons du bilan
- Le lieu d'établissement détermine qui vous régule. Selon des comptes rendus secondaires, le tribunal de Rome s'est concentré sur la compétence au titre du guichet unique. OpenAI avait créé OpenAI Ireland Ltd en février 2024, ce qui a fait de l'autorité irlandaise l'autorité chef de file, et le tribunal n'a pas tranché la question d'une violation du RGPD. L'issue est une victoire de procédure, pas un certificat de conformité, et la Commission irlandaise de protection des données reste libre d'agir.
- Les enfants et la vérification de l'âge reviennent. La Garante a cité l'absence de contrôle de l'âge dans les affaires OpenAI comme Replika. Tout service d'IA accessible à des mineurs doit pouvoir montrer comment il évalue l'âge et limite ce qu'il fait des données des enfants.
- La base légale de l'entraînement est le point faible. Les autorités allèguent à plusieurs reprises qu'il n'existe pas de base valable pour les données d'entraînement. Le test en trois étapes du CEPD offre une voie, mais seulement aux responsables capables de la documenter.
- La portée territoriale est large. Dans l'affaire Clearview, la Garante s'est appuyée sur le champ extraterritorial du RGPD et a exigé un représentant dans l'UE, selon privacyterms. Un fournisseur établi hors de l'UE n'est pas hors du régime s'il surveille des personnes dans l'UE.
- Les remèdes dépassent les amendes. Suspensions, ordres de blocage et effacements jalonnent le bilan. Le blocage provisoire de ChatGPT par la Garante en 2023 a été levé après des changements, selon gdprfine, et l'avis du CEPD envisage l'effacement de jeux de données et, en dernier ressort, de modèles.
Le fil conducteur est que les régulateurs posent des questions de base : quelles données sont entrées, sur quelle base légale, qui peut être concerné et qu'a-t-on dit aux personnes. Les entreprises qui peuvent y répondre par écrit sont bien mieux placées que celles qui ne le peuvent pas, quelle que soit l'issue finale d'une affaire donnée.
Ce que les entreprises doivent faire maintenant
Les leçons se traduisent en une courte liste d'actions pour toute organisation qui développe, affine ou achète de l'IA.
- Documenter la base légale. Pour l'entraînement et le réglage fin, consignez la base légale et, en cas d'intérêt légitime, une évaluation écrite en trois étapes avec les mesures d'atténuation retenues.
- Tester les affirmations d'anonymat. Si vous ou un fournisseur décrivez un modèle comme anonyme, demandez les preuves au regard des deux conditions du CEPD, pas une déclaration marketing.
- Traiter l'âge et les utilisateurs vulnérables. Là où des mineurs peuvent utiliser un service, mettez en place une vérification de l'âge et des paramètres par défaut adaptés, et conservez-en la preuve.
- Rendre la transparence précise. Allez au-delà d'une information générique : indiquez quelles sources et catégories de données alimentent le modèle et comment les personnes peuvent s'y opposer.
- Se préparer aux demandes d'exercice de droits. Décidez comment vous traiterez l'accès, l'opposition et l'effacement lorsque des données personnelles peuvent figurer dans des jeux d'entraînement ou des sorties.
- Identifier votre autorité chef de file. Sachez où vous êtes établi, car cela détermine quel régulateur est chef de file.
- Interroger vos fournisseurs. Le CEPD attend des déployeurs qu'ils évaluent leur propre conformité ; recueillez donc auprès des fournisseurs des déclarations sur la provenance des données d'entraînement et la base légale.
L'essentiel
Le bilan de l'application est inégal, et les recours montrent que la procédure compte. Pourtant, la direction est constante. Les régulateurs attendent des fournisseurs et déployeurs d'IA qu'ils expliquent, dans des documents qu'ils peuvent montrer, pourquoi des données personnelles sont utilisées, comment les personnes sont protégées et ce qui se passe quand quelque chose tourne mal. Attendre les échéances du règlement sur l'IA pour les systèmes à haut risque n'est pas une raison de repousser ce travail.
Pour voir comment vos propres outils d'IA se comportent face à ces questions de base, essayez l'outil d'audit de GDPRGard.
Sources
- CMS: EDPB Opinion 28/2024, key takeaways
- Hunton: EDPB publishes opinion on AI models
- William Fry: unwrapping the EDPB's guidance on AI models
- Baker McKenzie: EDPB opinion on AI models
- Wilson Sonsini: OpenAI prevails in Italian enforcement case (counsel for OpenAI)
- gdprfine: Italian Garante enforcement record
- privacyterms: AI privacy fines tracker
- Blocksize: GDPR and generative AI 2026
- SecurityWall: GDPR fines tracker 2026
Les chiffres de l'application proviennent d'observatoires et de commentaires qui se répètent souvent entre eux ; leur concordance ne constitue donc pas une confirmation indépendante. Les dates divergent par endroits (l'amende d'OpenAI est datée de novembre ou décembre 2024), plusieurs éléments reposent sur une seule source, et aucun texte de décision ou de jugement original n'a été examiné. Vérifiez auprès des dossiers de la Garante, de la CNIL, de la HDPA, de l'AP et des tribunaux avant de vous fier à un chiffre.
À lire également :
- Oubliez le règlement IA — le RGPD sanctionne déjà les entreprises pour leurs erreurs liées à l'IA
- Vos données « anonymes » le sont-elles vraiment ? Le nouveau projet du CEPD change le test
- L'excuse « c'était public » n'existe plus : le RGPD couvre désormais formellement les données d'entraînement de l'IA