Les deepfakes — vidéos, images, sons ou textes générés ou manipulés par IA pour paraître authentiques — posent des problèmes réels : désinformation, atteinte à la réputation, escroqueries, harcèlement. L'AI Act impose des obligations spécifiques, mais le cadre juridique va au-delà.
Ce que l'AI Act dit sur les deepfakes
L'AI Act (article 50) oblige à marquer les deepfakes et tout contenu généré ou manipulé par IA comme tel, de façon visible. L'exception s'applique aux œuvres artistiques et satiriques. Le non-respect de cette obligation de transparence peut entraîner une amende jusqu'à 15M€ ou 3% du CA mondial.
L'article 50 de l'AI Act impose une obligation de transparence pour les contenus générés ou manipulés par IA :
L'obligation de marquage : tout contenu audio, visuel ou audiovisuel généré ou manipulé par IA doit être marqué comme tel de façon visible et lisible par machine.
Les exceptions : les œuvres artistiques ou créatives et les satires ou parodies peuvent être exemptées si la divulgation est faite de façon différente (mention au générique, dans la description, etc.) et si la non-divulgation immédiate est justifiée par des raisons artistiques légitimes.
Le cadre juridique au-delà de l'AI Act
L'AI Act n'est pas le seul texte applicable aux deepfakes.
Le droit à l'image : utiliser le visage ou la voix d'une personne sans son consentement pour créer un deepfake viole le droit à l'image (Code civil en France, RGPD pour les données biométriques).
Le droit pénal : créer un deepfake pornographique non consenti est pénalement réprimé en France (loi sur les violences sexuelles). Les deepfakes diffamatoires ou créant une fausse information tombent sous d'autres infractions.
La loi de 2018 contre les fake news : en France, la manipulation de l'information via des deepfakes peut tomber sous cette loi pendant les périodes électorales.
Les CGU des plateformes : Twitter/X, YouTube, TikTok, Facebook ont des politiques spécifiques sur les contenus synthétiques et les deepfakes.
En France, la diffusion de deepfakes sexuels non consentis est punie de 2 ans d'emprisonnement et 60 000€ d'amende, portés à 3 ans et 75 000€ en cas de diffusion via un service de communication au public en ligne (article 226-8-1 du Code pénal, créé par la loi SREN du 21 mai 2024).
Obligations pratiques pour les créateurs de contenu IA
Si vous utilisez des outils de génération d'images, vidéos ou audio par IA :
1. Marquez vos contenus : en mentionnant qu'ils ont été générés par IA, en utilisant les métadonnées standard (C2PA pour les images), en ajoutant une mention visible dans la description 2. Obtenez le consentement : si votre contenu utilise le visage, la voix ou d'autres données biométriques d'une personne réelle, le consentement est requis 3. Documentez l'outil utilisé : conservez les traces de l'outil IA utilisé pour la génération 4. Ne falsifiez pas l'actualité : les deepfakes présentés comme authentiques sur des événements réels exposent à des sanctions pénales et civiles
- Marquer visiblement tout contenu synthétique IA
- Ne jamais utiliser le visage/voix d'une personne sans consentement
- Mention explicite dans la description YouTube, Instagram, TikTok
- Pour les deepfakes politiques : précaution maximale, risque électoral
- Pour les deepfakes satiriques : mention au générique ou en description
FAQ : deepfakes et réglementation
Conclusion
La réglementation des deepfakes est à la croisée de plusieurs textes : AI Act, RGPD, droit à l'image, droit pénal. La règle générale : transparence et consentement. Si vous créez des contenus synthétiques, marquez-les. Si vous utilisez des personnes réelles, obtenez leur accord. Ces principes simples évitent la grande majorité des risques juridiques.
Questions fréquentes
En principe non pour un usage personnel. L'obligation de marquage de l'AI Act vise les contenus diffusés, pas les filtres à usage privé. Si vous diffusez publiquement une vidéo avec un filtre IA qui modifie substantiellement votre apparence, une mention peut être requise.
Avec précautions. La satire est une exception légale en France, mais elle doit être clairement identifiée comme telle. L'AI Act prévoit cette exception pour les œuvres artistiques et satiriques, à condition que la nature artificielle soit divulguée (pas nécessairement immédiatement, mais de façon accessible). Consultez un avocat pour les cas limites.
Oui, si ces vidéos sont diffusées publiquement. L'article 50 de l'AI Act impose de signaler que le contenu a été généré ou manipulé par IA. Une mention dans la description, le générique ou en début de vidéo ('Cette vidéo a été créée avec l'aide de l'IA') est suffisante.
Oui. L'article 50 de l'AI Act impose de marquer visiblement tout contenu audio, visuel ou audiovisuel généré ou manipulé par IA (deepfake) comme tel. Exception pour les œuvres artistiques et satiriques, à condition que la nature IA soit divulguée de façon appropriée.