Depuis le 2 février 2025, certains systèmes d'IA sont purement et simplement interdits dans l'Union européenne. Cette interdiction ne connaît aucune période de transition ni exception pour les PME ou les startups. Une seule pratique, l'identification biométrique à distance en temps réel dans l'espace public à des fins répressives, admet des dérogations strictement encadrées (voir pratique 5). Ces pratiques sont jugées incompatibles avec les valeurs fondamentales européennes.
Voici la liste complète et les exemples concrets pour comprendre exactement ce qui tombe sous le coup de cette interdiction.
Les 8 pratiques d'IA interdites par l'article 5
L'AI Act interdit depuis février 2025 huit catégories de pratiques d'IA : manipulation subliminale, exploitation des vulnérabilités, scoring social gouvernemental, profilage prédictif à des fins policières, identification biométrique en temps réel dans les espaces publics (sauf exceptions), reconnaissance des émotions au travail et en éducation, catégorisation biométrique sur données sensibles, et inférence sur caractéristiques protégées.
L'article 5 de l'AI Act liste les pratiques à risque inacceptable. Ces interdictions s'appliquent à tous : fournisseurs d'IA, entreprises utilisatrices, administrations publiques, quelle que soit leur taille ou leur localisation.
Pratique 1 : la manipulation subliminale
Ce qui est interdit : les systèmes d'IA qui emploient des techniques sublimales (en dehors de la conscience) pour influencer le comportement d'une personne de façon à lui causer un préjudice.
Exemples concrets : - Un système publicitaire qui détecte les moments de fatigue ou de faiblesse émotionnelle pour pousser des achats impulsifs - Une plateforme de jeux qui utilise des déclencheurs psychologiques imperceptibles pour créer de l'addiction - Un outil de négociation B2B qui analyse les micro-expressions d'un acheteur en visio pour calibrer les arguments de vente
La nuance importante : le marketing personnalisé et le ciblage publicitaire classique ne sont pas visés par cette interdiction. C'est l'utilisation de techniques *inconscientes* pour causer un *préjudice* qui est prohibée. Un simple algorithme de recommandation qui suggère des produits en fonction de l'historique d'achat n'est pas concerné.
La frontière entre persuasion légitime et manipulation subliminale sera probablement l'un des sujets de contentieux les plus fréquents avec l'AI Act.
Pratique 2 : l'exploitation des vulnérabilités
Ce qui est interdit : les systèmes d'IA qui exploitent les vulnérabilités de personnes spécifiques en raison de leur âge, handicap ou situation socioéconomique, de façon à altérer leur comportement au détriment de leurs intérêts.
Exemples concrets : - Un jeu mobile conçu pour maximiser les achats intégrés chez des enfants en exploitant leur incapacité à évaluer la valeur monétaire - Un système de démarchage téléphonique IA qui cible spécifiquement les personnes âgées isolées avec des offres trompeuses - Une application de microcrédit qui propose des prêts à taux abusifs aux personnes en situation de détresse financière identifiée par l'IA
Nuance : les systèmes qui adaptent leur interface ou leur communication aux besoins des personnes handicapées (accessibilité) ne sont évidemment pas visés.
Pratique 3 : le scoring social
Ce qui est interdit : les systèmes de notation ou de classification des personnes physiques par des autorités publiques (ou en leur nom) sur la base de leur comportement social ou de caractéristiques personnelles, entraînant un traitement défavorable.
Exemples concrets : - Un système municipal qui noterait les citoyens sur leur comportement public pour conditionner l'accès à des services - Une administration qui utiliserait un score IA pour prioriser (ou déprioritiser) les demandes de prestations sociales en fonction du profil comportemental du demandeur - Un système policier qui noterait les individus selon leur risque de récidive pour moduler leur niveau de surveillance
Ce qui reste autorisé : les évaluations de solvabilité financière par les institutions privées (crédit scoring classique) ne sont pas visées, mais elles doivent respecter le RGPD. C'est le scoring *par des autorités publiques* sur des comportements *sociaux* qui est interdit.
→ Scoring social IA : analyse approfondie
Pratique 4 : le profilage prédictif à des fins policières
Ce qui est interdit : les systèmes d'IA utilisés par les forces de l'ordre pour évaluer le risque qu'une personne commette une infraction *uniquement* sur la base de caractéristiques personnelles, sans acte objectif.
Exemple concret : un système qui identifierait des individus comme 'suspects probables' en raison de leur origine ethnique, lieu de résidence, cercle social ou comportement en ligne, sans qu'aucun acte délictueux n'ait été commis.
Ce qui reste autorisé : les systèmes d'aide à l'enquête sur des faits *déjà commis* restent possibles sous certaines conditions. La différence est entre prédire qui *va* commettre un crime (interdit) et analyser qui a pu commettre un crime déjà commis (encadré mais possible).
Pratique 5 : l'identification biométrique en temps réel dans l'espace public
Ce qui est interdit : l'utilisation de systèmes de reconnaissance biométrique en temps réel dans des espaces accessibles au public à des fins répressives.
Les exceptions (strictement encadrées) : 1. Recherche de victimes spécifiques de trafic d'êtres humains ou d'enlèvement 2. Prévention de menaces terroristes imminentes et concrètes 3. Localisation ou identification de suspects de crimes graves (terrorisme, meurtre, viol, trafic de drogues, trafic d'armes)
Ces exceptions nécessitent une autorisation judiciaire préalable, sauf urgence absolue, et une notification post-factum dans les 24 heures.
La reconnaissance faciale dans les commerces : les caméras de surveillance standard ne sont pas visées. C'est l'identification biométrique *en temps réel* à des fins *répressives* dans l'espace *public* qui est interdite. Un système de contrôle d'accès par reconnaissance faciale dans une entreprise privée n'est pas visé par cette interdiction spécifique (mais reste soumis au RGPD).
→ Biométrie et réglementation IA
Pratiques 6, 7 et 8 : biométrie et émotions
Pratique 6 — Reconnaissance des émotions au travail et en éducation : interdiction des systèmes qui déduisent les états émotionnels des personnes dans le contexte professionnel ou éducatif, sauf à des fins médicales ou de sécurité.
*Exemple interdit* : un logiciel de visioconférence qui analyserait les émotions des salariés pendant les réunions pour évaluer leur engagement.
Pratique 7 — Catégorisation biométrique sur données sensibles : interdiction des systèmes qui classifient les personnes selon des catégories sensibles (race, religion, orientation sexuelle, opinions politiques) à partir de données biométriques.
*Exemple interdit* : un système qui déduirait l'appartenance religieuse d'une personne à partir de son visage.
Pratique 8 — Constitution de bases de données faciales : interdiction des systèmes qui aspirent massivement des images faciales d'internet ou de vidéosurveillance pour créer des bases de données de reconnaissance faciale.
*Exemple interdit* : un moteur de recherche facial à la Clearview AI alimenté par scraping massif.
| Pratique interdite | Depuis quand | Sanction maximale |
|---|---|---|
| Manipulation subliminale | 2 février 2025 | 35M€ ou 7% CA |
| Exploitation vulnérabilités | 2 février 2025 | 35M€ ou 7% CA |
| Scoring social | 2 février 2025 | 35M€ ou 7% CA |
| Profilage prédictif policier | 2 février 2025 | 35M€ ou 7% CA |
| Biométrie temps réel espace public | 2 février 2025 | 35M€ ou 7% CA |
| Reconnaissance émotions travail/éducation | 2 février 2025 | 35M€ ou 7% CA |
| Catégorisation biométrique données sensibles | 2 février 2025 | 35M€ ou 7% CA |
| Constitution BDD faciales par scraping | 2 février 2025 | 35M€ ou 7% CA |
Que faire si vous utilisez un système potentiellement concerné ?
Si vous pensez qu'un système d'IA que vous utilisez pourrait tomber sous le coup de ces interdictions :
1. Ne paniquez pas : la majorité des outils d'IA courants (ChatGPT, copilotes IA, outils d'analyse de données) ne sont pas concernés par ces interdictions 2. Consultez un juriste spécialisé : les frontières sont parfois floues, notamment sur la manipulation et l'exploitation des vulnérabilités 3. Cessez immédiatement l'usage si le système correspond clairement à une pratique interdite 4. Contactez l'autorité nationale compétente si vous avez un doute (en France, plusieurs autorités se partagent la compétence selon la pratique concernée, notamment la CNIL et la DGCCRF) : les autorités ont annoncé une posture d'accompagnement dans un premier temps
→ Obligations par niveau de risque
Conclusion
Les 8 pratiques interdites représentent le noyau dur des valeurs européennes appliquées à l'IA. Elles correspondent à des cas où les risques pour les droits fondamentaux sont jugés systématiquement supérieurs à tout bénéfice potentiel. Pour la grande majorité des entreprises, ces interdictions ne concernent pas leurs usages actuels de l'IA. Mais il est essentiel de les connaître pour éviter tout dérapage.
Questions fréquentes
Non. ChatGPT n'entre dans aucune des 8 catégories de pratiques interdites. Il est soumis aux obligations GPAI (transparence, documentation), mais son usage professionnel est légal dans l'UE.
Non. L'interdiction porte spécifiquement sur l'identification biométrique en temps réel dans les espaces publics à des fins répressives. La reconnaissance faciale pour le contrôle d'accès dans les entreprises ou les aéroports reste possible sous conditions (respect du RGPD notamment).
Non. Le scoring social interdit concerne les autorités publiques qui noteraient les citoyens sur leur comportement social. Le scoring de crédit financier par des établissements privés reste autorisé (sous réserve du RGPD et des règles sectorielles bancaires).
Cela dépend de ce qu'il analyse. Si votre logiciel RH utilise l'IA pour analyser les émotions des candidats ou salariés, c'est interdit. S'il analyse des CV ou les performances sur des critères objectifs, c'est un système à risque élevé soumis à des obligations spécifiques, mais pas interdit.
L'AI Act interdit 8 pratiques depuis le 2 février 2025 : manipulation subliminale, exploitation des vulnérabilités, scoring social gouvernemental, profilage prédictif policier, identification biométrique en temps réel dans les espaces publics (sauf exceptions), reconnaissance des émotions au travail et en éducation, catégorisation biométrique sur données sensibles, et constitution de bases de données faciales par scraping.