L'AI Act est fondamentalement une loi sur les droits fondamentaux. Derrière la technicité des obligations de documentation et de conformité, il y a une ambition politique claire : s'assurer que les systèmes d'IA ne portent pas atteinte à la dignité humaine, à la non-discrimination, à la vie privée et aux autres droits garantis par la Charte des droits fondamentaux de l'UE.
Les droits fondamentaux au cœur de l'AI Act
L'AI Act protège les droits fondamentaux européens contre les risques de l'IA : dignité humaine, non-discrimination, vie privée, liberté d'expression et droit à un recours effectif. Les protections concrètes incluent les interdictions (manipulation, scoring social), les obligations de transparence et la supervision humaine obligatoire pour les systèmes à risque élevé.
L'AI Act cite explicitement dans ses considérants les droits fondamentaux qu'il entend protéger : dignité humaine (art. 1 CDFUE), liberté de conscience (art. 10), non-discrimination (art. 21), protection des données personnelles (art. 8), liberté d'expression (art. 11), droit à un procès équitable (art. 47).
L'évaluation d'impact sur les droits fondamentaux
Pour certains déployeurs de systèmes à risque élevé — les organismes publics et les opérateurs de services essentiels — l'AI Act impose une évaluation d'impact sur les droits fondamentaux avant le déploiement.
Cette évaluation doit couvrir : - Les droits fondamentaux potentiellement affectés - Les groupes de personnes susceptibles d'être impactés - Les mesures de mitigation prévues - Les mécanismes de recours disponibles
Le résultat doit être enregistré dans la base de données européenne.
→ Évaluation impact droits fondamentaux
Vos droits face à un système d'IA
En tant que personne affectée par un système d'IA, vous disposez de plusieurs droits :
Droit à l'information : savoir qu'un système d'IA est utilisé (AI Act art. 50 pour les chatbots, obligations d'information plus larges pour les systèmes à risque élevé).
Droit à l'explication : obtenir une explication des décisions automatisées vous affectant significativement (RGPD art. 22).
Droit à une intervention humaine : demander une revue humaine d'une décision entièrement automatisée (RGPD art. 22).
Droit de contester : contester une décision automatique vous affectant.
Droit au recours : saisir les autorités compétentes (CNIL, autorités sectorielles) ou les juridictions en cas de violation.
- Droit à l'information : savoir si une IA vous affecte
- Droit à l'explication : comprendre pourquoi
- Droit à une intervention humaine : demander une revue
- Droit de contestation : s'opposer à la décision
- Droit au recours : saisir la CNIL ou les tribunaux
FAQ : droits fondamentaux et IA
Conclusion
L'AI Act est un bouclier pour les droits fondamentaux face à la montée en puissance des systèmes algorithmiques. Les interdictions, les obligations de transparence et les mécanismes de supervision humaine sont autant de protections concrètes. Connaître vos droits est la première étape pour les exercer.
Questions fréquentes
Oui. La CNIL peut traiter les réclamations concernant des violations du RGPD liées à des systèmes d'IA. Pour les violations spécifiques à l'AI Act, la DGCCRF est l'autorité coordinatrice française (point de contact unique) ; la CNIL reste compétente sur ses domaines propres (biométrie, emploi, éducation, certaines pratiques interdites). Vous pouvez aussi vous adresser au Défenseur des droits pour les cas de discrimination.
Non. L'AI Act n'impose pas la publication du code source. Il impose une documentation technique sur le fonctionnement du système, communicable aux autorités de surveillance. Les droits individuels d'explication portent sur la décision vous concernant, pas sur le code source de l'algorithme.
Face à un système d'IA, vous avez le droit à l'information (savoir qu'une IA est utilisée), à l'explication (comprendre la décision), à une intervention humaine et à la contestation des décisions automatisées significatives (RGPD art. 22), ainsi qu'au recours auprès des autorités.