Les 10 pratiques d'IA interdites par l'AI Act (article 5)

Pourquoi certaines pratiques d'IA sont-elles interdites ?

Le législateur européen a estimé que certains usages de l'IA portent une atteinte disproportionnée à la dignité humaine, à l'autonomie ou aux droits fondamentaux, au point qu'aucune mesure d'atténuation ne pourrait les rendre acceptables. Pour ces usages, la seule réponse proportionnée est l'interdiction pure et simple. Ces prohibitions s'appliquent à tous les acteurs, publics comme privés, sans exception d'échelle.

Quelles sont les 10 pratiques interdites ?

1. Les techniques manipulatrices ou subliminales

Sont interdits les systèmes recourant à des techniques subliminales, délibérément manipulatrices ou trompeuses, qui altèrent substantiellement le comportement d'une personne en l'amenant à prendre une décision qu'elle n'aurait pas prise autrement, d'une manière susceptible de causer un préjudice important (article 5, paragraphe 1, point a).

2. L'exploitation des vulnérabilités

Est interdite l'exploitation des vulnérabilités d'une personne ou d'un groupe en raison de son âge, d'un handicap ou d'une situation sociale ou économique particulière, dans le but d'altérer substantiellement son comportement de façon préjudiciable (point b).

3. La notation sociale

Est interdite l'évaluation ou le classement de personnes ou de groupes sur une certaine période, en fonction de leur comportement social ou de caractéristiques personnelles, lorsque cette note conduit à un traitement préjudiciable ou défavorable disproportionné ou sans lien avec le contexte dans lequel les données ont été générées (point c).

4. La police prédictive individuelle

Est interdite l'évaluation du risque qu'une personne commette une infraction pénale, lorsqu'elle est fondée uniquement sur le profilage ou sur l'évaluation de traits de personnalité. L'interdiction ne vise pas les systèmes qui appuient une appréciation humaine déjà fondée sur des faits objectifs et vérifiables (point d).

5. Le moissonnage d'images faciales

Est interdite la création ou l'extension de bases de données de reconnaissance faciale par moissonnage non ciblé (« scraping ») d'images faciales issues d'Internet ou de la vidéosurveillance (point e).

6. La reconnaissance des émotions au travail et à l'école

Est interdit le recours à des systèmes inférant les émotions d'une personne sur le lieu de travail ou dans les établissements d'enseignement — sauf pour des raisons médicales ou de sécurité (par exemple, détecter la somnolence d'un pilote) (point f).

7. La catégorisation biométrique sensible

Est interdite la catégorisation biométrique qui classe les personnes pour en déduire des attributs sensibles : origine raciale ou ethnique, opinions politiques, appartenance syndicale, convictions religieuses ou philosophiques, vie sexuelle ou orientation sexuelle (point g).

8. L'identification biométrique à distance en temps réel

Est interdite l'utilisation de systèmes d'identification biométrique à distance « en temps réel » dans des espaces accessibles au public à des fins répressives. Cette interdiction connaît des exceptions strictement encadrées et soumises à autorisation : recherche ciblée de victimes, prévention d'une menace grave et imminente, ou localisation d'une personne soupçonnée d'une infraction grave (point h).

9. L'imagerie intime non consentie

Sont interdites la mise sur le marché, la mise en service et l'utilisation d'un système d'IA qui génère ou manipule des images, vidéos, contenus audio ou tout matériel similaire réalistes représentant les parties intimes d'une personne identifiable, ou cette personne se livrant à des activités sexuellement explicites, sans son consentement libre, spécifique, éclairé, univoque et explicite (point b bis, inséré par le règlement (UE) 2026/1744).

Le règlement précise ce qui ne relève pas de l'interdiction : une manipulation qui n'accroît pas la visibilité des parties intimes représentées et ne modifie pas la nature des activités sexuellement explicites représentées ne constitue pas une manipulation au sens du texte (paragraphe 1 ter).

10. Le matériel d'abus sexuel sur mineur

Sont interdites la mise sur le marché, la mise en service et l'utilisation d'un système d'IA qui génère ou manipule tout matériel ou spectacle au sens de l'article 2, points c) et e), de la directive 2011/93/UE — sauf lorsqu'une défense « sans droit » s'applique en vertu du droit national (point b ter).

Un générateur d'images est-il visé comme tel ?

Non, et le règlement prend soin de le dire. Pour les deux nouvelles interdictions, la mise sur le marché n'est prohibée que dans deux cas (paragraphe 1 bis) : lorsque cette production constitue la destination du système, ou lorsqu'elle est un résultat raisonnablement prévisible et reproductible au vu de sa conception, de son entraînement, de son architecture ou de ses fonctionnalités — sans modification technique importante — et que le système est dépourvu de garde-fous techniques raisonnables et adéquats pour l'empêcher de manière fiable ou pour corriger une mauvaise utilisation observée ou signalée.

Côté utilisation, l'interdiction ne vise le déployeur que s'il se sert du système dans le but de produire ce matériel. Autrement dit, un modèle généraliste correctement garde-fou et un usage professionnel ordinaire ne tombent pas sous le coup de l'article 5 : c'est la destination du système et la qualité des protections qui font la différence.

Quelles sont les exceptions ?

Deux interdictions comportent des exceptions notables : la reconnaissance des émotions (autorisée pour raisons médicales ou de sécurité) et l'identification biométrique en temps réel (autorisée pour des finalités répressives limitativement énumérées, sous autorisation préalable d'une autorité judiciaire ou administrative). Les deux dernières sont assorties d'un champ délimité, décrit ci-dessus, plutôt que d'exceptions. Les six autres pratiques sont interdites sans exception.

Que risque une organisation ?

Comment vérifier que vous n'êtes pas concerné ?

1. 01

   Recenser les usages sensibles

   Identifiez tout système touchant à la biométrie, à l'évaluation de personnes, à l'analyse comportementale ou émotionnelle.

2. 02

   Confronter à l'article 5

   Pour chaque usage, vérifiez s'il correspond à l'une des dix pratiques, en tenant compte des exceptions.

3. 03

   Documenter l'analyse

   Conservez la trace de votre appréciation, même négative : c'est un élément de preuve en cas de contrôle.

4. 04

   Solliciter un avis en cas de doute

   Les qualifications les plus délicates (notation sociale, catégorisation biométrique) appellent une analyse juridique dédiée.