Qu'est-ce que le contrôle humain au sens de l'AI Act ?
Le contrôle humain désigne la capacité de personnes physiques à superviser le fonctionnement d'un système d'IA à haut risque pendant son utilisation, afin de prévenir ou de réduire les risques pour la santé, la sécurité et les droits fondamentaux. Ce n'est ni une validation formelle ni un simple droit de veto théorique : c'est une supervision effective, outillée et exercée par des personnes en mesure de comprendre et d'agir.
Que doit permettre le système ?
L'article 14 exige que les personnes chargées du contrôle puissent, selon les circonstances :
- comprendre les capacités et les limites du système et surveiller son fonctionnement ;
- rester conscientes du risque de biais d'automatisation — la tendance à se fier automatiquement aux résultats produits ;
- interpréter correctement les sorties du système, en tenant compte des outils d'interprétation disponibles ;
- décider de ne pas utiliser le système ou d'écarter, d'annuler ou d'inverser un résultat ;
- intervenir sur le fonctionnement ou interrompre le système par un bouton d'arrêt ou une procédure similaire.
Qui est responsable : le fournisseur ou le déployeur ?
Les deux, à des titres différents. Le fournisseur conçoit et intègre les moyens du contrôle humain dans le système (article 14 § 3) : interfaces homme-machine appropriées, information sur les limites, mécanismes d'arrêt. Le [déployeur](/ressources/fournisseur-ou-deployeur), lui, met en œuvre ce contrôle sur le terrain (article 26) : il désigne des personnes compétentes, les forme et leur donne l'autorité nécessaire pour écarter une décision.
| Acteur | Responsabilité en matière de contrôle humain | Article |
|---|---|---|
| Fournisseur | Concevoir les moyens de supervision (interfaces, arrêt, information) | Art. 14 § 1-4 |
| Déployeur | Confier la supervision à des personnes compétentes et formées | Art. 26 § 2 |
| Personne chargée du contrôle | Comprendre, surveiller, interpréter, écarter, interrompre | Art. 14 § 4 |
Cas particulier : la biométrie
Pour les systèmes d'identification biométrique à distance à haut risque, l'article 14 renforce l'exigence : aucune action ou décision ne doit être prise par le déployeur sur la seule base de l'identification produite par le système, sans vérification et confirmation par au moins deux personnes physiques disposant des compétences nécessaires — le principe des « quatre yeux ».
Comment mettre en place un contrôle humain effectif ?
- 01
Identifier les points de décision
Repérez où, dans le processus, l'humain doit pouvoir intervenir, valider ou écarter une sortie de l'IA.
- 02
Désigner et former les superviseurs
Confiez le contrôle à des personnes compétentes, formées aux limites du système et conscientes du biais d'automatisation (littératie IA, art. 4).
- 03
Outiller la supervision
Assurez-vous de disposer des interfaces, explications et mécanismes d'arrêt fournis par l'éditeur pour exercer un contrôle réel.
- 04
Tracer les interventions humaines
Documentez les cas où l'humain a écarté ou modifié une décision : c'est la preuve d'un contrôle effectif.
Questions fréquentes
Une validation humaine « pour la forme » suffit-elle ?
Non. L'article 14 exige un contrôle effectif : la personne doit réellement comprendre le système, pouvoir interpréter ses résultats et être en mesure de les écarter. Une approbation automatique, sans examen critique, ne satisfait pas l'exigence et expose l'organisation.
Le contrôle humain empêche-t-il l'automatisation ?
Non. L'IA peut automatiser largement le traitement ; l'exigence porte sur la capacité de supervision et d'intervention humaine, à un niveau proportionné au risque. Il ne s'agit pas d'un traitement manuel, mais d'une main humaine capable de reprendre le contrôle.
Qui forme les personnes chargées du contrôle ?
C'est au déployeur d'assurer la compétence des superviseurs, en s'appuyant sur les informations fournies par l'éditeur et sur un programme de littératie IA (article 4). La formation aux limites concrètes de l'outil est déterminante.
Faut-il deux personnes pour toute décision d'IA ?
Non, le principe des « quatre yeux » est spécifique à l'identification biométrique à distance à haut risque. Pour les autres systèmes, une supervision par une personne compétente peut suffire, selon le niveau de risque.