Qu'est-ce qu'un système de reconnaissance des émotions ?
L'AI Act le définit (article 3) comme un système d'IA destiné à identifier ou inférer les émotions ou les intentions de personnes physiques sur la base de leurs données biométriques (expressions du visage, voix, posture, etc.). Sont visées des émotions comme la joie, la colère, la peur, la fatigue ou le stress. Le règlement précise que de simples états physiques apparents (douleur, essoufflement) ou la détection d'expressions ou gestes évidents ne relèvent pas, en tant que tels, de cette définition.
Pourquoi une interdiction au travail et à l'école ?
Ces deux contextes ont un point commun : un déséquilibre de pouvoir et une vulnérabilité des personnes. Un salarié ou un élève ne peut pas librement s'opposer à une surveillance émotionnelle exercée par son employeur ou son établissement. À cela s'ajoutent la fiabilité scientifique contestée de l'inférence des émotions et le risque de conséquences graves (sanctions, discriminations). Le législateur a donc jugé ces usages, dans ces lieux, contraires aux droits fondamentaux.
| Contexte | Reconnaissance des émotions | Régime |
|---|---|---|
| Lieu de travail | Inférer les émotions des salariés | Interdite (art. 5), sauf médical/sécurité |
| Établissement d'enseignement | Inférer les émotions des élèves | Interdite (art. 5), sauf médical/sécurité |
| Autres contextes | Reconnaissance des émotions | Autorisée + transparence (art. 50) + RGPD |
| Raison médicale ou de sécurité | Détection de fatigue d'un conducteur, dispositif de santé | Exception à l'interdiction |
Les exceptions : raisons médicales ou de sécurité
L'interdiction n'est pas absolue. Elle ne s'applique pas lorsque le système est mis en place pour des raisons médicales ou de sécurité. Exemples typiques : un dispositif détectant la somnolence d'un conducteur ou d'un opérateur de machine dangereuse, ou un usage thérapeutique. Ces exceptions sont d'interprétation stricte : la « sécurité » vise la protection des personnes, non la performance managériale ou le contrôle de la productivité.
Ne pas confondre avec la catégorisation biométrique
La reconnaissance des émotions est distincte d'une autre pratique interdite : la catégorisation biométrique visant à déduire l'origine raciale ou ethnique, les opinions politiques, les convictions religieuses, l'appartenance syndicale, la vie ou l'orientation sexuelle (article 5). Deux interdictions voisines, mais des finalités différentes : l'une porte sur les émotions, l'autre sur des caractéristiques sensibles. Un projet mêlant biométrie et inférence doit être analysé au regard des deux.
Comment se mettre en conformité ?
- 01
Détecter les usages d'inférence émotionnelle
Recensez tout outil analysant voix, visage ou comportement pour en déduire un état émotionnel, notamment en RH, formation ou relation client.
- 02
Écarter les usages au travail et à l'école
Dans ces contextes, cessez ou renoncez à ces usages, hors raisons médicales ou de sécurité dûment justifiées.
- 03
Encadrer les usages autorisés
Ailleurs, appliquez la transparence (article 50) et sécurisez le RGPD (base légale, information, analyse d'impact).
- 04
Vérifier la frontière biométrique
Assurez-vous qu'aucun usage ne bascule dans la catégorisation biométrique sensible, elle aussi interdite.
Questions fréquentes
La reconnaissance des émotions est-elle totalement interdite ?
Non. Elle est interdite spécifiquement sur le lieu de travail et dans les établissements d'enseignement, sauf pour raisons médicales ou de sécurité (article 5). Dans les autres contextes, elle reste possible, sous réserve de la transparence (article 50) et du RGPD.
Un logiciel analysant la satisfaction client par la voix est-il concerné ?
S'il infère les émotions des clients, il n'est pas visé par l'interdiction (qui cible travail et école), mais relève de la transparence de l'article 50 et du RGPD. En revanche, s'il analyse les émotions des téléconseillers salariés, il tombe sous l'interdiction propre au lieu de travail.
Un système anti-somnolence pour conducteurs est-il autorisé ?
Oui. La détection de la somnolence ou de la vigilance d'un conducteur relève de l'exception pour raisons de sécurité. Ce type de dispositif, destiné à protéger les personnes, échappe à l'interdiction de l'article 5, tout en restant soumis au RGPD pour le traitement des données.
Depuis quand cette interdiction s'applique-t-elle ?
Depuis le 2 février 2025, date d'entrée en application des pratiques interdites de l'article 5. Les organisations concernées doivent donc déjà avoir cessé ces usages dans les contextes visés.