Qu'est-ce que la notation sociale interdite ?
L'article 5 interdit les systèmes d'IA utilisés pour évaluer ou classer des personnes physiques ou des groupes pendant une certaine durée, en fonction de leur comportement social ou de caractéristiques personnelles ou de personnalité connues, inférées ou prédites, lorsque cette « note sociale » entraîne l'un des effets suivants :
- un traitement préjudiciable ou défavorable dans des contextes sans rapport avec ceux où les données ont été générées ou collectées ;
- un traitement préjudiciable ou défavorable injustifié ou disproportionné par rapport au comportement social concerné.
L'idée centrale : c'est le détournement de finalité et la disproportion qui rendent la pratique inacceptable. Un comportement observé dans un domaine ne doit pas se retourner contre la personne dans un tout autre domaine de sa vie.
Une interdiction qui vise aussi le secteur privé
Contrairement à une idée reçue, la notation sociale interdite n'est pas réservée aux États. L'article 5 vise sa mise sur le marché et son utilisation quel que soit l'acteur, public ou privé. Une entreprise qui construirait un système agrégeant les comportements de ses clients ou usagers pour leur infliger, ailleurs, un traitement défavorable disproportionné tomberait sous le coup de l'interdiction.
Où passe la frontière avec le scoring légitime ?
Tous les systèmes de notation ne sont pas interdits. Le scoring sectoriel, ciblé et proportionné — évaluer la solvabilité pour un crédit, tarifer un risque d'assurance — n'est pas de la notation sociale au sens de l'article 5. Ces usages sont d'ailleurs traités ailleurs dans le règlement : ils peuvent relever du haut risque (annexe III, point 5) avec les obligations correspondantes, mais ne sont pas prohibés.
| Pratique | Régime AI Act |
|---|---|
| Note sociale globale → traitement défavorable hors contexte | Interdite (art. 5) |
| Note sociale → traitement disproportionné | Interdite (art. 5) |
| Score de crédit / solvabilité | Haut risque possible (annexe III, pt 5) |
| Tarification d'assurance vie / santé | Haut risque possible (annexe III, pt 5) |
| Détection de fraude | Exclue du haut risque « crédit » |
Comment se prémunir ?
- 01
Repérer les systèmes agrégateurs
Identifiez tout dispositif qui agrège des comportements ou caractéristiques de personnes pour produire une évaluation globale.
- 02
Vérifier la cohérence de contexte
Assurez-vous que l'usage du score reste lié au contexte de collecte des données, sans détournement vers d'autres pans de la vie des personnes.
- 03
Contrôler la proportionnalité
Évaluez si les conséquences défavorables sont justifiées et proportionnées au comportement concerné.
- 04
Requalifier les scoring légitimes
Traitez les scoring sectoriels (crédit, assurance) selon leur régime propre — potentiellement haut risque (annexe III, pt 5) — plutôt que comme de la notation sociale.
Questions fréquentes
Le score de crédit est-il de la notation sociale interdite ?
Non. Un score de crédit, fondé sur des données financières et utilisé pour une décision de crédit, reste dans son contexte et proportionné : il n'est pas visé par l'interdiction de l'article 5. Il peut en revanche relever du haut risque (annexe III, point 5), avec les obligations correspondantes.
L'interdiction concerne-t-elle les entreprises privées ?
Oui. L'article 5 vise la notation sociale quel que soit l'acteur, public ou privé. Une entreprise construisant un système de note sociale menant à un traitement défavorable hors contexte ou disproportionné serait concernée par l'interdiction.
Qu'est-ce qui rend une notation « sociale » et interdite ?
Deux éléments : l'évaluation porte sur le comportement social ou des caractéristiques personnelles, et le score produit un traitement défavorable soit dans un contexte sans rapport avec les données d'origine, soit de façon disproportionnée. C'est ce détournement de finalité et cette disproportion qui caractérisent la pratique interdite.
Depuis quand la notation sociale est-elle interdite ?
Depuis le 2 février 2025, avec les autres pratiques interdites de l'article 5. Les systèmes concernés doivent déjà avoir été écartés, sous peine de s'exposer aux sanctions les plus élevées du règlement.