Qu'est-ce que l'explicabilité d'une IA ?
L'explicabilité désigne la capacité à rendre compréhensibles les résultats d'un système d'IA : pourquoi il a produit telle prédiction, telle recommandation ou telle décision. Elle s'oppose à l'effet « boîte noire » de certains modèles complexes, dont le raisonnement interne est difficile à retracer. L'explicabilité n'est pas binaire : elle se décline en niveaux, de la simple traçabilité des facteurs pris en compte à l'explication détaillée d'une décision individuelle.
L'AI Act impose-t-il un « droit à l'explicabilité » ?
Pas sous ce nom, ni comme une obligation unique. Mais l'exigence d'explicabilité traverse le règlement à travers trois dispositions complémentaires :
| Disposition | Ce qu'elle exige | Bénéficiaire |
|---|---|---|
| Transparence (art. 13) | Fonctionnement compréhensible via la notice | Le déployeur |
| Contrôle humain (art. 14) | Interpréter correctement les résultats | Les superviseurs |
| Droit à l'explication (art. 86) | Explications claires d'une décision individuelle | La personne concernée |
Transparence et contrôle humain : comprendre pour superviser
L'article 13 impose que le système soit suffisamment transparent pour que le déployeur interprète et utilise correctement ses résultats. L'article 14 va plus loin : le contrôle humain suppose de pouvoir comprendre les capacités et limites du système, interpréter ses sorties et détecter les anomalies. Sans un minimum d'explicabilité, ces exigences seraient vidées de sens : on ne peut pas superviser ce qu'on ne comprend pas.
Le droit à l'explication d'une décision (art. 86)
L'article 86 confère à la personne faisant l'objet d'une décision fondée sur un système à haut risque — décision à effet juridique ou significatif défavorable — le droit d'obtenir du déployeur des explications claires et pertinentes sur le rôle du système dans la décision et sur ses principaux éléments. C'est la traduction la plus directe de l'explicabilité au bénéfice des personnes.
Comment rendre son IA explicable ?
- 01
Choisir des systèmes interprétables quand c'est possible
À performance comparable, privilégiez les modèles dont les décisions sont plus faciles à expliquer, surtout pour les usages à fort impact.
- 02
Documenter les facteurs de décision
Identifiez et consignez les principaux éléments pris en compte par le système, pour pouvoir les restituer.
- 03
Outiller le contrôle humain
Fournissez aux superviseurs des explications utiles (facteurs, niveaux de confiance) leur permettant d'interpréter et de contester les résultats.
- 04
Préparer la réponse aux personnes
Anticipez les demandes d'explication (article 86) : sachez expliquer, en termes clairs, une décision à une personne concernée.
Questions fréquentes
L'AI Act interdit-il les modèles « boîte noire » ?
Non, il ne les interdit pas en tant que tels. Mais pour les systèmes à haut risque, les exigences de transparence, de contrôle humain et de droit à l'explication supposent un niveau d'explicabilité suffisant. Un modèle totalement opaque serait difficilement conciliable avec ces obligations.
Faut-il expliquer le fonctionnement technique du modèle ?
Non. L'AI Act vise l'explicabilité de la décision, pas la divulgation du fonctionnement interne du modèle. Il s'agit de rendre compréhensibles le rôle du système et les principaux éléments d'une décision, pas de publier son architecture.
Qui doit fournir l'explication à une personne ?
Le déployeur. C'est lui qui prend la décision sur la base du système d'IA et qui doit, au titre de l'article 86, fournir des explications claires à la personne concernée. Il s'appuie pour cela sur les informations fournies par le fournisseur.
L'explicabilité concerne-t-elle les systèmes à faible risque ?
Les obligations fortes (art. 13, 14, 86) visent le haut risque. Pour les autres systèmes, l'explicabilité reste une bonne pratique de confiance, mais n'est pas imposée avec la même intensité. La transparence de l'article 50 s'applique néanmoins à certains usages.