Que recouvre l'article 15 ?
L'article 15 énonce trois exigences complémentaires, indissociables de la sécurité d'un système à haut risque : l'exactitude, la robustesse et la cybersécurité. Elles doivent être garanties non pas ponctuellement, mais de manière constante sur toute la durée de vie du système, y compris après des mises à jour ou une évolution de l'environnement d'usage.
L'exactitude : mesurer et déclarer
Le système doit atteindre un niveau d'exactitude approprié à sa finalité. Surtout, ce niveau et les métriques utilisées pour le mesurer doivent être déclarés dans la [notice d'utilisation](/ressources/transparence-notice-article-13) (article 13). Cette transparence permet au déployeur de savoir à quoi s'attendre — et de ne pas surestimer la fiabilité du système.
La robustesse : résister aux erreurs et aux aléas
La robustesse désigne la capacité du système à rester fiable face aux erreurs, défaillances et incohérences susceptibles de survenir en usage, notamment du fait d'interactions avec des personnes ou d'autres systèmes. Des solutions techniques (redondance, plans de secours, mécanismes de repli) peuvent être nécessaires. Une attention particulière est portée aux systèmes qui continuent d'apprendre après leur mise sur le marché, pour éviter les boucles de rétroaction biaisées.
La cybersécurité : contrer les attaques propres à l'IA
Au-delà de la cybersécurité classique, l'article 15 vise explicitement des menaces spécifiques à l'IA. Le système doit résister aux tentatives de tiers d'exploiter ses vulnérabilités pour altérer son usage, ses résultats ou ses performances.
| Type d'attaque | Principe | Enjeu |
|---|---|---|
| Empoisonnement des données | Corrompre les données d'entraînement (« data poisoning ») | Fausser le comportement du modèle |
| Empoisonnement du modèle | Corrompre les composants pré-entraînés (« model poisoning ») | Introduire une porte dérobée |
| Attaque adverse | Manipuler les entrées pour tromper le modèle (« evasion ») | Provoquer une erreur ciblée |
| Attaque par confidentialité | Extraire des données ou le modèle | Fuite de données ou de propriété intellectuelle |
Comment l'article 15 s'articule-t-il avec les autres exigences ?
La robustesse et la cybersécurité alimentent le système de gestion des risques (article 9) et se documentent dans la [documentation technique](/ressources/documentation-technique-annexe-iv) (annexe IV). Pour les acteurs déjà soumis à des cadres de cybersécurité — comme le règlement DORA dans la finance ou la directive NIS 2 — l'article 15 s'articule avec ces dispositifs, sans les remplacer.
Le règlement sur la cyberrésilience évite le double travail
Un produit comportant des éléments numériques relève souvent aussi du règlement (UE) 2024/2847 sur la cyberrésilience. Son article 12 prévoyait déjà que les systèmes d'IA à haut risque conformes à ses exigences essentielles de cybersécurité sont réputés conformes à celles de l'article 15 de l'AI Act. Cette règle existait donc, mais dans l'autre texte — beaucoup d'équipes l'ignoraient.
Comment se mettre en conformité ?
- 01
Définir les métriques d'exactitude
Mesurez la performance du système et déclarez les niveaux et métriques dans la notice d'utilisation.
- 02
Éprouver la robustesse
Testez le comportement du système face aux erreurs, cas limites et entrées inattendues ; prévoyez des mécanismes de repli.
- 03
Conduire des tests adverses
Menez des tests de sécurité spécifiques à l'IA (empoisonnement, attaques adverses), au-delà des tests applicatifs classiques.
- 04
Documenter et surveiller
Intégrez ces éléments à la documentation technique et à la surveillance post-commercialisation (art. 72).
Questions fréquentes
L'article 15 concerne-t-il tous les systèmes d'IA ?
Non, uniquement les systèmes à haut risque. Cela dit, exactitude, robustesse et cybersécurité sont des bonnes pratiques utiles à tout système d'IA, y compris hors du champ du haut risque.
Qu'est-ce que l'empoisonnement des données ?
C'est une attaque consistant à corrompre les données d'entraînement d'un modèle pour altérer son comportement — par exemple introduire une porte dérobée ou dégrader ses performances sur certains cas. L'article 15 impose des mesures pour prévenir et gérer ce risque.
La cybersécurité de l'IA remplace-t-elle DORA ou NIS 2 ?
Non. Ces cadres se cumulent. DORA (finance) et NIS 2 encadrent la sécurité des systèmes d'information ; l'article 15 y ajoute des exigences propres aux modèles d'IA. L'enjeu est d'articuler ces dispositifs de façon cohérente.
Mon produit est déjà conforme au règlement sur la cyberrésilience. Dois-je refaire le travail ?
Non, pas pour la partie cybersécurité. L'article 42 § 3 de l'AI Act, ajouté par l'omnibus numérique, reprend la règle de l'article 12 du règlement (UE) 2024/2847 : un système à haut risque conforme à ses exigences essentielles de cybersécurité est réputé conforme à celles de l'article 15, dans la mesure où elles sont couvertes par la déclaration UE de conformité délivrée à ce titre. Attention toutefois : l'exactitude et la robustesse, également exigées par l'article 15, ne sont pas couvertes par cette présomption.
Qui est responsable de l'article 15 ?
Principalement le fournisseur, qui conçoit le système pour atteindre ces niveaux et les documente. Le déployeur contribue en utilisant le système conformément à la notice et en surveillant son fonctionnement, notamment sur le plan de la sécurité.