L'IA en santé est-elle à haut risque ?
Souvent, oui. Deux voies de classification se rencontrent dans le secteur. D'une part, un logiciel d'IA qui constitue un dispositif médical ou un composant de sécurité d'un tel dispositif relève de l'article 6 § 1 et de l'annexe I (via le règlement 2017/745 sur les dispositifs médicaux, dit MDR). D'autre part, certains usages non médicaux — l'accès aux soins, le tri des urgences, l'attribution de prestations — peuvent relever de l'annexe III au titre des services essentiels.
Comment l'AI Act s'articule-t-il avec la réglementation des dispositifs médicaux ?
L'AI Act ne remplace pas le MDR : il s'y superpose. Pour un dispositif médical intégrant de l'IA à haut risque, les exigences de l'AI Act s'ajoutent à celles du MDR, mais le règlement organise une articulation des procédures d'évaluation de la conformité pour éviter les doublons. Concrètement, l'évaluation peut être menée de façon intégrée, sous l'égide des organismes notifiés compétents.
| Acteur en santé | Rôle AI Act | Obligations principales |
|---|---|---|
| Éditeur de logiciel d'aide au diagnostic | Fournisseur | Exigences art. 8-15, conformité, marquage CE, MDR |
| Hôpital / clinique utilisant l'outil | Déployeur | Contrôle humain, information des patients, journaux, AIDF si applicable |
| Professionnel de santé | Utilisateur sous autorité du déployeur | Supervision effective, esprit critique sur les résultats |
| Établissement public de santé | Déployeur (organisme public) | AIDF obligatoire (art. 27) |
Quelles obligations pour un établissement de santé déployeur ?
Un établissement qui déploie un système d'IA à haut risque (aide au diagnostic, priorisation, prédiction de risque) doit notamment :
- utiliser le système conformément à la notice et confier son usage à des professionnels compétents et formés (article 26) ;
- assurer un [contrôle humain](/ressources/controle-humain-article-14) effectif : le professionnel de santé doit pouvoir comprendre, contester et écarter une recommandation de l'IA (article 14) ;
- informer les patients exposés à une décision fondée sur le système, dans le respect de la relation de soin ;
- conserver les journaux générés (au moins six mois) et surveiller le fonctionnement du système ;
- réaliser une [analyse d'impact sur les droits fondamentaux](/ressources/analyse-impact-droits-fondamentaux) pour les établissements publics ou fournissant un service public (article 27).
Et la littératie IA des soignants ?
L'obligation de littératie IA (article 4) prend un relief particulier en santé. Les professionnels amenés à utiliser des systèmes d'IA doivent disposer d'un niveau de maîtrise suffisant pour en interpréter correctement les résultats. C'est un chantier de formation à part entière, au croisement de la conformité et de la qualité des soins — un terrain où l'expertise pédagogique en santé fait la différence.
Questions fréquentes
Un logiciel d'aide au diagnostic est-il automatiquement à haut risque ?
S'il constitue un dispositif médical ou un composant de sécurité d'un dispositif soumis à évaluation par un tiers (MDR), il relève du régime haut risque de l'AI Act (article 6 § 1). La classification précise dépend de la nature et de la finalité médicale du logiciel.
L'AI Act remplace-t-il le règlement sur les dispositifs médicaux (MDR) ?
Non. Les deux cadres s'appliquent conjointement. L'AI Act ajoute ses exigences propres, mais organise l'articulation des procédures de conformité pour limiter les redondances avec le MDR.
Un établissement public de santé doit-il faire une AIDF ?
Oui, en tant qu'organisme de droit public déployant un système à haut risque, il est tenu de réaliser une analyse d'impact sur les droits fondamentaux (article 27) avant la première utilisation.
Le patient doit-il être informé de l'usage d'une IA ?
Oui, lorsqu'il est exposé à une décision prise ou assistée par un système à haut risque, le déployeur doit l'en informer (article 26). Cette information s'inscrit dans le respect de la relation de soin et du droit à l'information du patient.