Qu'est-ce qu'un essai en conditions réelles ?
Il s'agit de tester temporairement un système d'IA à haut risque dans son environnement réel d'utilisation, hors d'un laboratoire ou d'un cadre simulé, mais avant sa mise sur le marché ou sa mise en service. Objectif : recueillir des données fiables sur son comportement réel, affiner sa performance et sa sécurité. Ce dispositif se distingue du [bac à sable réglementaire](/ressources/bacs-a-sable-reglementaires) : il ne se déroule pas nécessairement sous la supervision directe d'une autorité au sein d'un environnement contrôlé, mais suit des règles propres définies à l'article 60.
Quelles sont les conditions à respecter (art. 60) ?
Le fournisseur — ou fournisseur potentiel — d'un système à haut risque qui souhaite mener de tels essais doit réunir plusieurs conditions cumulatives.
| Exigence | Contenu |
|---|---|
| Plan d'essai | Établir un plan d'essai en conditions réelles et le soumettre à l'autorité de surveillance du marché |
| Enregistrement | Inscrire l'essai dans la partie non publique de la base de données de l'UE, avec un numéro d'identification unique |
| Durée | Limiter l'essai à six mois au maximum, prolongeable une seule fois de six mois supplémentaires |
| Garanties | Prévoir supervision par des personnes qualifiées, réversibilité et effacement des données possibles |
| Consentement | Recueillir le consentement éclairé des participants (article 61), sauf exceptions encadrées |
| Populations vulnérables | Protéger spécifiquement les personnes vulnérables en raison de leur âge ou d'un handicap |
Le consentement éclairé des participants (art. 61)
Lorsque l'essai implique des personnes, l'article 61 impose de recueillir leur consentement libre et éclairé avant participation. Les participants doivent recevoir une information claire sur la nature et les objectifs de l'essai, les modalités de leur participation, leurs droits — notamment celui de se retirer à tout moment sans préjudice et sans justification — et les conditions dans lesquelles le système est testé. Ce consentement doit être documenté et daté, une copie étant remise au participant.
Essai en conditions réelles ou bac à sable : quelle différence ?
Les deux dispositifs soutiennent l'innovation, mais répondent à des logiques distinctes. Le bac à sable réglementaire (articles 57 à 59) offre un environnement contrôlé, établi par une autorité, propice au dialogue réglementaire et à l'accompagnement. L'essai en conditions réelles (article 60) se déroule dans l'environnement réel d'utilisation, avec ses propres garanties. Les deux peuvent d'ailleurs se combiner : un essai en conditions réelles peut être mené dans le cadre d'un bac à sable.
Comment préparer un essai en conditions réelles ?
- 01
Vérifier l'éligibilité du système
Le régime vise les systèmes à haut risque ; identifiez précisément le statut de votre système avant d'engager la démarche.
- 02
Rédiger le plan d'essai
Décrivez objectifs, périmètre, durée, garanties, gestion des risques et modalités de supervision humaine.
- 03
Enregistrer et notifier
Inscrivez l'essai dans la base de données de l'UE (partie non publique) et soumettez le plan à l'autorité de surveillance du marché.
- 04
Organiser le consentement et le retrait
Préparez l'information et le recueil du consentement des participants, ainsi que la procédure de retrait sans préjudice.
Questions fréquentes
Combien de temps peut durer un essai en conditions réelles ?
Six mois au maximum. Cette durée peut être prolongée une seule fois, de six mois supplémentaires, à condition d'en informer préalablement l'autorité de surveillance du marché et d'en justifier la nécessité. L'essai doit rester temporaire et proportionné à son objectif.
Faut-il une autorisation préalable de l'autorité ?
Le fournisseur doit soumettre un plan d'essai à l'autorité de surveillance du marché et enregistrer l'essai dans la base de données de l'UE. Les États membres peuvent préciser les modalités ; l'essai est encadré et supervisé, et l'autorité peut demander des informations ou l'arrêter.
Les participants peuvent-ils se retirer de l'essai ?
Oui, à tout moment, sans avoir à se justifier et sans subir de préjudice (article 61). Le retrait entraîne l'arrêt de leur participation et peut donner lieu à l'effacement de leurs données personnelles. Ce droit doit leur être clairement communiqué avant le début de l'essai.
Un essai réussi vaut-il conformité ?
Non. L'essai sert à recueillir des données en conditions réelles, pas à valider la conformité réglementaire. Avant toute mise sur le marché, le système à haut risque doit satisfaire l'ensemble des exigences des articles 8 à 27 et suivre sa procédure d'évaluation de conformité.