Un chatbot doit-il dire qu'il est une IA ?
Oui, en principe. L'article 50 § 1 impose que les personnes soient informées qu'elles interagissent avec un système d'IA lorsque celui-ci est destiné à interagir directement avec elles — sauf si cela est évident pour une personne raisonnablement avertie, compte tenu du contexte. En pratique, une mention explicite (« Vous discutez avec un assistant virtuel ») est la manière la plus sûre de se conformer, et la plus loyale vis-à-vis de l'utilisateur.
Quel est le niveau de risque d'un chatbot ?
La grande majorité des chatbots — support, FAQ, prise de rendez-vous, assistance commerciale — relèvent du risque limité : ils sont soumis à l'obligation de transparence de l'article 50, mais pas au régime lourd du haut risque. Ils peuvent toutefois changer de catégorie selon leur usage.
| Usage du chatbot | Régime probable | Obligation clé |
|---|---|---|
| Support client, FAQ, assistance | Risque limité | Signaler l'IA (art. 50) |
| Assistance commerciale, qualification | Risque limité | Transparence + RGPD |
| Orientation vers prestations essentielles | Potentiellement haut risque | Régime annexe III |
| Décision automatisée à fort impact | Haut risque / RGPD art. 22 | Contrôle humain, explication |
| Génération de contenus diffusés | Transparence (art. 50 § 2) | Marquage des contenus |
Quand un chatbot devient-il à haut risque ?
Un agent conversationnel bascule vers le haut risque lorsqu'il est utilisé dans un domaine de l'annexe III et qu'il prend — ou influence significativement — des décisions à fort impact. Par exemple : un chatbot qui décide de l'éligibilité à une prestation sociale, oriente un patient dans un parcours de soins déterminant, ou filtre des candidats à l'emploi. Dans ces cas, les obligations des articles 8 à 27 s'appliquent, dont le contrôle humain et l'information des personnes.
Et le RGPD dans tout ça ?
Un chatbot traite presque toujours des données personnelles (identité, historique, contenu des échanges). Le RGPD s'applique donc : information des personnes, base légale, minimisation, sécurité, et vigilance particulière si les conversations peuvent contenir des données sensibles. Attention aussi aux chatbots reposant sur des modèles tiers : les données saisies peuvent transiter par le fournisseur du modèle, ce qui appelle un encadrement contractuel.
Comment déployer un chatbot conforme ?
- 01
Afficher la mention d'IA
Indiquez clairement que l'utilisateur s'adresse à un assistant virtuel (art. 50 § 1).
- 02
Qualifier l'usage
Vérifiez si le chatbot touche à un domaine de l'annexe III ou prend des décisions à fort impact.
- 03
Prévoir un recours humain
Pour les sujets sensibles, permettez toujours de basculer vers un conseiller humain.
- 04
Encadrer les données
Appliquez le RGPD et contractualisez avec le fournisseur du modèle sur le traitement des conversations.
Questions fréquentes
Tous les chatbots doivent-ils afficher qu'ils sont des IA ?
Oui, sauf si cela ressort clairement du contexte pour une personne raisonnablement avertie. Dans le doute, mieux vaut afficher une mention explicite : c'est simple, loyal et sécurise la conformité à l'article 50 § 1.
Un chatbot de service client est-il à haut risque ?
En général, non : il relève du risque limité (transparence). Il ne devient à haut risque que s'il est utilisé dans un domaine de l'annexe III et prend ou influence des décisions à fort impact (prestations essentielles, santé, emploi…).
Mon chatbot peut-il prendre une décision seul (ex. refuser un remboursement) ?
Une décision à effet juridique ou significatif prise de façon entièrement automatisée relève de l'article 22 du RGPD (droit à une intervention humaine) et, si le contexte est à haut risque, du contrôle humain de l'AI Act. Prévoyez un recours humain pour ces décisions.
Les conversations avec le chatbot sont-elles des données personnelles ?
Le plus souvent, oui : elles contiennent des informations sur l'utilisateur et son historique. Le RGPD s'applique donc, avec une vigilance accrue si les échanges peuvent révéler des données sensibles (santé, opinions…).