Article 61 IA Act : Consentement éclairé à participer aux essais en conditions réelles en dehors des bacs à sable réglementaires de l’IA
Table des matières
Explication de l’article
L’article 61 de l’AI Act encadre le consentement des personnes qui participent à des essais de systèmes d’IA à haut risque en conditions réelles, réalisés en dehors des bacs à sable réglementaires de l’IA.
Ces essais, prévus à l’article 60, permettent d’évaluer le fonctionnement d’un système dans des conditions proches de son utilisation effective. Ils peuvent toutefois exposer les participants à des désagréments ou à des risques. Il est donc essentiel qu’ils comprennent ce à quoi ils acceptent de participer et qu’ils puissent exercer leurs droits en toute liberté.
L’article 61 poursuit deux objectifs principaux : garantir que le consentement soit libre et éclairé, et assurer que les informations communiquées ainsi que le consentement recueilli soient documentés.
1. Informer les participants avant les essais
Le paragraphe 1 impose d’obtenir le consentement éclairé et librement donné des participants avant leur participation aux essais.
Les informations communiquées doivent être concises, claires, pertinentes et compréhensibles. Elles doivent porter sur cinq éléments essentiels :
- La nature et les objectifs des essais : les participants doivent comprendre pourquoi le système est testé et quels désagréments éventuels leur participation peut entraîner.
- Les conditions des essais : ils doivent connaître les modalités de réalisation des essais, notamment la durée prévue de leur participation.
- Leurs droits et garanties : ils doivent être informés de leur droit de refuser de participer et de se retirer à tout moment, sans subir de préjudice et sans avoir à justifier leur décision.
- La possibilité de contester les résultats du système : ils doivent savoir comment demander qu’une prévision, une recommandation ou une décision produite par le système d’IA soit infirmée ou ignorée.
- L’identification des essais et les coordonnées du fournisseur : les informations doivent comprendre le numéro d’identification unique des essais à l’échelle de l’Union européenne, ainsi que les coordonnées du fournisseur ou de son représentant légal, auprès duquel des renseignements complémentaires peuvent être obtenus.
L’objectif est de permettre aux personnes de prendre une décision réellement éclairée, sans dissimuler les conditions de participation ou les conséquences possibles des essais.
2. Documenter le consentement
Le paragraphe 2 prévoit que le consentement éclairé doit être daté et documenté. Une copie doit être remise au participant ou à son représentant légal.
Cette formalité permet de conserver une trace du consentement recueilli et de démontrer que la procédure a été respectée.
Il ne suffit donc pas d’obtenir un accord oral ou de demander aux participants de cocher une case sans leur avoir communiqué les informations nécessaires. Le fournisseur doit prévoir une procédure adaptée permettant de démontrer que le consentement a été recueilli avant le début de la participation et dans les conditions prévues par le règlement.
3. Garantir un consentement réellement libre
Le consentement ne peut être considéré comme libre si la personne subit une pression ou risque un désavantage en refusant de participer.
L’article 61 protège expressément le droit de refuser les essais et celui de s’en retirer à tout moment, sans préjudice ni justification.
Cette garantie est particulièrement importante lorsque les essais se déroulent dans un environnement professionnel ou dans une organisation où les participants peuvent craindre des conséquences négatives en cas de refus.
Le fournisseur doit donc veiller à ce que la procédure d’information et de recueil du consentement respecte effectivement ces droits.
Il faut également distinguer le consentement à participer aux essais du consentement éventuellement requis pour un traitement de données à caractère personnel. Le respect de l’article 61 ne dispense pas de vérifier les exigences du RGPD lorsque des données personnelles sont collectées ou utilisées.
En résumé, l’article 61 garantit que la participation aux essais en conditions réelles repose sur une décision libre et éclairée, prise après réception d’informations compréhensibles et formalisée par un consentement daté et documenté.
Notions clés à comprendre
Essais en conditions réelles : essais destinés à évaluer un système d’IA dans des conditions proches de son utilisation effective, dans le cadre prévu à l’article 60 de l’IA Act.
Consentement éclairé : accord donné après réception d’informations suffisantes, claires et compréhensibles sur les essais, leurs objectifs, leurs conditions et les droits des participants.
Consentement libre : accord donné sans pression et sans risque de préjudice en cas de refus ou de retrait.
Retrait de la participation : possibilité pour le participant de se retirer à tout moment, sans avoir à justifier sa décision et sans subir de préjudice.
Réversibilité des résultats : possibilité de demander que les prévisions, recommandations ou décisions du système d’IA soient infirmées ou ignorées, selon les modalités communiquées aux participants.
Traçabilité du consentement : obligation de dater et de documenter le consentement, puis d’en remettre une copie au participant ou à son représentant légal.
Numéro d’identification unique des essais : identifiant à l’échelle de l’Union européenne permettant d’identifier les essais concernés.
Exemple pratique
Une entreprise développe un système d’IA à haut risque destiné à aider les professionnels de santé à repérer certains signes pouvant nécessiter un examen complémentaire. Avant sa commercialisation, elle souhaite tester le système en conditions réelles dans plusieurs établissements, en dehors d’un bac à sable réglementaire.
Avant le début des essais, les personnes appelées à y participer reçoivent une information claire sur les objectifs du test, son déroulement, sa durée et les éventuels désagréments liés à leur participation. Elles sont également informées de leur droit de refuser ou de se retirer à tout moment, sans subir de préjudice.
L’information précise comment demander qu’une recommandation du système soit ignorée ou infirmée. Elle indique également le numéro d’identification des essais et les coordonnées du fournisseur permettant d’obtenir des renseignements complémentaires.
Les participants qui acceptent donnent leur consentement avant de commencer. Celui-ci est daté et documenté, et une copie leur est remise.
Si une personne décide ensuite de se retirer, elle peut le faire sans devoir expliquer sa décision et sans subir de conséquence défavorable liée à ce retrait.
Le fournisseur doit également vérifier les autres obligations applicables aux essais, notamment celles relatives à la protection des données personnelles et, selon le contexte, à la réglementation des recherches impliquant la personne humaine.
Cet exemple illustre que le consentement ne constitue pas une simple formalité administrative : il permet aux participants de comprendre leur rôle, de connaître leurs droits et de décider librement s’ils souhaitent prendre part aux essais.
Texte original de l’IA Act
Article 61 – Consentement éclairé à participer aux essais en conditions réelles en dehors des bacs à sable réglementaires de l’IA
Perspectives avec d’autres textes
Perspectives européennes
Charte des droits fondamentaux de l’Union européenne
La Charte protège notamment la dignité humaine (article 1), le respect de la vie privée (article 7), la protection des données à caractère personnel (article 8) et la non-discrimination (article 21).
L’article 61 contribue à la protection des personnes pendant les essais, en garantissant leur information et leur liberté de participation. Ces garanties doivent être mises en œuvre en tenant compte des autres droits fondamentaux susceptibles d’être concernés par le système testé.
RGPD
Le RGPD encadre le traitement des données personnelles pendant les essais en conditions réelles : principes de licéité et de minimisation, base juridique du traitement et garanties particulières pour les données sensibles. Le consentement éclairé exigé par l’article 61 de l’IA Act pour participer à l’essai ne constitue pas automatiquement le consentement requis comme base juridique du traitement des données au titre du RGPD.
Règlement (UE) n° 536/2014 relatif aux essais cliniques de médicaments à usage humain
Lorsque les essais d’un système d’IA s’inscrivent dans un essai clinique de médicament, ce règlement encadre notamment l’information des participants et leur consentement éclairé. Il complète l’article 61 de l’IA Act, sans s’appliquer automatiquement à tous les essais de systèmes d’IA.
Perspectives françaises
Code de la santé publique
Ces articles encadrent l’information des participants et le recueil de leur consentement dans le cadre des recherches impliquant la personne humaine. Ils complètent l’article 61 de l’IA Act lorsque les essais d’IA relèvent également de ce régime national de recherche, sans s’appliquer à tous les essais en conditions réelles.
Loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés
Cette loi complète le RGPD dans le cadre français de la protection des données personnelles. Elle est pertinente lorsque les essais en conditions réelles impliquent des données personnelles, en particulier dans les domaines soumis à des règles spécifiques de recherche et de santé.
L’IA ACT peut sembler complexe. L’équipe de DPO externe de Mon Expert RGPD vous accompagne à mettre en place des procédures conformes et juridiquement sécurisées.
Menu IA Act
Besoin d’aide pour cet article ?
Comprendre les obligations liées à cet article et éviter les erreurs.
🔓 Échange confidentiel – Sans engagement