Article 86 - Droit à l’explication des décisions individuelles

Explication de l’article

L’article 86 de l’IA Act reconnaît à certaines personnes concernées le droit d’obtenir une explication claire et pertinente lorsqu’une décision individuelle a été prise sur la base des résultats d’un système d’IA à haut risque. L’objectif est d’éviter qu’une personne subisse une décision importante sans comprendre suffisamment quel rôle l’IA a joué dans cette décision et quels sont les principaux éléments ayant conduit à celle-ci.

Ce droit est particulièrement important lorsque la décision peut avoir des conséquences importantes sur la santé, la sécurité, les droits fondamentaux ou la situation juridique de la personne.

Le droit à l’explication ne concerne cependant pas tous les systèmes d’IA ni toutes les décisions. L’article 86 vise les systèmes d’IA à haut risque mentionnés à l’annexe III, à l’exception des systèmes relevant du point 2 de cette annexe. Il s’applique lorsque la décision produit des effets juridiques ou affecte de manière significative la personne et que celle-ci considère que la décision a des conséquences négatives sur sa santé, sa sécurité ou ses droits fondamentaux.

1. Que doit expliquer le déployeur ?

L’article 86 ne demande pas nécessairement au déployeur de révéler l’intégralité du fonctionnement technique ou du code source du système. Il doit fournir une explication claire et pertinente concernant le rôle du système d’IA dans la procédure décisionnelle et les principaux éléments de la décision prise.

L’objectif est donc de permettre à la personne de comprendre suffisamment comment l’IA a participé à la décision et quels éléments principaux ont conduit à celle-ci.

2. Le droit à l’explication complète d’autres droits

Le droit à l’explication prévu par l’article 86 ne doit pas être considéré isolément. Le considérant 171 précise que l’explication doit être suffisamment claire et pertinente pour permettre à la personne concernée d’exercer ses droits. L’explication peut donc permettre à une personne de mieux comprendre une décision et, si nécessaire, de déterminer si elle souhaite utiliser d’autres mécanismes de recours.

3. Le droit à l’explication n’est pas absolu

L’article 86 prévoit certaines limites. Le paragraphe 2 indique que le droit ne s’applique pas lorsque le droit de l’Union ou le droit national prévoit une exception ou une restriction, dans le respect du droit de l’Union.

Le paragraphe 3 ajoute que l’article 86 ne s’applique que dans la mesure où ce droit à l’explication n’est pas déjà prévu par une autre disposition du droit de l’Union. Cela signifie que l’article 86 vient compléter les mécanismes existants plutôt que de les remplacer.

En résumé: Lorsqu’une personne fait l’objet, dans les conditions prévues par le règlement, d’une décision importante fondée sur les résultats d’un système d’IA à haut risque, elle peut demander au déployeur une explication claire et pertinente sur le rôle joué par l’IA et sur les principaux éléments ayant conduit à la décision.

En conséquence, l’objectif principal de l’article 86 est de renforcer la transparence des décisions individuelles prises avec l’aide de l’IA, afin que la personne concernée puisse comprendre le rôle du système d’IA et, lorsque cela est nécessaire, exercer effectivement ses droits.

Notions clés à comprendre

Personne concernée / personne affectée : personne physique qui subit une décision prise sur la base du résultat d’un système d’IA à haut risque.

Déployeur : personne physique ou morale, autorité publique, agence ou autre organisme qui utilise un système d’IA sous sa responsabilité.

Décision individuelle : décision concernant une personne déterminée et ayant une incidence concrète sur sa situation.

Effet juridique : décision qui produit des conséquences juridiques pour une personne, par exemple en affectant ses droits ou obligations.

Effet significatif similaire : conséquence importante pour une personne même lorsqu’elle ne constitue pas directement un effet juridique.

Sortie du système d’IA : résultat, recommandation, prédiction ou information produite par le système et utilisée dans le processus décisionnel.

Droits fondamentaux : droits essentiels protégés par le droit de l’Union, comme la non-discrimination, la protection des données, la vie privée ou le droit à un recours effectif.

Exemple pratique

Une entreprise utilise un système d’IA pour aider son service des ressources humaines à sélectionner des candidats. Le système analyse les CV et les informations professionnelles fournies par les candidats. Il attribue ensuite un score à chaque candidature et recommande certains candidats au recruteur.

Un candidat reçoit finalement une réponse négative. Il estime que cette décision pourrait avoir été influencée de manière importante par le système d’IA et considère que cette décision pourrait avoir un impact négatif sur ses droits, notamment en matière de non-discrimination.

Application de l’article 86

Si le système utilisé relève des systèmes d’IA à haut risque concernés par l’annexe III et que les autres conditions de l’article 86 sont remplies, le candidat peut demander au déployeur une explication afin de comprendre quel rôle l’IA a joué dans l’évaluation de sa candidature, quels principaux éléments ont été pris en compte, comment le résultat du système a contribué à la décision finale et quelle place l’intervention humaine a occupée dans la décision.

Le déployeur doit alors fournir une explication claire et pertinente sur le rôle du système et les principaux éléments de la décision, dans les limites prévues par l’article 86.

Cet exemple montre que l’objectif n’est pas nécessairement de permettre au candidat de connaître tous les détails techniques du modèle. Il s’agit surtout de lui permettre de comprendre la place de l’IA dans la décision qui l’affecte. Cette information peut ensuite lui permettre de mieux exercer ses autres droits, par exemple s’il estime que la décision est discriminatoire ou qu’une autre règle juridique n’a pas été respectée.

Perspectives avec d’autres textes

RGPD

Le lien avec le RGPD est particulièrement important. Lorsque le système d’IA utilise des données personnelles, le RGPD continue de s’appliquer. Le considérant 10 de l’IA Act rappelle que le règlement ne remet pas en cause l’application des règles existantes de l’Union relatives à la protection des données personnelles. Les responsables de traitement et sous-traitants restent soumis à leurs obligations en matière de protection des données lorsque la conception, le développement ou l’utilisation d’un système d’IA implique un traitement de données personnelles.

Pour une organisation, cela signifie qu’une même décision peut nécessiter une double analyse : IA Act → le système d’IA est-il conforme ? RGPD → le traitement des données personnelles est-il conforme ?

L’article 22 du RGPD

En ce qui concerne l’article 22 du RGPD, il concerne la prise de décision individuelle automatisée, y compris le profilage. Il prévoit, dans certaines conditions, le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou affectant de manière significative la personne.

Le RGPD prévoit également certaines garanties lorsque ce type de décision est autorisé, notamment la possibilité d’obtenir une intervention humaine, d’exprimer son point de vue et de contester la décision. L’article 86 de l’IA Act et l’article 22 du RGPD peuvent donc se compléter lorsqu’un système d’IA traite des données personnelles.

Les articles 13 à 15 du RGPD

L’article 86 peut également être rapproché des obligations de transparence prévues par les articles 13, 14 et 15 du RGPD. Lorsque des données personnelles sont traitées par un système d’IA, la personne concernée peut bénéficier des informations prévues par le RGPD.

Le responsable du traitement doit notamment fournir certaines informations sur le traitement et, dans les situations prévues par le RGPD, des informations utiles concernant la logique impliquée dans certains traitements automatisés.

Les obligations provenant de l’article 86 de l’IA Act et des articles 13, 14 et 15 du RGPD  peuvent donc se cumuler lorsque les conditions de leur application sont réunies.

La Charte des droits fondamentaux

L’article 86 peut également être rapproché de l’article 47 de la Charte des droits fondamentaux de l’Union européenne, qui garantit le droit à un recours effectif et à accéder à un tribunal impartial.

Une personne qui comprend mieux les raisons et les principaux éléments d’une décision peut être davantage en mesure de déterminer si elle doit exercer un recours. Le considérant 171 souligne précisément que l’explication doit permettre à la personne concernée d’exercer ses droits.