Article 86 - Droit à l'explication des décisions individuelles

Explication de l’article

L’article 86 consacre un droit nouveau : le droit pour une personne d’obtenir des explications sur une décision individuelle prise avec l’appui d’un système d’IA à haut risque.

Cet article répond à une préoccupation majeure de l’ère algorithmique : l’opacité des systèmes automatisés. Lorsqu’une décision lourde de conséquences est prise avec l’appui d’une IA, la personne touchée se trouve souvent démunie, faute de comprendre comment et pourquoi cette décision a été rendue. L’article 86 vient corriger ce déséquilibre en imposant une transparence individualisée.

Le champ d’application est précisément délimité. Plusieurs conditions doivent être réunies :

• la décision doit avoir été prise par le responsable du déploiement, et non par le fournisseur qui a conçu le système ;
• elle doit reposer sur un système d’IA à haut risque figurant à l’annexe III, à l’exception des systèmes du point 2 de cette annexe (infrastructures critiques) ;
• elle doit produire des effets juridiques ou affecter la personne de manière significative ;
• elle doit présenter, du point de vue de la personne, une incidence négative sur sa santé, sa sécurité ou ses droits fondamentaux.

Lorsque ces conditions sont réunies, la personne peut exiger des explications claires et utiles portant sur deux points : le rôle du système d’IA dans la procédure décisionnelle, et les principaux éléments ayant fondé la décision. L’exigence de clarté et d’utilité est essentielle : il ne s’agit pas de noyer la personne sous un jargon technique, mais de lui fournir une explication compréhensible et exploitable.

Les paragraphes 2 et 3 délimitent la portée du droit :

• le paragraphe 2 réserve les exceptions découlant du droit de l’Union ou du droit national conforme, par exemple pour protéger des secrets ou des intérêts légitimes ;
• le paragraphe 3 pose une règle de subsidiarité : l’article 86 ne s’applique que dans la mesure où un droit équivalent n’est pas déjà prévu ailleurs dans le droit de l’Union, notamment par le RGPD.

Notions clés à comprendre

Droit à l’explication Droit d’obtenir des informations compréhensibles sur la manière dont une décision individuelle a été prise avec l’appui d’un système d’IA. Ce droit ne vise pas à dévoiler l’intégralité du code ou des secrets techniques, mais à éclairer la personne sur le rôle joué par le système et sur les éléments principaux ayant fondé la décision. Il s’agit d’un droit à la compréhension, instrument de contestation et de défense.

Responsable du déploiement L’acteur qui utilise le système d’IA dans le cadre de son activité et qui prend la décision sur la base de ses résultats. L’obligation d’explication pèse sur lui, et non sur le fournisseur. Cette répartition est logique : c’est le déployeur qui est en contact avec la personne concernée et qui maîtrise le contexte d’usage de la décision.

Système d’IA à haut risque de l’annexe III L’annexe III dresse la liste des systèmes à haut risque dans des domaines sensibles touchant directement les personnes. Le droit à l’explication ne couvre que ces systèmes, à l’exclusion de ceux mentionnés au point 2 relatifs aux infrastructures critiques. Cette restriction cible le droit sur les situations où une décision algorithmique pèse réellement sur la vie d’un individu.

Décision produisant des effets juridiques ou affectant de manière significative Toute décision n’ouvre pas le droit à l’explication. Il faut qu’elle emporte des conséquences juridiques, par exemple le refus d’un droit ou d’un avantage, ou qu’elle affecte la personne de façon notable. Cette condition de seuil écarte les décisions mineures ou sans réelle portée.

Incidence négative sur la santé, la sécurité ou les droits fondamentaux La référence aux droits fondamentaux est large et englobe notamment la non-discrimination, la dignité ou la vie privée. C’est cette dimension de préjudice potentiel qui justifie le besoin de comprendre la décision.

Explications claires et utiles L’explication doit être claire, c’est-à-dire accessible et dépourvue de complexité inutile, et utile, c’est-à-dire réellement éclairante pour la personne. Une explication abstraite, purement technique ou évasive ne satisferait pas à cette exigence. Le critère est celui de l’effet utile pour la personne concernée.

Règle de subsidiarité du paragraphe 3 L’article 86 cède le pas lorsqu’un droit équivalent existe déjà dans le droit de l’Union. Cette articulation évite la superposition de droits identiques et désigne, en cas de chevauchement, le texte le plus spécifique. Elle est particulièrement importante au regard du RGPD.

Exemple pratique

Contexte

Une personne sollicite un crédit auprès d’un établissement financier. Pour évaluer sa solvabilité, l’établissement utilise un système d’IA à haut risque relevant de l’annexe III, qui analyse de nombreux paramètres et attribue un score. Sur cette base, l’établissement refuse le crédit.

Ce refus produit un effet significatif sur la personne, qui estime que la décision porte atteinte à ses droits et soupçonne un traitement injuste. Une intervention humaine a validé la décision finale, mais le système d’IA a joué un rôle déterminant dans l’analyse.

Déroulé de la procédure

• La personne adresse au responsable du déploiement, ici l’établissement financier, une demande d’explication sur le fondement de l’article 86.
• L’établissement vérifie que les conditions sont réunies : décision fondée sur un système d’IA à haut risque de l’annexe III, effet significatif, incidence négative alléguée sur les droits de la personne.
• L’établissement fournit des explications claires et utiles : rôle du système dans la procédure (calcul d’un score de solvabilité) et principaux éléments ayant fondé la décision (facteurs ayant le plus pesé dans l’évaluation).
• L’explication est rédigée de façon compréhensible, sans jargon technique inutile, afin que la personne puisse comprendre les raisons du refus et, le cas échéant, le contester.
• Forte de ces explications, la personne peut décider de contester la décision, de fournir des éléments complémentaires ou d’exercer d’autres recours, notamment au titre du RGPD si la décision repose sur un traitement automatisé de ses données.