Article 82 - Systèmes d'IA conformes présentant un risque

Explication de l’article

L’article 82 traite d’une situation paradoxale mais juridiquement essentielle : celle d’un système d’IA à haut risque qui est conforme à toutes les exigences du règlement, et qui présente pourtant un risque résiduel pour la santé, la sécurité, les droits fondamentaux ou d’autres aspects de l’intérêt public.

Cette hypothèse révèle une vérité importante du droit de la régulation : la conformité ne garantit pas l’absence de risque. Un système peut respecter point par point les exigences techniques, documentaires et procédurales du Chapitre III Section 2, et néanmoins produire des effets indésirables lorsqu’il est déployé dans un contexte particulier ou auprès d’une population spécifique. L’article 82 reconnaît cette limite intrinsèque du système normatif et dote les autorités d’un pouvoir d’intervention résiduel.

La procédure repose sur trois acteurs principaux. L’autorité de surveillance du marché, qui constate le risque après une évaluation menée au titre de l’article 79 et après consultation de l’autorité compétente en matière de droits fondamentaux. L’opérateur, qui doit prendre les mesures appropriées pour éliminer le risque, y compris sur tous les systèmes déjà mis à disposition sur le marché de l’Union. La Commission, qui coordonne l’évaluation au niveau européen et décide de la justification de la mesure nationale.

Contrairement aux articles 79 et 80, qui sanctionnent une non-conformité, l’article 82 organise une intervention en l’absence de toute faute du fournisseur. C’est un mécanisme préventif, fondé sur la précaution, et non répressif.

Notions clés à comprendre

La conformité comme condition nécessaire mais non suffisante L’article 82 affirme implicitement un principe fondamental : le respect des exigences réglementaires ne suffit pas à garantir l’absence de risque. Cette idée, classique en droit de la responsabilité du fait des produits, trouve dans l’IA Act une expression particulièrement marquée, en raison de la nature évolutive et contextuelle des risques posés par les systèmes d’intelligence artificielle.

Le risque résiduel Il s’agit du risque qui subsiste après l’application de toutes les mesures de conformité prévues par le règlement. Ce risque peut résulter de plusieurs facteurs : un contexte d’usage non anticipé par les exigences normatives, une interaction imprévue avec des facteurs externes, une population utilisatrice particulièrement vulnérable, ou une évolution des connaissances scientifiques rendant insuffisantes les exigences initialement prévues.

L’extension du critère au-delà des droits fondamentaux L’article 82 mentionne, en plus de la santé, de la sécurité et des droits fondamentaux, « d’autres aspects de la protection de l’intérêt public ». Cette formulation ouverte élargit considérablement le champ d’intervention des autorités. Elle peut englober des considérations environnementales, démocratiques, économiques ou sociales que les exigences techniques du règlement ne capturent pas directement.

L’absence de faute du fournisseur À la différence des procédures de l’article 79 et de l’article 80, la procédure de l’article 82 ne suppose aucun manquement de la part du fournisseur. Aucune sanction n’est mentionnée, seules des mesures correctives sont prescrites. C’est une dimension importante : le fournisseur conformément diligent peut néanmoins se voir imposer des obligations supplémentaires, sans que cela emporte responsabilité juridique au sens classique.

La consultation préalable de l’autorité compétente en droits fondamentaux Le §1 impose la consultation de l’autorité visée à l’article 77 §1, c’est à dire l’autorité ou l’organisme public chargé de la protection des droits fondamentaux. Cette consultation est obligatoire lorsque le risque identifié relève de cette dimension, et elle assure la transversalité de l’analyse, en évitant que la surveillance du marché soit cantonnée à une logique purement technique.

Exemple pratique

Contexte : Un fournisseur néerlandais commercialise un système d’IA à haut risque destiné au tri de candidatures dans le secteur public (Annexe III, point 4). Le système est parfaitement conforme à toutes les exigences du Chapitre III Section 2 : documentation technique complète, supervision humaine intégrée, données d’entraînement représentatives, évaluation des risques effectuée, marquage CE apposé.

Déroulé de la procédure :

• L’autorité de surveillance du marché française, dans le cadre d’une évaluation menée au titre de l’article 79, constate que le système, bien que conforme, produit des effets statistiquement défavorables sur les candidats issus de territoires d’outre mer. Le phénomène ne résulte pas d’un biais des données d’entraînement, qui sont équilibrées, mais d’une interaction imprévue avec les modalités de rédaction des candidatures dans ces régions.
• L’autorité consulte le Défenseur des droits, désigné comme autorité compétente en matière de droits fondamentaux au titre de l’article 77 §1. Le Défenseur confirme que le risque identifié relève bien d’une menace pour le droit à la non-discrimination, sans pour autant constituer une non-conformité au règlement.
  
  
• L’autorité demande à l’opérateur de prendre des mesures appropriées : ajout d’un module de correction contextuelle, formation renforcée des équipes utilisatrices, mise en place d’une procédure de revue manuelle pour les candidatures issues des territoires concernés. Un délai de six mois est fixé.
  
  
• L’autorité française informe immédiatement la Commission et les autres États membres. La notification détaille l’origine du système, la chaîne d’approvisionnement, la nature du risque et la durée des mesures imposées.
  
  
• La Commission entame des consultations avec les Pays Bas, État d’établissement du fournisseur, et avec l’opérateur. Elle conclut que la mesure française est justifiée et propose qu’elle soit étendue à l’ensemble du marché de l’Union, en suggérant en outre une mise à jour des lignes directrices applicables aux systèmes de tri de candidatures.