Article 84 - Structures de soutien aux essais de l'IA de l'Union

Explication de l’article

L’article 84 institue un outil technique au service de la surveillance du marché : les structures de soutien de l’Union pour les essais d’IA.

Le problème auquel cet article répond est le suivant : Les autorités nationales de surveillance disposent de pouvoirs juridiques importants, mais ne possèdent pas toujours les compétences techniques pour évaluer un système d’IA complexe. Contrôler un système à haut risque suppose de comprendre des architectures algorithmiques, des jeux de données d’entraînement, des méthodes de validation : autant de domaines qui dépassent la seule analyse juridique.

L’article 84 organise donc une mutualisation de l’expertise au niveau de l’Union. Plutôt que d’exiger de chaque État membre qu’il développe seul des capacités de test coûteuses, le règlement permet à la Commission de désigner des structures spécialisées, capables de réaliser des essais et des analyses techniques sur lesquels les autorités pourront s’appuyer.

Le paragraphe 1 ancre ces structures dans le droit existant. Il renvoie à l’article 21, paragraphe 6, du règlement (UE) 2019/1020, qui prévoit déjà la possibilité de désigner des installations d’essai de l’Union. L’article 84 ne crée donc pas un mécanisme entièrement nouveau : il adapte au domaine de l’IA un dispositif déjà éprouvé pour d’autres catégories de produits.

Le paragraphe 2 élargit le rôle de ces structures au-delà des seuls essais. Il leur confère une fonction consultative : elles peuvent fournir des avis techniques ou scientifiques indépendants, non seulement aux autorités de surveillance du marché, mais aussi au conseil d’administration et à la Commission. Le mot indépendants est ici essentiel : il garantit que l’expertise fournie conserve une valeur objective, sans être captée par des intérêts particuliers.

Cette double fonction, tester d’une part, conseiller d’autre part, fait de ces structures un pivot technique du dispositif européen.

Notions clés à comprendre

Structure de soutien de l’Union pour les essais d’IA Entité spécialisée désignée par la Commission, dont la mission est de mettre une expertise technique et scientifique à la disposition des autorités. Elle réalise des essais, des analyses et des évaluations sur les systèmes d’IA.

Points essentiels :

• elle ne remplace pas l’autorité de surveillance du marché ;
• elle ne détient aucun pouvoir de sanction ;
• elle agit comme un appui technique, l’autorité conservant la décision juridique ;
• il peut en exister plusieurs, éventuellement spécialisées par domaine.

Désignation par la Commission La compétence pour instituer ces structures appartient à la Commission européenne, et non aux États membres pris isolément. Ce choix traduit la volonté d’éviter une fragmentation entre vingt-sept dispositifs nationaux disparates et de favoriser une montée en compétence partagée.

Renvoi au règlement (UE) 2019/1020 L’article 84 s’appuie sur l’article 21, paragraphe 6, du règlement de 2019 sur la surveillance du marché, qui définit les tâches des installations d’essai de l’Union. Les missions des structures de soutien à l’IA reprennent ce cadre existant, simplement adapté au domaine de l’IA. Pour en cerner pleinement la portée, il faut donc lire conjointement les deux règlements.

Avis techniques ou scientifiques indépendants Au-delà des essais, ces structures jouent un rôle de conseil. L’avis qu’elles rendent éclaire la décision des autorités sans la lier juridiquement. Cette fonction consultative permet de diffuser une expertise rare vers les institutions qui en ont besoin, sans que chacune doive la reconstituer de son côté.

Destinataires des avis Trois catégories d’acteurs peuvent solliciter ces avis :

• les autorités de surveillance du marché, au niveau opérationnel du contrôle ;
• le conseil d’administration et la Commission, au niveau de la gouvernance européenne du règlement.

Cette ouverture large montre que les structures de soutien servent tous les étages du dispositif, du pilotage stratégique jusqu’au contrôle de terrain.

Exemple pratique

Exemple pratique

Contexte

Une autorité nationale de surveillance est saisie d’un signalement concernant un système d’IA à haut risque utilisé dans le secteur de la santé : un outil d’aide au diagnostic à partir d’images médicales, dont les résultats seraient potentiellement biaisés selon certaines catégories de patients.

L’autorité dispose des pouvoirs juridiques pour agir, mais ses agents ne sont pas en mesure d’auditer seuls le modèle, ses données d’entraînement et ses performances réelles.

Déroulé de la procédure

• L’autorité identifie la nécessité d’une évaluation technique approfondie qu’elle ne peut conduire avec ses seules ressources internes.
• Sur le fondement de l’article 84, elle saisit une structure de soutien de l’Union désignée par la Commission et compétente dans le domaine concerné.
• La structure réalise des essais techniques, examine la documentation, analyse les jeux de données et évalue le comportement du modèle, notamment sous l’angle des biais éventuels.
• Elle remet à l’autorité un avis technique et scientifique indépendant, exposant ses constatations et ses conclusions sur la conformité ou la non-conformité du système.
• L’autorité conserve l’entière responsabilité de la décision et détermine les suites : demande de mise en conformité, restriction ou retrait.
• En parallèle, la Commission ou le conseil d’administration peuvent solliciter la même structure pour un avis plus général sur les méthodes d’évaluation des systèmes d’aide au diagnostic, afin de nourrir une approche commune à l’échelle de l’Union.