Article 89 - Mesures de contrôle

Explication de l’article

L’article 89 de l’IA Act précise les mesures de contrôle que peut mettre en œuvre le Bureau de l’IA afin de vérifier que les fournisseurs de modèles d’IA à usage général respectent leurs obligations prévues par l’IA Act. Cet article comporte deux aspects principaux :

1. les pouvoirs de contrôle du Bureau de l’IA ;
2. le droit des fournisseurs en aval de déposer une réclamation.

1. Les actions de contrôle du Bureau de l’IA

Le premier paragraphe permet au Bureau de l’IA de prendre les mesures nécessaires pour contrôler la mise en œuvre effective du règlement et le respect de ses obligations par les fournisseurs de modèles d’IA à usage général. Le contrôle peut notamment porter sur le respect des codes de bonne pratique approuvés.

L’objectif est donc de permettre au Bureau de l’IA de vérifier concrètement si les fournisseurs respectent les règles qui leur sont applicables, notamment celles relatives aux modèles d’IA à usage général et, le cas échéant, aux modèles présentant des risques systémiques.

Cette disposition doit être lue avec les articles suivants : l’article 91 permet notamment de demander des informations et de la documentation, tandis que l’article 92 prévoit la possibilité de procéder à des évaluations des modèles.

2. Le droit de réclamation des fournisseurs en aval

Le deuxième paragraphe introduit un mécanisme important pour les fournisseurs en aval.

Lorsqu’un fournisseur en aval estime qu’un fournisseur de modèle d’IA à usage général ne respecte pas l’IA Act, il peut déposer une réclamation auprès du dispositif de contrôle européen. La réclamation doit être suffisamment motivée et contenir au minimum :

• le point de contact du fournisseur du modèle concerné ;
• une description des faits pertinents ;
• les dispositions de l’IA Act concernées ;
• les raisons pour lesquelles le fournisseur en aval considère qu’il y a eu violation ;
• ainsi que toute autre information pertinente dont il dispose, notamment les informations qu’il a pu recueillir de sa propre initiative.

Ce mécanisme permet donc aux acteurs situés en aval de la chaîne de valeur de signaler une éventuelle non-conformité d’un fournisseur de modèle à usage général.

Notions clés à comprendre

Bureau de l’IA: Le Bureau de l’IA (AI Office) est le service de la Commission européenne chargé notamment de la mise en œuvre et du contrôle de certaines obligations de l’IA Act. 

Fournisseur en aval: Le fournisseur en aval est un acteur qui utilise ou intègre un modèle d’IA à usage général dans un autre système ou produit d’IA. Il peut donc dépendre du fournisseur du modèle pour obtenir certaines informations nécessaires à la compréhension et à la conformité de son propre système.

Code de bonne pratique: Les codes de bonne pratique constituent un moyen permettant notamment aux fournisseurs de modèles d’IA à usage général de démontrer ou de faciliter leur conformité avec certaines obligations de l’IA Act.

Réclamation: La réclamation constitue un moyen pour un fournisseur en aval de porter à l’attention du Bureau de l’IA une violation présumée de l’IA Act.

Exemple pratique

Une entreprise développe un logiciel d’IA destiné à analyser des documents juridiques. Pour fonctionner, son système utilise un modèle d’IA à usage général fourni par une autre entreprise.

L’entreprise constate que le fournisseur du modèle ne lui transmet pas certaines informations nécessaires pour comprendre les capacités et les limites du modèle, alors que ces informations sont nécessaires à ses propres obligations de conformité. Après avoir rassemblé les éléments pertinents, elle peut déposer une réclamation.

Elle devra notamment identifier le fournisseur du modèle, expliquer les faits constatés, préciser les dispositions de l’IA Act qu’elle estime concernées et fournir les informations dont elle dispose.

Le Bureau de l’IA pourra alors utiliser les pouvoirs de contrôle prévus par l’IA Act afin d’examiner la situation.