Cabinet de protection des données · Paris — Genève

Article 92 - Pouvoir de procéder à des évaluations

Table des matières

Explication de l’article

L’article 92 de l’IA Act donne au Bureau de l’IA (AI Office) le pouvoir de procéder à une évaluation d’un modèle d’IA à usage général dans certaines situations. Cet article s’inscrit directement dans le mécanisme de surveillance prévu par les articles 89 à 94 de l’IA Act. Après avoir demandé des informations au fournisseur conformément à l’article 91, les autorités européennes peuvent aller plus loin si les informations obtenues ne sont pas suffisantes.

L’idée principale est simple : lorsque la documentation et les informations fournies ne permettent pas de vérifier correctement la conformité d’un modèle d’IA, le Bureau de l’IA peut procéder à une évaluation plus approfondie du modèle lui-même.

1. Le Bureau de l’IA peut évaluer un modèle d’IA à usage général

Le Bureau de l’IA peut procéder à une évaluation après avoir consulté le Comité IA (AI Board). Cette évaluation peut avoir deux objectifs principaux.

a) Vérifier le respect des obligations prévues par l’IA Act

La première situation concerne la vérification de la conformité du fournisseur. Lorsque les informations recueillies conformément à l’article 91 sont insuffisantes, le Bureau de l’IA peut procéder à une évaluation du modèle.

Par exemple, un fournisseur peut transmettre une documentation qui ne permet pas de déterminer clairement :

  • comment le modèle a été testé ;
  • quelles mesures de sécurité ont été mises en place ;
  • comment certains risques ont été identifiés ;
  • si les obligations prévues par l’IA Act sont effectivement respectées.

Dans cette situation, les autorités européennes ne doivent pas se limiter aux informations déclarées par le fournisseur. Elles peuvent demander un accès plus direct au modèle afin de procéder à leur propre évaluation. 

b) Enquêter sur les risques systémiques

La deuxième situation concerne les modèles d’IA à usage général présentant un risque systémique. Le Bureau de l’IA peut procéder à une évaluation afin d’enquêter sur les risques que ces modèles peuvent présenter au niveau de l’Union européenne. Cette évaluation peut notamment intervenir à la suite d’une alerte qualifiée du groupe scientifique, prévue par l’article 90 de l’IA Act. 

L’objectif est alors de déterminer si un modèle très puissant ou largement utilisé peut présenter un risque important susceptible d’avoir des conséquences à grande échelle.

Par exemple, les autorités peuvent chercher à analyser si un modèle présente des risques importants concernant la sécurité, les droits fondamentaux, la cybersécurité, la diffusion de contenus dangereux ou d’autres risques systémiques susceptibles d’avoir des conséquences au niveau de l’Union européenne.

L’article 92 permet donc aux autorités de ne pas attendre qu’un dommage se produise avant d’intervenir. Il prévoit un mécanisme permettant d’analyser et d’identifier les risques en amont.

2. La Commission peut désigner des experts indépendants

La Commission européenne peut décider de désigner des experts indépendants pour réaliser les évaluations en son nom. Ces experts peuvent notamment provenir du groupe scientifique prévu par l’article 68 de l’IA Act.

Cette possibilité est importante car l’évaluation d’un modèle d’IA avancé peut nécessiter des compétences très spécialisées. Les modèles d’IA à usage général peuvent être extrêmement complexes. Leur évaluation peut nécessiter des connaissances dans plusieurs domaines, par exemple :

  • l’intelligence artificielle ;
  • l’apprentissage automatique ;
  • la cybersécurité ;
  • l’évaluation des risques ;
  • les systèmes informatiques ;
  • la sécurité des modèles.

Le recours à des experts indépendants permet donc à la Commission de disposer des compétences techniques nécessaires pour effectuer une évaluation sérieuse et approfondie.

3. Les autorités peuvent demander un accès au modèle

Pour pouvoir réaliser une évaluation, la Commission peut demander un accès au modèle d’IA concerné. Cet accès peut être accordé par différents moyens techniques, notamment : une API, d’autres outils ou moyens techniques appropriés et, dans certaines situations, l’accès au code source.

Ce point est particulièrement important. L’article 91 permet principalement à la Commission de demander des documents et des informations. Ainsi, il permet aux autorités d’obtenir un accès au modèle lui-même afin de procéder à une évaluation. Cela signifie que le contrôle ne repose pas uniquement sur les déclarations du fournisseur. Les autorités peuvent, lorsque cela est nécessaire dans le cadre de l’article 92, examiner plus directement le fonctionnement du modèle.

4. La demande d’accès doit être claire et justifiée

La demande adressée au fournisseur doit contenir plusieurs informations. Elle doit notamment préciser :

  • la base juridique de la demande ;
  • l’objectif de la demande ;
  • les raisons pour lesquelles l’accès est nécessaire ;
  • le délai dans lequel l’accès doit être accordé ;
  • les sanctions prévues en cas de refus de fournir l’accès demandé.

Cette obligation est importante pour garantir la transparence et la sécurité juridique. Le fournisseur doit savoir exactement pourquoi les autorités demandent l’accès à son modèle et dans quel cadre juridique cette demande est formulée.

L’IA Act cherche donc à trouver un équilibre entre le pouvoir des autorités de contrôler les modèles d’IA et la protection des droits procéduraux et des intérêts légitimes des fournisseurs.

5. Le fournisseur doit permettre l’accès demandé

Le fournisseur du modèle concerné, ou son représentant, doit permettre l’accès demandé par la Commission. Dans le cas d’une entreprise ou d’une autre organisation, les personnes légalement autorisées à représenter le fournisseur peuvent accorder cet accès en son nom. Le refus de fournir l’accès demandé peut entraîner des sanctions prévues à l’article 101 de l’IA Act.

Cette obligation garantit que les pouvoirs d’évaluation prévus par l’article 92 soient réellement efficaces. Sans accès au modèle, la Commission ne pourrait pas, dans certaines situations, effectuer les vérifications nécessaires.

6. Les modalités détaillées sont précisées par la Commission

L’article 92 prévoit que la Commission adopte des actes d’exécution afin de préciser les modalités et les conditions des évaluations. Ces règles concernent notamment :

  • l’organisation pratique des évaluations ;
  • les conditions de participation des experts indépendants ;
  • la procédure de sélection de ces experts.

Cette précision est importante car l’article 92 fixe le principe général du pouvoir d’évaluation, tandis que les actes d’exécution permettent de préciser son application concrète.

En juillet 2026, la Commission a effectivement adopté le règlement d’exécution (UE) 2026/1755, qui précise les modalités de certaines procédures prévues par l’IA Act, notamment celles relatives aux évaluations réalisées conformément à l’article 92.

7. Un dialogue structuré peut avoir lieu avant la demande d’accès

Avant de demander un accès direct au modèle, le Bureau de l’IA peut engager un dialogue structuré avec le fournisseur. Ce dialogue peut permettre d’obtenir davantage d’informations sur:

  • les tests internes réalisés sur le modèle ;
  • les mesures de sécurité mises en place ;
  • les garanties internes visant à prévenir les risques systémiques ;
  • les procédures internes du fournisseur ;
  • les mesures prises pour réduire ou atténuer les risques.

Cette étape montre que l’IA Act privilégie également une approche de coopération et de dialogue. L’accès direct au modèle peut donc ne pas être la première étape. Le Bureau de l’IA peut d’abord chercher à comprendre les mesures internes mises en place par le fournisseur avant de demander une évaluation plus approfondie. 

Notions clés à comprendre

Évaluation d’un modèle d’IA : Analyse réalisée afin de vérifier la conformité d’un modèle d’IA avec les obligations prévues par l’IA Act ou d’identifier certains risques.

Modèle d’IA à usage général (GPAI) : Modèle capable d’exécuter un large éventail de tâches et pouvant être intégré dans de nombreux systèmes ou applications différents.

Comité IA (AI Board) : Organe réunissant notamment les États membres et participant à la coordination de l’application de l’IA Act.

Risque systémique : Risque susceptible d’avoir des conséquences importantes et étendues, notamment en raison des capacités d’un modèle d’IA à usage général et de l’ampleur de son utilisation.

Alerte qualifiée : Signalement motivé effectué par le groupe scientifique lorsqu’il existe des raisons de suspecter qu’un modèle d’IA présente un risque concret identifiable ou pourrait relever de la catégorie des modèles présentant un risque systémique.

API (Application Programming Interface) : Interface technique permettant à différents programmes ou systèmes de communiquer entre eux. Dans le cadre de l’article 92, elle peut permettre aux autorités d’accéder à certaines fonctionnalités du modèle afin de l’évaluer.

Code source : Ensemble des instructions informatiques utilisées pour développer et faire fonctionner un logiciel ou un modèle. L’article 92 prévoit que l’accès au code source peut être demandé parmi les moyens techniques permettant d’évaluer le modèle.

Exemple pratique

Une entreprise développe un modèle d’IA à usage général très avancé, capable de générer du texte, du code informatique et des images.

Le modèle est mis à disposition de nombreuses entreprises qui l’intègrent ensuite dans différents services : assistants conversationnels, outils professionnels, plateformes éducatives et logiciels utilisés par des organisations européennes. Le modèle connaît rapidement un important succès et est utilisé à grande échelle.

Problème potentiel

Le groupe scientifique reçoit plusieurs informations laissant penser que certaines capacités du modèle pourraient présenter un risque systémique. Par exemple, le modèle pourrait présenter des comportements difficiles à anticiper dans certaines situations ou être susceptible d’être utilisé dans des contextes présentant des risques importants.

Le Bureau de l’IA demande alors au fournisseur des documents et des informations conformément à l’article 91. Cependant, après analyse, les informations transmises ne permettent pas de répondre à toutes les questions. Les autorités ne savent pas précisément comment certains tests internes ont été réalisés, quelles mesures de sécurité ont été mises en place, comment certains risques ont été évalués ou si les mesures prises par le fournisseur sont réellement suffisantes.

Application de l’IA Act (article 92)

Après consultation du Comité IA, le Bureau de l’IA peut décider de procéder à une évaluation du modèle. La Commission peut alors désigner des experts indépendants spécialisés en IA, demander un accès au modèle par une API ou utiliser d’autres moyens techniques appropriés pour réaliser des tests, ainsi demander, lorsque cela est nécessaire dans le cadre de l’évaluation, un accès au code source.

Avant de demander cet accès, le Bureau de l’IA peut également engager un dialogue structuré avec l’entreprise. L’entreprise peut alors expliquer les tests internes réalisés, les procédures de sécurité, les mécanismes mis en place pour identifier les risques et les mesures adoptées pour réduire les risques systémiques. Si ces informations restent insuffisantes, l’évaluation du modèle peut être réalisée.

Résultat

Grâce à l’article 92, les autorités européennes ne dépendent pas uniquement des déclarations du fournisseur et des experts indépendants peuvent intervenir, le modèle peut faire l’objet d’une évaluation technique et les risques systémiques peuvent être examinés avant qu’ils ne causent des conséquences importantes, ainsi la Commission dispose d’un mécanisme permettant de vérifier concrètement le respect des obligations de l’IA Act.

Si l’évaluation révèle un problème sérieux, l’article 93 permet ensuite à la Commission de demander au fournisseur de prendre certaines mesures, notamment des mesures d’atténuation des risques.

Votre fournisseur de GPAI est-il prêt à répondre à une enquête du Bureau de l’IA?
L’article 92 permet au Bureau de l’IA de mener des enquêtes pour vérifier le respect des obligations applicables aux fournisseurs de modèles d’IA à usage général (GPAI).

Texte original de l’IA Act

Article 92 – Pouvoir de procéder à des évaluations

1. Le Bureau de l’IA, après consultation du Comité IA, peut procéder à des évaluations du modèle d’IA à usage général concerné:

a) pour évaluer le respect, par le fournisseur, des obligations prévues par le présent règlement, lorsque les informations recueillies en vertu de l’article 91 sont insuffisantes; ou
b) pour enquêter sur les risques systémiques, au niveau de l’Union, des modèles d’IA à usage général présentant un risque systémique, en particulier à la suite d’une alerte qualifiée du groupe scientifique conformément à l’article 90, paragraphe 1, point a).
2. La Commission peut décider de désigner des experts indépendants chargés de procéder à des évaluations pour son compte, y compris des experts du groupe scientifique établi en vertu de l’article 68. Les experts indépendants désignés pour cette tâche satisfont aux critères énoncés à l’article 68, paragraphe 2.
3. Aux fins du paragraphe 1, la Commission peut demander l’accès au modèle d’IA à usage général concerné par l’intermédiaire d’API ou d’autres moyens et outils techniques appropriés, y compris le code source.
4. La demande d’accès indique la base juridique, l’objet et les motifs de la demande et fixe le délai dans lequel l’accès doit être accordé, ainsi que les amendes prévues à l’article 101 en cas de non-fourniture de l’accès.
5. Les fournisseurs du modèle d’IA à usage général concerné ou son représentant fournissent les informations requises. Dans le cas de personnes morales, d’entreprises ou de sociétés, ou lorsque le fournisseur n’a pas la personnalité juridique, les personnes autorisées à les représenter en vertu de la loi ou de leurs statuts, accordent l’accès demandé pour le compte du fournisseur du modèle d’IA à usage général concerné.
6. La Commission adopte des actes d’exécution établissant les modalités détaillées et les conditions des évaluations, y compris les modalités détaillées d’intervention d’experts indépendants, et la procédure relative à leur sélection. Ces actes d’exécution sont adoptés en conformité avec la procédure d’examen visée à l’article 98, paragraphe 2.
7. Avant de demander l’accès au modèle d’IA à usage général concerné, le Bureau de l’IA peut entamer un dialogue structuré avec le fournisseur du modèle d’IA à usage général afin de recueillir davantage d’informations sur les essais internes du modèle, les garanties internes visant à prévenir les risques systémiques, ainsi que d’autres procédures internes et les mesures que le fournisseur a prises pour atténuer ces risques.
 
Vous pouvez consulter le texte officiel consolidé sur EUR-Lex – Règlement (UE) 2024/1689, version consolidée du 27 juillet 2026.

Perspectives avec d’autres textes

Règlement d’exécution (UE) 2026/1755

L’article 92 prévoit que les modalités pratiques des évaluations soient précisées par des actes d’exécution. La Commission a adopté, le 20 juillet 2026, le règlement d’exécution (UE) 2026/1755, qui précise notamment les modalités de certaines procédures menées par la Commission conformément à l’IA Act.

Ce texte renforce la sécurité juridique en précisant le cadre pratique des évaluations et l’intervention éventuelle d’experts indépendants. Il montre également que la mise en œuvre de l’IA Act se poursuit progressivement par l’adoption de règles et de procédures complémentaires.

Complémentarité avec le contrôle de la CNIL

Lorsqu’un modèle ou un système d’IA traite des données personnelles, les contrôles prévus par l’IA Act peuvent se combiner avec les compétences d’autres autorités, notamment celles chargées de la protection des données.

En France, la CNIL intervient principalement dans le cadre du RGPD et de la loi Informatique et Libertés. Ainsi, selon la situation, une organisation peut être confrontée à plusieurs obligations :

  • respecter les règles relatives aux données personnelles ;
  • respecter les obligations applicables aux systèmes ou modèles d’IA ;
  • mettre en place une documentation et une gouvernance permettant de démontrer sa conformité.

L’article 92 montre que la conformité à l’IA Act ne repose pas uniquement sur une déclaration du fournisseur : certaines informations ou mesures techniques peuvent faire l’objet d’un contrôle approfondi par les autorités européennes.

Enjeu pratique pour les fournisseurs

Pour les entreprises développant des modèles d’IA à usage général, l’article 92 souligne l’importance de mettre en place une gouvernance technique et documentaire solide.

En pratique, un fournisseur devrait être capable de :

  • documenter les tests réalisés sur son modèle ;
  • conserver les résultats des évaluations internes ;
  • identifier les risques potentiels ;
  • mettre en place des mesures de sécurité ;
  • documenter les mesures d’atténuation des risques ;
  • organiser les responsabilités internes ;
  • prévoir une procédure permettant de répondre aux demandes du Bureau de l’IA ou de la Commission ;
  • préparer les modalités permettant, si nécessaire, de fournir un accès au modèle dans un cadre juridiquement et techniquement sécurisé.

Menu IA Act

Newsletter S'inscrire

Recevez nos derniers articles et actualités directement dans votre boîte de réception !

Votre e-mail est en sécurité 🔒. En entrant votre e-mail, vous acceptez de recevoir nos newsletter et des informations sur nos services. Vos données sont traitées conformément à notre Politique de Confidentialité et vous pouvez vous désinscrire à tout moment.