Article 90 - Alertes de risques systémiques données par le groupe scientifique

Explication de l’article

L’article 90 de l’IA Act concerne les alertes de risques systémiques pouvant être émises par le groupe scientifique d’experts indépendants auprès du Bureau de l’IA.

Cet article s’inscrit dans le régime particulier applicable aux modèles d’IA à usage général (GPAI) présentant un risque systémique. Ces modèles peuvent avoir des capacités très importantes et être utilisés dans un grand nombre de systèmes et de secteurs. En raison de leur portée potentielle, l’IA Act prévoit un mécanisme permettant aux experts scientifiques d’alerter le Bureau de l’IA lorsqu’ils identifient un risque concret ou lorsqu’un modèle semble remplir les critères permettant de le considérer comme présentant un risque systémique.

L’article 90 prévoit principalement trois éléments :

1. le groupe scientifique peut adresser une alerte qualifiée au Bureau de l’IA ;
2. cette alerte peut conduire la Commission, par l’intermédiaire du Bureau de l’IA, à exercer ses pouvoirs de contrôle ;
3. l’alerte doit être motivée et suffisamment documentée.

1. Le rôle du groupe scientifique

Le groupe scientifique d’experts indépendants est prévu par l’article 68 de l’IA Act. Il a notamment pour mission de soutenir le Bureau de l’IA dans la surveillance et l’application du règlement concernant les modèles d’IA à usage général.

Les experts doivent disposer de compétences scientifiques ou techniques dans le domaine de l’IA et être indépendants des fournisseurs de systèmes d’IA ou de modèles d’IA à usage général. Ils doivent également exercer leurs missions avec impartialité et objectivité.

Le groupe scientifique peut notamment contribuer à l’identification des risques systémiques au niveau de l’Union et à l’évaluation des capacités des modèles d’IA à usage général.

2. Qu’est-ce qu’une alerte qualifiée ?

L’alerte qualifiée est un mécanisme permettant au groupe scientifique de signaler officiellement au Bureau de l’IA une situation qui nécessite une attention particulière. L’article 90 prévoit deux situations dans lesquelles une telle alerte peut être donnée. Le groupe scientifique peut intervenir lorsqu’il a des raisons de soupçonner :

• qu’un modèle d’IA à usage général présente un risque concret identifiable au niveau de l’Union ;
• ou que le modèle remplit les conditions prévues à l’article 51 pour être considéré comme un modèle d’IA à usage général présentant un risque systémique.

L’alerte ne constitue donc pas, à elle seule, une décision définitive de la Commission. Elle constitue un signalement expert permettant de déclencher ou d’alimenter une procédure d’évaluation.

3. Le lien avec l’article 51

L’article 51 est essentiel pour comprendre l’article 90. Un modèle d’IA à usage général est considéré comme présentant un risque systémique lorsqu’il dispose de capacités à fort impact ou lorsque la Commission constate qu’il possède des capacités ou un impact équivalents, en tenant compte notamment des critères prévus à l’annexe XIII. L’article 90 permet donc au groupe scientifique d’attirer l’attention du Bureau de l’IA sur un modèle qui pourrait remplir ces conditions.

Le mécanisme est particulièrement important lorsque les caractéristiques techniques ou les effets d’un modèle évoluent rapidement et nécessitent une expertise scientifique ou technique.

4. La notion de risque systémique

L’IA Act définit le risque systémique comme un risque spécifique aux capacités à fort impact des modèles d’IA à usage général, susceptible d’avoir une incidence significative dans l’Union en raison de leur portée ou de leurs effets négatifs réels ou raisonnablement prévisibles.

Ces effets peuvent notamment concerner la santé publique, la sûreté, la sécurité publique, les droits fondamentaux ou la société dans son ensemble, et peuvent se propager à grande échelle tout au long de la chaîne de valeur.

Le risque systémique ne correspond donc pas simplement à un défaut technique d’un modèle. Il concerne les conséquences potentielles d’un modèle disposant de capacités suffisamment importantes pour produire des effets à grande échelle.

5. Que se passe-t-il après l’alerte ?

Lorsqu’une alerte qualifiée est adressée au Bureau de l’IA, la Commission peut, par l’intermédiaire du Bureau de l’IA et après en avoir informé le Comité IA, exercer les pouvoirs prévus dans cette section afin d’évaluer la situation. Le Bureau de l’IA informe également le Comité IA des mesures prises conformément aux articles 91 à 94. L’article 90 constitue donc un point de départ possible pour une procédure de contrôle.

6. Le contenu obligatoire de l’alerte

L’alerte qualifiée doit être dûment motivée, qui doit au minimum contenir :

1. le point de contact du fournisseur du modèle d’IA à usage général concerné présentant un risque systémique ;
2. une description des faits pertinents et les raisons justifiant l’alerte du groupe scientifique;
3. toute autre information que le groupe scientifique considère comme pertinente, notamment les informations qu’il a éventuellement recueillies de sa propre initiative.

L’objectif est de permettre au Bureau de l’IA de comprendre précisément pourquoi l’alerte a été donnée et sur quels éléments elle repose.

7. L’alerte ne signifie pas automatiquement qu’une infraction est établie

Il est important de distinguer l’alerte qualifiée d’une constatation définitive de non-conformité.

Le groupe scientifique signale une situation sur la base de raisons de soupçonner l’existence d’un risque ou le respect des conditions de l’article 51. L’alerte permet ensuite au Bureau de l’IA et à la Commission d’utiliser leurs pouvoirs d’information et d’évaluation afin d’examiner la situation.

L’article 90 crée donc un mécanisme de détection et de déclenchement de la surveillance, et non une sanction automatique.

En résumé: L’article 90 de l’IA Act organise un mécanisme d’alerte permettant au groupe scientifique d’experts indépendants de signaler au Bureau de l’IA qu’un modèle d’IA à usage général pourrait présenter un risque systémique au niveau de l’Union.

L’objectif est de permettre aux institutions européennes d’identifier plus rapidement les risques liés aux modèles de très grande capacité et, lorsque cela est nécessaire, de déclencher des mesures d’information et d’évaluation.

Notions clés à comprendre

Modèle d’IA à usage général (GPAI) : modèle d’IA présentant une généralité significative et capable d’exécuter un large éventail de tâches différentes, pouvant être intégré dans différents systèmes ou applications.

Risque systémique : risque lié aux capacités à fort impact d’un modèle de GPAI pouvant avoir des effets significatifs sur la santé publique, la sûreté, la sécurité publique, les droits fondamentaux ou la société dans son ensemble et pouvant se propager à grande échelle.

Groupe scientifique : groupe d’experts indépendants créé au titre de l’article 68 afin de fournir une expertise scientifique et technique et de soutenir notamment le contrôle des modèles d’IA à usage général.

Alerte qualifiée : signalement motivé adressé par le groupe scientifique au Bureau de l’IA lorsqu’il existe des raisons de soupçonner un risque concret au niveau de l’Union ou que les conditions de l’article 51 sont remplies.

Bureau de l’IA : service de la Commission européenne chargé notamment de contribuer à la mise en œuvre et au contrôle de l’IA Act au niveau de l’Union.

Capacités à fort impact : capacités particulièrement importantes d’un modèle de GPAI susceptibles d’être associées à des risques systémiques.

Comité IA : organe composé de représentants des États membres qui participe à la mise en œuvre et à la gouvernance de l’IA Act.

Exemple pratique

Une entreprise développe un modèle d’IA à usage général particulièrement puissant. Le modèle est capable de traiter du texte, du code et des images et peut être intégré dans de nombreux systèmes utilisés dans différents secteurs.

Au cours de ses travaux, le groupe scientifique constate que certaines capacités du modèle pourraient produire des effets négatifs importants à grande échelle. Les experts disposent également d’éléments laissant penser que le modèle pourrait remplir les critères permettant de le classer comme modèle d’IA à usage général présentant un risque systémique au titre de l’article 51.

Étape 1 : l’analyse du groupe scientifique

Le groupe scientifique examine les informations disponibles et rassemble les éléments techniques et factuels nécessaires. Les experts considèrent qu’il existe des raisons suffisantes de soupçonner que le modèle présente un risque concret identifiable au niveau de l’Union.

Étape 2 : émission d’une alerte qualifiée

Le groupe scientifique adopte une décision permettant l’émission d’une alerte qualifiée, qui précise notamment :

• l’identité ou le point de contact du fournisseur ;
• les faits pertinents ;
• les raisons pour lesquelles le groupe scientifique considère que le modèle peut présenter un risque systémique ;
• les autres informations pertinentes recueillies par les experts.

L’alerte est ensuite transmise de manière sécurisée au Bureau de l’IA, conformément à la procédure prévue par le règlement d’exécution 2025/454.

Étape 3 : intervention du Bureau de l’IA et de la Commission

Après réception de l’alerte, la Commission, par l’intermédiaire du Bureau de l’IA et après information du Comité IA, peut exercer les pouvoirs prévus par les articles 91 à 94. Elle peut notamment demander des informations ou de la documentation au fournisseur et, lorsque cela est nécessaire, procéder à une évaluation du modèle.

Mais imaginons que l’évaluation ne confirme pas le risque

L’alerte ne signifie pas automatiquement que le fournisseur a enfreint l’IA Act. L’objectif de l’article 90 est précisément de permettre une évaluation approfondie lorsqu’un groupe d’experts identifie un risque potentiel. Les autorités disposent ensuite des outils nécessaires pour déterminer les suites appropriées.

Cet exemple montre donc que l’article 90 constitue principalement un mécanisme de détection, d’alerte et de déclenchement de la surveillance des modèles d’IA à usage général présentant potentiellement un risque systémique.