Article 112 - Évaluation et réexamen

Explication de l’article

L’article 112 de l’IA Act concerne l’évaluation et le réexamen du règlement.

L’intelligence artificielle évolue très rapidement : de nouveaux modèles apparaissent, les capacités des systèmes augmentent, de nouvelles utilisations sont développées et certains risques peuvent devenir plus importants ou, au contraire, être mieux maîtrisés. Le législateur européen a donc prévu que l’IA Act ne soit pas considéré comme un texte figé.

L’article 112 organise plusieurs mécanismes permettant à la Commission européenne d’évaluer régulièrement :

• si la liste des systèmes d’IA à haut risque doit évoluer ;
• si certaines pratiques d’IA doivent être ajoutées ou modifiées dans la liste des pratiques interdites ;
• si de nouveaux systèmes doivent être soumis à des obligations de transparence ;
• si le système de surveillance et de gouvernance fonctionne efficacement ;
• si les autorités nationales disposent de ressources suffisantes ;
• si les sanctions sont effectivement appliquées ;
• si les normes harmonisées et spécifications communes sont suffisamment développées;
• si le Bureau de l’IA dispose des pouvoirs et ressources nécessaires ;
• si les modèles d’IA à usage général sont développés de manière suffisamment économe en énergie ;
• si les codes de conduite volontaires sont efficaces ;
• et, plus largement, si l’IA Act doit être modifiée.

L’article 112 constitue donc une sorte de mécanisme de mise à jour du cadre européen de l’IA.

Pourquoi l’IA Act prévoit-il une évaluation régulière ?

Au moment de l’adoption de l’IA Act, le législateur européen savait que le secteur de l’intelligence artificielle évoluerait rapidement. Une règle qui paraît adaptée en 2024 peut devenir moins adaptée quelques années plus tard.

Par exemple, un système d’IA qui était relativement limité au moment de l’adoption du règlement peut ensuite acquérir de nouvelles capacités, une plus grande autonomie, une capacité de traitement plus importante, de nouvelles modalités d’entrée et de sortie ou de nouvelles possibilités d’utilisation.

À l’inverse, certaines technologies peuvent être mieux maîtrisées grâce aux progrès techniques, aux normes harmonisées, aux bonnes pratiques, aux mécanismes de contrôle ou à l’expérience acquise par les autorités.

L’article 112 permet donc à la Commission de réexaminer régulièrement si le cadre juridique reste adapté à la réalité technologique.

1. Le premier mécanisme : une évaluation annuelle

Le paragraphe 1 prévoit une première forme de contrôle particulièrement régulière. La Commission évalue une fois par an la nécessité de modifier :

• la liste figurant à l’annexe III, qui concerne certaines catégories de systèmes d’IA à haut risque ;
• la liste des pratiques d’IA interdites figurant à l’article 5.

Cette évaluation annuelle est prévue après l’entrée en vigueur du règlement et jusqu’à la fin de la période de délégation de pouvoir prévue à l’article 97. La Commission transmet ensuite les conclusions de cette évaluation au Parlement européen et au Conseil.

Par exemple: 

Imaginons qu’une nouvelle technologie permette à un système d’IA d’analyser automatiquement des milliers de candidatures et d’établir des recommandations concernant l’accès à certains emplois. Si les caractéristiques de cette technologie ou ses usages soulèvent de nouvelles questions en matière de droits fondamentaux ou de discrimination, la Commission peut examiner si le cadre existant de l’annexe III reste approprié.

Il ne faut cependant pas confondre l’évaluation de la nécessité d’une modification et la modification automatique de la réglementation. L’article 112 impose une évaluation, il ne signifie pas que chaque évaluation entraîne nécessairement une modification du règlement.

Le paragraphe 1 concerne également l’article 5 de l’IA Act, qui contient les pratiques d’IA interdites. Cette liste peut devenir particulièrement importante lorsque de nouvelles techniques permettent des usages qui n’étaient pas connus ou suffisamment développés au moment de l’adoption de l’IA Act. La Commission doit donc examiner régulièrement si la liste des pratiques interdites reste adaptée.

Cette logique est particulièrement importante parce que l’article 5 concerne les pratiques considérées par le législateur comme présentant des risques incompatibles avec les valeurs et droits protégés par le droit de l’Union.

2. Le deuxième mécanisme : une évaluation plus large à partir de 2028

Le paragraphe 2 prévoit une évaluation plus générale. Au plus tard le 2 août 2028, puis tous les quatre ans, la Commission doit évaluer le règlement et faire rapport au Parlement européen et au Conseil. Cette évaluation porte notamment sur trois grandes questions :

• L’annexe III: La Commission examine s’il est nécessaire d’étendre des catégories existantes ou d’ajouter de nouvelles catégories de domaines à haut risque.
• La transparence: La Commission examine s’il faut modifier la liste des systèmes d’IA soumis à des mesures de transparence supplémentaires prévues à l’article 50. Cet article prévoit certaines obligations de transparence pour des systèmes d’IA déterminés, qui peuvent générer du texte, des images, des vidéos, de l’audio ou d’autres contenus synthétiques. L’article 112 permet donc de vérifier périodiquement si les systèmes soumis à des obligations de transparence sont toujours correctement identifiés.

• La gouvernance: La Commission examine les éventuelles modifications permettant de renforcer l’efficacité du système de surveillance et de gouvernance.

3. Le troisième mécanisme : un rapport général à partir de 2029

Le paragraphe 3 prévoit un autre calendrier. Au plus tard le 2 août 2029, puis tous les quatre ans, la Commission présente au Parlement européen et au Conseil un rapport sur l’évaluation et le réexamen de l’IA Act. Ce rapport porte notamment sur :

• la structure de contrôle de l’application du règlement ;
• les éventuelles lacunes du système de surveillance ;
• la nécessité éventuelle de créer une agence de l’Union chargée de remédier à certaines lacunes.

Si l’évaluation montre qu’une modification du règlement est nécessaire, le rapport peut être accompagné d’une proposition de modification de l’IA Act. Les rapports doivent être rendus publics.

L’idée d’une agence européenne n’est pas mentionnée par hasard. Comme l’IA Act repose sur un système de gouvernance répartissant les responsabilités entre la Commission européenne, le Bureau de l’IA, le Comité IA, les autorités nationales compétentes, les autorités de surveillance du marché et les autorités de notification, l’article 112 prévoit que la Commission devra également examiner si cette structure fonctionne correctement.

Si des lacunes sont identifiées, la Commission devra notamment examiner la question de savoir si une agence de l’Union serait nécessaire pour améliorer la mise en œuvre et l’application du règlement. Il ne s’agit pas de créer automatiquement une nouvelle agence, mais d’une évaluation de la nécessité éventuelle d’une telle structure.

4. Les ressources des autorités nationales

Le paragraphe 4 précise que les rapports prévus au paragraphe 2 doivent accorder une attention particulière à plusieurs éléments.

Le premier concerne les ressources financières, techniques et humaines des autorités nationales compétentes. C’est important parce qu’un règlement européen ne peut être correctement appliqué que si les autorités chargées de le faire respecter disposent de moyens suffisants.

Par exemple, une autorité de surveillance du marché peut avoir besoin de juristes spécialisés, d’experts techniques, de spécialistes de la cybersécurité, d’outils d’analyse, de moyens financiers et de personnel suffisant.

L’article 112 prévoit donc que la Commission examine régulièrement l’état de ces ressources.

Le paragraphe 4 demande également à la Commission d’examiner l’état des sanctions appliquées par les États membres. Il s’agit notamment des amendes administratives prévues à l’article 99. La Commission peut donc examiner :

• combien de sanctions ont été appliquées ;
• pour quels types d’infractions ;
• quelles autorités les ont appliquées ;
• si les mécanismes de sanction fonctionnent effectivement.

Cela permet de ne pas regarder uniquement le texte de l’IA Act, mais également sa mise en pratique.

Le paragraphe 4 demande également de tenir compte des normes harmonisées adoptées et des spécifications communes élaborées pour soutenir l’application de l’IA Act. 

Ces instruments sont importants pour les entreprises car ils peuvent permettre de traduire les exigences générales du règlement en exigences techniques plus concrètes. L’évaluation permet donc de déterminer si le cadre technique nécessaire à la conformité est suffisamment développé.

La Commission doit également examiner le nombre d’entreprises qui arrivent sur le marché après l’entrée en application de l’IA Act, et notamment combien d’entre elles sont des PME.

Cette analyse permet d’observer les effets du règlement sur le marché. Elle peut notamment aider à répondre à des questions telles que :

• Le règlement facilite-t-il ou complique-t-il l’entrée de nouvelles entreprises ?
• Les PME rencontrent-elles des difficultés particulières ?
• Le cadre réglementaire favorise-t-il suffisamment l’innovation ?
• Les obligations sont-elles proportionnées aux capacités des différents acteurs ?

L’article 112 cherche donc également à observer les effets économiques et concurrentiels du règlement.

5. Le Bureau de l’IA fait lui aussi l’objet d’une évaluation

Le paragraphe 5 prévoit une évaluation spécifique du Bureau de l’IA. Au plus tard le 2 août 2028, la Commission doit examiner son fonctionnement. Elle doit notamment déterminer :

• si le Bureau de l’IA dispose de pouvoirs suffisants ;
• s’il dispose des compétences nécessaires ;
• si ses pouvoirs d’exécution doivent être renforcés ;
• si ses ressources doivent être augmentées.

La Commission présente ensuite un rapport au Parlement européen et au Conseil.

L’évaluation du Bureau de l’IA est importante, car celui-ci joue un rôle central dans la mise en œuvre de l’IA Act, notamment en ce qui concerne les modèles d’IA à usage général. Son rôle comprend:

• l’élaboration de lignes directrices ;
• la coopération avec les autorités nationales ;
• certaines missions de surveillance ;
• la supervision des modèles d’IA à usage général dans le cadre prévu par le règlement ;
• la coopération avec les acteurs concernés.

L’article 112 reconnaît donc que le fonctionnement du Bureau de l’IA doit lui aussi être évalué avec l’expérience acquise.

6. L’impact environnemental et l’efficacité énergétique

Le paragraphe 6 concerne les travaux de normalisation relatifs au développement économe en énergie des modèles d’IA à usage général. Au plus tard le 2 août 2028, puis tous les quatre ans, la Commission présente un rapport sur l’état d’avancement de ces travaux.  Elle doit également évaluer la nécessité de mesures ou d’actions supplémentaires, y compris éventuellement de mesures contraignantes.

Le rapport est présenté au Parlement européen et au Conseil et rendu public. 

Cette disposition montre que l’IA Act ne s’intéresse pas uniquement à la sécurité, aux droits fondamentaux et à la transparence, mais également à la durabilité environnementale des technologies d’IA.

7. Les codes de conduite volontaires

Le paragraphe 7 concerne les codes de conduite volontaires. Au plus tard le 2 août 2028, puis tous les trois ans, la Commission doit évaluer leur impact et leur efficacité. Ces codes peuvent notamment contribuer à favoriser l’application de certaines exigences du chapitre III, section 2, à des systèmes d’IA qui ne sont pas classés comme systèmes à haut risque. L’évaluation peut également porter sur d’autres exigences supplémentaires, notamment en matière de durabilité environnementale.

8. Le rôle du Comité IA, des États membres et des autorités nationales

Le paragraphe 8 prévoit que, pour réaliser les différentes évaluations prévues aux paragraphes 1 à 7, le Comité IA, les États membres et les autorités nationales compétentes doivent fournir à la Commission les informations qu’elle demande, sans retard injustifié.

La Commission n’effectue donc pas son évaluation uniquement à partir de ses propres données. Elle peut demander des informations directement aux acteurs institutionnels chargés de l’application du règlement.

9. Les différentes institutions doivent être entendues

Le paragraphe 9 précise que, lors des évaluations et réexamens, la Commission tient compte des positions et conclusions du Comité IA, du Parlement européen, du Conseil et d’autres organismes ou sources pertinents.

Cette disposition favorise donc une approche institutionnelle et pluraliste du réexamen. L’évolution du règlement ne repose pas uniquement sur l’analyse interne de la Commission.

10. La possibilité de modifier l’IA Act

Le paragraphe 10 prévoit que la Commission peut, lorsque cela est nécessaire, présenter des propositions appropriées visant à modifier l’IA Act. Dans ce cas, elle doit tenir compte des évolutions technologiques, des effets des systèmes d’IA sur la santé, la sécurité et les droits fondamentaux, ainsi que de l’évolution de la société de l’information. 

Cela signifie que l’article 112 crée un véritable mécanisme de retour d’expérience législatif. L’application du règlement peut conduire à identifier des lacunes ou de nouveaux besoins, lesquels peuvent ensuite justifier une proposition de modification.

11. Le rôle du Bureau de l’IA dans l’évaluation des risques

Le paragraphe 11 donne au Bureau de l’IA une mission méthodologique importante. Il doit élaborer une méthodologie objective et participative permettant d’évaluer les niveaux de risque. Cette méthodologie doit notamment aider à examiner l’éventuelle inclusion de nouveaux systèmes dans l’annexe III, la liste des pratiques interdites de l’article 5 et la liste des systèmes soumis à des mesures de transparence supplémentaires au titre de l’article 50. L’objectif est donc d’éviter que les modifications futures du cadre juridique soient effectuées sans méthode claire d’évaluation des risques.

12. Une attention particulière aux secteurs réglementés

Le paragraphe 12 concerne les systèmes d’IA liés à certaines législations d’harmonisation sectorielles de l’Union, mentionnées à l’annexe I, section B. Lorsque le règlement est modifié ou que des actes délégués ou d’exécution pertinents sont adoptés dans ce contexte, il faut tenir compte des spécificités réglementaires du secteur, des mécanismes de gouvernance existants, des mécanisme d’évaluation de la conformité, des mécanismes de contrôle de l’application et des autorités déjà établies dans le secteur concerné.

L’idée est de ne pas appliquer le cadre de l’IA de manière isolée dans des secteurs qui disposent déjà de mécanismes réglementaires spécialisés.

13. Le rapport de 2031 sur l’application du règlement 

Le paragraphe 13 prévoit une évaluation spécifique de la mise en œuvre et de l’application de l’IA Act. Au plus tard le 2 août 2031, la Commission doit procéder à cette évaluation et présenter un rapport au Parlement européen, au Conseil ainsi qu’au Comité économique et social européen. 

Cette évaluation doit tenir compte des premières années d’application du règlement. Si des problèmes sont identifiés, le rapport peut être accompagné d’une proposition visant à modifier le règlement, notamment concernant la structure de contrôle de l’application et la nécessité éventuelle d’une agence de l’Union.

En résumé:

L’article 112 est essentiel pour comprendre que l’IA Act est conçu comme un cadre réglementaire évolutif. Le législateur européen ne part pas du principe que les catégories de risques, les technologies ou les mécanismes de gouvernance resteront identiques dans le temps. Au contraire, la Commission doit régulièrement examiner de nouveaux systèmes.  L’article 112 constitue donc une clause d’adaptation permanente du droit européen de l’intelligence artificielle.