Article 76 –Supervision des essais en conditions réelles par les autorités de surveillance du marché

Explication de l’article

L’article 76 de l’IA Act concerne la surveillance des essais de systèmes d’IA en conditions réelles. L’idée est simple : avant qu’un système d’IA, notamment un système d’IA à haut risque, soit définitivement mis sur le marché ou utilisé, il peut être nécessaire de le tester dans des situations proches de son utilisation réelle. Ces essais permettent de vérifier si le système fonctionne correctement dans la pratique et s’il ne présente pas de risques importants pour les personnes.

Cependant, tester une IA dans des conditions réelles peut également présenter des risques. Par exemple, une IA utilisée pour aider à sélectionner des candidats à un emploi, analyser des demandes de crédit, aider à prendre des décisions dans le domaine de la santé ou assister certains services publics peut produire des erreurs ou avoir des conséquences importantes pour les personnes concernées.

L’article 76 donne donc aux autorités de surveillance du marché les pouvoirs nécessaires pour contrôler ces essais et intervenir lorsqu’ils ne respectent pas les règles de l’IA Act. L’article poursuit principalement cinq objectifs :

• Contrôler les essais en conditions réelles ;
• Vérifier le respect des conditions prévues par les articles 60 et 61 ;
• Intervenir lorsqu’un incident grave survient ;
• Protéger les personnes participant aux essais ;
• Assurer la coopération entre les autorités des différents États membres.

1. Contrôler les essais en conditions réelles

Un essai en conditions réelles consiste à tester un système d’IA dans un environnement qui se rapproche de son utilisation réelle, avant ou pendant son déploiement conformément aux règles applicables. L’objectif est de vérifier si le système fonctionne comme prévu lorsqu’il est confronté à de véritables situations d’utilisation.

Pourquoi tester une IA dans des conditions réelles ?

Les tests réalisés uniquement en laboratoire ne permettent pas toujours de connaître le comportement réel d’un système. Une IA peut fonctionner correctement lors des tests techniques, mais produire des résultats différents lorsqu’elle est utilisée avec de vraies données et de vrais utilisateurs, dans des situations imprévues ou des environnements différents, ou encore avec des personnes ayant des caractéristiques différentes. 

L’IA Act prévoit donc un cadre permettant de réaliser certains essais en conditions réelles tout en mettant en place des garanties pour protéger les personnes.

2. Le rôle des autorités de surveillance du marché

Le paragraphe 1 de l’article 76 prévoit que les autorités de surveillance du marché disposent des compétences et des pouvoirs nécessaires pour vérifier que les essais en conditions réelles respectent l’IA Act.  Cela signifie que l’autorité ne se contente pas de recevoir une déclaration du fournisseur. Elle peut véritablement contrôler la manière dont l’essai est réalisé. Elle peut notamment vérifier:

• le respect du plan d’essai ;
• les conditions dans lesquelles l’IA est testée ;
• les mesures de protection des participants ;
• la gestion des incidents ;
• le respect des obligations applicables aux données ;
• le respect des règles spécifiques prévues par les articles 60 et 61.

Lorsqu’une autorité de surveillance du marché est informée d’un incident grave ou qu’elle dispose d’autres raisons de penser que les conditions des articles 60 et 61 ne sont pas respectées, elle peut intervenir. Elle dispose alors de deux possibilités principales : 

a) Suspendre ou arrêter l’essai – L’autorité peut décider de suspendre temporairement ou mettre fin aux essais en conditions réelles si la situation est suffisamment grave.

b) Demander une modification de l’essai – Elle peut également demander au fournisseur, fournisseur potentiel, déployeur ou déployeur potentiel de modifier certains aspects de l’essai.

L’objectif est d’intervenir avant que le système ne soit largement déployé.

3. L’autorité doit expliquer sa décision

Le paragraphe 4 de l’article 76 prévoit une garantie importante. Lorsque l’autorité suspend ou arrête un essai ou formule une objection dans le cadre prévu par l’article 60, elle doit indiquer les motifs de sa décision ou de son objection. Elle doit également expliquer comment le fournisseur ou le fournisseur potentiel peut contester cette décision. Cette disposition protège donc également les droits du fournisseur.

4. La coopération entre les États membres

Un système d’IA peut être testé dans plusieurs États membres. Par exemple : le fournisseur est établi en France, mais le système est testé en France et en Allemagne, des utilisateurs participent donc aux essais dans les deux pays. Si l’autorité française décide de suspendre l’essai, cette information peut être importante pour l’autorité allemande. 

Le paragraphe 5 prévoit que, lorsque cela est applicable, l’autorité qui prend une décision au titre du paragraphe 3 communique les motifs de cette décision aux autorités de surveillance du marché des autres États membres concernés par les essais.

Cette coopération permet d’éviter qu’un essai suspendu dans un État membre continue simplement dans un autre sans que l’autorité concernée en soit informée.

5. Le cas des bacs à sable réglementaires

L’article 76 fait également référence aux bacs à sable réglementaires de l’IA. Un bac à sable réglementaire est un environnement contrôlé permettant aux fournisseurs ou fournisseurs potentiels de développer, tester et valider des systèmes d’IA sous la supervision d’une autorité compétente, qui est organisée par l’article 58.

Lorsque les essais en conditions réelles sont réalisés dans le cadre d’un bac à sable réglementaire, l’autorité de surveillance du marché vérifie notamment le respect de l’article 60 dans le cadre de son rôle de supervision.

6. Une certaine flexibilité pour les essais dans les bacs à sable

L’article 76 prévoit que les autorités peuvent, lorsque cela est approprié, autoriser les essais en conditions réelles par dérogation à certaines conditions prévues à l’article 60, paragraphe 4, points f) et g).

Cette possibilité permet d’adapter certaines conditions aux circonstances particulières du bac à sable. Mais cette flexibilité ne signifie pas que toutes les règles disparaissent. Les autorités doivent toujours assurer une surveillance appropriée.

L’idée essentielle de l’article 76 est de garantir que les essais d’IA en conditions réelles ne se déroulent pas sans contrôle. Il permet aux autorités de surveillance du marché de suivre les expérimentations, d’intervenir lorsqu’un risque apparaît et de protéger les personnes tout en laissant aux entreprises la possibilité de tester leurs innovations.