Article 60 IA Act : Essais de systèmes d’IA à haut risque en conditions réelles en dehors des bacs à sable réglementaires de l’IA

Explication de l’article

L’article 60 du Règlement européen sur l’intelligence artificielle encadre les essais de systèmes d’intelligence artificielle à haut risque réalisés dans des conditions réelles, en dehors des bacs à sable réglementaires. Son objectif est de permettre aux fournisseurs de vérifier le fonctionnement de leurs systèmes dans un environnement concret avant leur mise sur le marché ou leur mise en service, tout en protégeant les personnes concernées.

Ces essais peuvent concerner les systèmes d’IA à haut risque énumérés à l’annexe III de l’IA Act, ainsi que certains systèmes intégrés à des produits soumis à la législation européenne d’harmonisation mentionnée à l’annexe I, section A. Ils peuvent être organisés par le fournisseur ou le futur fournisseur, seul ou en partenariat avec un ou plusieurs déployeurs. Ils doivent toutefois respecter les interdictions prévues par l’article 5 de l’IA Act et les autres règles applicables.

1. Un plan d’essais soumis à l’autorité compétente

Avant de commencer les essais, le fournisseur doit élaborer un plan décrivant notamment leurs objectifs, leur déroulement et les conditions dans lesquelles le système sera évalué. Ce plan doit être soumis à l’autorité de surveillance du marché de l’État membre dans lequel les essais auront lieu.

En principe, l’autorité doit approuver les essais et le plan. Si elle ne répond pas dans un délai de 30 jours, l’approbation peut être réputée acquise, sauf lorsque le droit national exclut l’approbation tacite : dans ce cas, une autorisation demeure nécessaire.

Les essais doivent également être enregistrés dans la base de données européenne prévue par le règlement, selon les modalités applicables au type de système concerné. Des règles particulières s’appliquent notamment à certains systèmes utilisés dans les domaines de la répression, de la migration, de l’asile et du contrôle aux frontières.

2. Une durée limitée et des conditions strictes

Les essais ne peuvent durer plus longtemps que nécessaire pour atteindre leurs objectifs. Leur durée ne peut, en principe, dépasser six mois. Une prolongation de six mois supplémentaires est possible, sous réserve d’une notification préalable à l’autorité de surveillance du marché, accompagnée d’une justification.

Le fournisseur doit également être établi dans l’Union européenne ou avoir désigné un représentant légal établi dans l’Union. Les transferts vers des pays tiers des données collectées pendant les essais ne sont autorisés que si les garanties appropriées exigées par le droit de l’Union sont en place.

Lorsque des personnes vulnérables en raison de leur âge ou d’un handicap participent aux essais, des mesures de protection adaptées doivent être prévues. Les éventuels examens éthiques exigés par le droit européen ou national restent également applicables.

3. Une information claire et un consentement éclairé

Les participants doivent recevoir les informations nécessaires pour comprendre l’essai et décider librement d’y participer. En principe, leur consentement éclairé est requis, conformément à l’article 61 de l’IA Act.

Lorsque les essais sont menés en coopération avec un déployeur, celui-ci doit être informé des aspects pertinents de l’expérimentation et recevoir les instructions d’utilisation nécessaires. Le fournisseur et le déployeur doivent conclure un accord précisant leurs rôles et responsabilités, notamment pour garantir le respect de l’IA Act et des autres règles applicables.

Les participants peuvent se retirer à tout moment, sans préjudice et sans avoir à justifier leur décision. Ils peuvent révoquer leur consentement et demander la suppression immédiate et définitive de leurs données à caractère personnel. Ce retrait n’annule toutefois pas les activités déjà réalisées.

Une exception étroitement encadrée concerne certains essais relevant des activités répressives, lorsque demander un consentement éclairé empêcherait de réaliser l’essai. Dans ce cas, l’essai et ses résultats ne doivent avoir aucun effet négatif sur les participants, et leurs données personnelles doivent être supprimées une fois l’essai terminé.

4. Une supervision humaine effective

Les essais doivent être effectivement supervisés par des personnes disposant des qualifications, de la formation, des compétences et de l’autorité nécessaires. Cette supervision implique une surveillance réelle du déroulement des essais, et non une simple validation formelle du système.

Les prévisions, recommandations ou décisions produites par le système doivent pouvoir être effectivement infirmées ou ignorées. Cette exigence est essentielle pour éviter qu’un résultat généré par l’IA ne s’impose automatiquement aux personnes concernées pendant la phase d’expérimentation.

5. Le contrôle des autorités et la gestion des incidents

Les autorités de surveillance du marché doivent pouvoir demander des informations, effectuer des inspections inopinées à distance ou sur place et procéder à des vérifications concernant les essais et les systèmes concernés. Ces pouvoirs visent à garantir que l’expérimentation se déroule dans des conditions sûres.

Lorsqu’un incident grave survient, le fournisseur doit le signaler à l’autorité nationale compétente conformément à l’article 73. Il doit prendre immédiatement des mesures d’atténuation. Si ces mesures ne peuvent pas être mises en œuvre efficacement, les essais doivent être suspendus jusqu’à ce que la situation soit maîtrisée ou arrêtés. Le fournisseur doit également prévoir une procédure permettant le retrait rapide du système lorsque les essais prennent fin.

Enfin, l’autorité doit être informée de la suspension ou de l’arrêt des essais ainsi que de leurs résultats finaux. Le fournisseur reste responsable des dommages causés pendant l’expérimentation, conformément aux règles de responsabilité applicables du droit de l’Union et du droit national.

En résumé, l’article 60 autorise l’expérimentation en conditions réelles, mais ne crée pas de zone de non-droit : l’autorisation ou l’approbation requise, la protection des participants, la supervision humaine, le contrôle des autorités et la responsabilité doivent être pris en compte dès la préparation des essais.

Notions clés à comprendre

Essais en conditions réelles : expérimentation d’un système d’IA dans un environnement concret, avant sa mise sur le marché ou sa mise en service, afin d’évaluer son fonctionnement dans des situations réelles.

Système d’IA à haut risque : système relevant des catégories visées par l’IA Act, notamment à l’annexe III ou dans le cadre de certaines législations européennes sur les produits.

Plan d’essais : document qui décrit l’expérimentation et doit être soumis à l’autorité compétente avant le commencement des essais.

Consentement éclairé : accord libre et volontaire d’une personne, donné après avoir reçu les informations nécessaires sur l’essai.

Supervision humaine : contrôle exercé par des personnes qualifiées, capables d’intervenir et de faire écarter les résultats du système.

Incident grave : événement survenant pendant l’essai qui doit être signalé conformément à l’article 73 et peut nécessiter des mesures immédiates.

Responsabilité : obligation pour le fournisseur de répondre des dommages causés pendant les essais selon le droit applicable.

Exemple pratique

Une entreprise développe un système d’IA à haut risque destiné à aider les services d’un établissement public à prioriser certaines demandes. Avant de commercialiser son système, elle souhaite le tester dans un environnement réel avec un organisme partenaire.

L’entreprise doit d’abord préparer un plan d’essais et le soumettre à l’autorité de surveillance du marché compétente. Elle doit ensuite respecter les règles d’enregistrement applicables, informer son partenaire des conditions de l’expérimentation et conclure avec lui un accord précisant leurs responsabilités.

Si des personnes participent aux essais, l’entreprise doit organiser leur information et recueillir leur consentement éclairé, sauf exception légalement prévue. Elle doit aussi s’assurer que des personnes qualifiées supervisent effectivement le système, que les recommandations de l’IA peuvent être écartées et que les données personnelles sont traitées conformément au RGPD.

Si le système produit des résultats susceptibles de porter préjudice aux participants ou si un incident grave survient, l’entreprise doit prendre les mesures nécessaires et, si les risques ne peuvent être maîtrisés, suspendre ou arrêter les essais. Elle reste responsable des dommages causés pendant l’expérimentation.

Cet exemple montre que tester un système en conditions réelles exige une préparation juridique et technique : la phase d’essai doit elle-même être encadrée, documentée et surveillée.

Testez-vous vos systèmes d’IA en conditions réelles en toute conformité?

L'article 60 indique que les systèmes d’IA à haut risque peuvent être testés en conditions réelles sous conditions strictes : plan validé, durée limitée, consentement des participants et supervision des autorités.

Encadrer mes tests d'IA en conditions réelles

Texte original de l’IA Act

Article 60 – Essais de systèmes d’IA à haut risque en conditions réelles en dehors des bacs à sable réglementaires de l’IA

1. Les essais de systèmes d’IA à haut risque en conditions réelles en dehors des bacs à sable réglementaires de l’IA peuvent être effectués par les fournisseurs ou fournisseurs potentiels de systèmes d’IA à haut risque énumérés à l’annexe III ou couverts par la législation d’harmonisation de l’Union dont la liste figure à l’annexe I, section A, conformément au présent article et au plan d’essais en conditions réelles visé au présent article, sans préjudice des interdictions prévues à l’article 5.

La Commission précise, par voie d’actes d’exécution, les éléments détaillés du plan d’essais en conditions réelles. Ces actes d’exécution sont adoptés en conformité avec la procédure d’examen visée à l’article 98, paragraphe 2.

Le présent paragraphe est sans préjudice du droit de l’Union ou du droit national relatif aux essais en conditions réelles de systèmes d’IA à haut risque liés aux produits qui relèvent de la législation d’harmonisation de l’Union dont la liste figure à l’annexe I.

2. Les fournisseurs ou fournisseurs potentiels peuvent effectuer, seuls ou en partenariat avec un ou plusieurs déployeurs ou déployeurs potentiels, des essais des systèmes d’IA à haut risque visés à l’annexe III ou couverts par la législation d’harmonisation de l’Union dont la liste figure à l’annexe I, section A, en conditions réelles, à tout moment avant la mise sur le marché ou la mise en service du système d’IA à haut risque concerné.

3. Les essais de systèmes d’IA à haut risque en conditions réelles au titre du présent article sont sans préjudice de tout examen éthique exigé par le droit de l’Union ou le droit national.

4. Les fournisseurs ou fournisseurs potentiels ne peuvent effectuer les essais en conditions réelles que si toutes les conditions suivantes sont remplies:

a) le fournisseur ou le fournisseur potentiel a établi un plan d’essais en conditions réelles et l’a soumis à l’autorité de surveillance du marché dans l’État membre où les essais en conditions réelles doivent être réalisés;

b) l’autorité de surveillance du marché de l’État membre où les essais en conditions réelles doivent être réalisés a approuvé les essais en conditions réelles et le plan d’essais en conditions réelles; lorsque l’autorité de surveillance du marché n’a pas fourni de réponse dans un délai de 30 jours, les essais en conditions réelles et le plan d’essais en conditions réelles sont réputés approuvés; lorsque le droit national ne prévoit pas d’approbation tacite, les essais en conditions réelles restent soumis à autorisation;

c) le fournisseur ou fournisseur potentiel, à l’exception des fournisseurs ou fournisseurs potentiels de systèmes d’IA à haut risque visés à l’annexe III, points 1, 6 et 7, dans les domaines des activités répressives, de la migration, de l’asile et de la gestion des contrôles aux frontières, ainsi que des systèmes d’IA à haut risque visés à l’annexe III, point 2, a enregistré les essais en conditions réelles dans la partie non publique de la base de données de l’UE visée à l’article 71, paragraphe 4, avec un numéro d’identification unique à l’échelle de l’Union et les informations indiquées à l’annexe IX; le fournisseur ou fournisseur potentiel de systèmes d’IA à haut risque visé à l’annexe III, points 1, 6 et 7, dans les domaines des activités répressives, de la migration, de l’asile et de la gestion des contrôles aux frontières, a enregistré les essais en conditions réelles dans la partie non publique de la base de données de l’UE visée à l’article 49, paragraphe 4, point d), avec un numéro d’identification unique à l’échelle de l’Union et les informations y indiquées; le fournisseur ou fournisseur potentiel de systèmes d’IA à haut risque visé à l’annexe III, point 2, a enregistré les essais en conditions réelles conformément à l’article 49, paragraphe 5.

d) le fournisseur ou fournisseur potentiel effectuant les essais en conditions réelles est établi dans l’Union ou a désigné un représentant légal établi dans l’Union;

e) les données collectées et traitées aux fins des essais en conditions réelles ne sont transférées vers des pays tiers qu’à condition que des garanties appropriées et applicables en vertu du droit de l’Union soient en place;

f) les essais en conditions réelles ne durent pas plus longtemps que nécessaire pour atteindre leurs objectifs et, en tout état de cause, pas plus de six mois, qui peuvent être prolongés pour une période supplémentaire de six mois, sous réserve d’une notification préalable par le fournisseur ou fournisseur potentiel à l’autorité de surveillance du marché, accompagnée d’une explication des raisons qui motivent une telle prolongation;

g) les participants aux essais en conditions réelles qui sont des personnes appartenant à des groupes vulnérables en raison de leur âge ou de leur handicap sont dûment protégées;

h) lorsqu’un fournisseur ou un fournisseur potentiel organise les essais en conditions réelles en coopération avec un ou plusieurs déployeurs ou déployeurs potentiels, ces derniers ont été préalablement informés de tous les aspects des essais qui sont pertinents pour leur décision de participer et ont reçu les instructions d’utilisation adéquates pour le système d’IA visé à l’article 13; le fournisseur ou fournisseur potentiel et le déployeur ou déployeur potentiel concluent un accord précisant leurs rôles et responsabilités en vue d’assurer le respect des dispositions relatives aux essais en conditions réelles prévues par le présent règlement et en vertu d’autres dispositions applicables du droit de l’Union et du droit national;

i) les participants aux essais en conditions réelles ont donné leur consentement éclairé conformément à l’article 61 ou, dans le cas des services répressifs, lorsque la recherche d’un consentement éclairé empêcherait de réaliser les essais du système d’IA, les essais proprement dits et les résultats des essais en conditions réelles n’ont pas d’effet négatif sur les participants, et leurs données à caractère personnel sont supprimées une fois les essais réalisés;

j) le fournisseur ou le fournisseur potentiel ainsi que les déployeurs ou les déployeurs potentiels effectuent un contrôle effectif des essais en conditions réelles, par des personnes dûment qualifiées dans le domaine concerné et disposant des capacités, de la formation et de l’autorité nécessaires pour accomplir leurs tâches;

k) les prévisions, recommandations ou décisions du système d’IA peuvent effectivement être infirmées et ignorées.

5. Tout participant aux essais en conditions réelles, ou son représentant légal, selon le cas, peut, sans encourir de préjudice et sans devoir se justifier, se retirer des essais à tout moment, en révoquant son consentement éclairé et peut demander la suppression immédiate et définitive de ses données à caractère personnel. Le retrait du consentement éclairé n’affecte pas les activités déjà menées.

6. Conformément à l’article 75, les États membres confèrent à leurs autorités de surveillance du marché le pouvoir d’exiger des fournisseurs et des fournisseurs potentiels qu’ils fournissent des informations, de procéder à des inspections inopinées à distance ou sur place et d’effectuer des vérifications concernant la réalisation des essais en conditions réelles et des systèmes d’IA à haut risque connexes. Les autorités de surveillance du marché utilisent ces pouvoirs pour veiller au développement sûr des essais en conditions réelles.

7. Tout incident grave constaté au cours des essais en conditions réelles est signalé à l’autorité nationale de surveillance du marché, conformément à l’article 73. Le fournisseur ou fournisseur potentiel adopte des mesures d’atténuation immédiates ou, à défaut, suspend les essais en conditions réelles jusqu’à ce que cette atténuation soit effective ou y met fin en l’absence d’atténuation. Le fournisseur ou fournisseur potentiel établit une procédure pour le rappel rapide du système d’IA lors de la cessation des essais en conditions réelles.

8. Les fournisseurs ou fournisseurs potentiels informent l’autorité nationale de surveillance du marché de l’État membre où les essais en conditions réelles doivent être réalisés de la suspension ou de la cessation des essais en conditions réelles et des résultats finaux.

9. Le fournisseur ou le fournisseur potentiel sont responsables, en vertu du droit de l’Union et du droit national applicable en matière de responsabilité, de tout préjudice causé durant les essais en conditions réelles.

Vous pouvez consulter le texte officiel consolidé sur EUR-Lex – Règlement (UE) 2024/1689, version consolidée du 27 juillet 2026.

L’IA ACT peut sembler complexe. L’équipe de DPO externe de Mon Expert RGPD vous accompagne pour structurer et sécuriser vos expérimentations.

Perspectives avec d’autres textes

Perspectives européennes

RGPD

Le RGPD reste applicable lorsqu’un essai implique des données personnelles. L’article 60 ne constitue donc pas une dérogation générale au RGPD. Il faut notamment porter une attention particulière à l’article 5, 6, 9, 13, 22, 32, 35 et au chapitre V du RGPD.

Règlement (UE) 2018/1725

Lorsque le projet concerne une institution, un organe ou une agence de l’Union européenne, il faut également prendre en compte le règlement (UE) 2018/1725 relatif à la protection des données personnelles par les institutions européennes.

Directive (UE) 2016/680

Lorsque les essais concernent les autorités compétentes en matière de prévention et de détection des infractions pénales, d’enquêtes et de poursuites, la directive « Police-Justice » doit également être prise en considération. Cela est particulièrement important puisque l’article 60 prévoit une règle particulière pour le consentement dans certains essais réalisés dans le domaine répressif.

Menu IA Act

Besoin d’aide pour cet article ?

Comprendre les obligations liées à cet article et éviter les erreurs.

🔓 Échange confidentiel – Sans engagement