Article 68 IA Act – Groupe scientifique d’experts indépendants
Table des matières
Explication de l’article
L’article 68 de l’AI Act institue un groupe scientifique d’experts indépendants, chargé de soutenir les activités de contrôle de l’application du règlement. Ce groupe apporte une expertise scientifique et technique à la Commission européenne et, plus particulièrement, au Bureau de l’IA (AI Office).
Son rôle est essentiel pour permettre aux institutions européennes de mieux comprendre les capacités des modèles d’intelligence artificielle, d’identifier les risques qu’ils peuvent présenter et d’évaluer leur conformité aux exigences du règlement.
L’article 68 organise son fonctionnement autour de cinq paragraphes.
1. La création du groupe scientifique
La Commission européenne adopte un acte d’exécution afin de définir les modalités de constitution et de fonctionnement du groupe scientifique.
Cet acte est adopté conformément à la procédure d’examen prévue à l’article 98, paragraphe 2, de l’IA Act. Cette procédure implique l’intervention du comité composé de représentants des États membres.
Le groupe scientifique est destiné à soutenir les activités de contrôle de l’application du règlement. Il ne constitue donc pas une autorité de surveillance du marché indépendante, mais un organe d’expertise qui apporte un appui scientifique aux institutions et autorités compétentes.
2. La sélection des experts et les garanties d’indépendance
Les experts sont sélectionnés par la Commission européenne en fonction de leurs connaissances scientifiques ou techniques actualisées dans le domaine de l’intelligence artificielle.
Pour être sélectionnés, ils doivent remplir trois conditions :
- Posséder une expertise particulière : les experts doivent disposer de compétences et de connaissances scientifiques ou techniques spécifiques dans le domaine de l’IA, adaptées aux missions qui leur sont confiées.
- Être indépendants des fournisseurs : ils doivent être indépendants de tout fournisseur de systèmes d’IA ou de modèles d’IA à usage général. Cette exigence vise à limiter les risques de conflits d’intérêts et à garantir l’objectivité de leurs analyses.
- Travailler avec rigueur et objectivité : ils doivent être capables d’exercer leurs missions avec diligence, précision et impartialité.
Le nombre d’experts est déterminé par la Commission européenne, en consultation avec le Comité IA, en fonction des besoins identifiés.
La Commission doit également veiller à une représentation équitable entre les hommes et les femmes ainsi qu’à un équilibre géographique au sein du groupe.
3. Les missions du groupe scientifique
Le groupe scientifique conseille et soutient le Bureau de l’IA dans plusieurs domaines.
Ses missions concernent principalement les modèles et systèmes d’IA à usage général, mais son expertise peut également être mobilisée dans le cadre des activités de surveillance du marché.
Il intervient notamment pour :
- Identifier les risques systémiques : il peut alerter le Bureau de l’IA sur les risques systémiques potentiels que des modèles d’IA à usage général pourraient présenter à l’échelle de l’Union européenne. Ces alertes sont encadrées par l’article 90 de l’IA Act.
- Développer des outils et des méthodes d’évaluation : il contribue à la conception d’outils et de méthodologies permettant d’évaluer les capacités des modèles et systèmes d’IA à usage général. Ces évaluations peuvent notamment s’appuyer sur des critères de référence (benchmarks) permettant de mesurer et de comparer certaines capacités des modèles.
- Conseiller sur la classification des modèles présentant un risque systémique : il apporte une expertise scientifique à la Commission pour apprécier si un modèle d’IA à usage général doit être classé comme présentant un risque systémique, conformément aux critères prévus par les articles 51 et 52.
- Conseiller sur la classification des modèles et systèmes d’IA à usage général : il contribue à l’analyse des caractéristiques et des capacités de différents modèles et systèmes afin d’éclairer leur classification au regard du règlement.
- Contribuer à l’élaboration d’outils et de modèles : il participe au développement d’outils et de modèles destinés à soutenir les activités d’évaluation et de contrôle du Bureau de l’IA.
En outre, le groupe scientifique peut soutenir les autorités de surveillance du marché lorsqu’elles en font la demande.
Il peut également contribuer aux activités transfrontières de surveillance du marché prévues à l’article 74, paragraphe 11, sans porter atteinte aux compétences et aux pouvoirs propres de ces autorités.
Enfin, il soutient le Bureau de l’IA dans l’exercice de ses fonctions dans le cadre de la procédure de sauvegarde de l’Union prévue à l’article 81. Cette procédure permet notamment de traiter les situations dans lesquelles un système d’IA présente un risque au niveau de l’Union européenne.
4. L’impartialité, la confidentialité et la prévention des conflits d’intérêts
L’article 68 impose des garanties destinées à préserver l’indépendance du groupe scientifique.
Les experts doivent exercer leurs missions avec impartialité et objectivité. Ils sont également tenus de préserver la confidentialité des informations et des données obtenues dans le cadre de leurs travaux.
Ils ne peuvent ni solliciter ni accepter d’instructions de quiconque dans l’exercice des missions qui leur sont confiées.
Chaque expert doit établir une déclaration d’intérêts, qui est rendue publique. Cette obligation permet d’identifier les intérêts susceptibles d’influencer, ou de donner l’apparence d’influencer, son jugement.
Le Bureau de l’IA doit, de son côté, mettre en place des systèmes et des procédures destinés à prévenir et à gérer activement les éventuels conflits d’intérêts.
5. Les modalités d’émission des alertes et de demande d’assistance
L’acte d’exécution relatif à la constitution du groupe scientifique doit préciser les conditions, les procédures et les modalités pratiques permettant aux experts :
- d’émettre des alertes, notamment sur les risques systémiques potentiels liés aux modèles d’IA à usage général ;
- de demander l’assistance du Bureau de l’IA pour accomplir leurs missions.
Ces modalités permettent d’organiser les échanges entre les experts et le Bureau de l’IA et de préciser comment leur expertise peut être mobilisée dans le cadre du contrôle de l’application du règlement.
Ainsi, l’article 68 met en place un mécanisme d’expertise scientifique indépendant destiné à renforcer la capacité de l’Union européenne à évaluer les technologies d’IA et à détecter les risques qu’elles peuvent présenter.
Notions clés à comprendre
Experts indépendants : spécialistes sans lien direct avec les entreprises pour garantir l’objectivité
Risques systémiques : risques qui peuvent affecter un grand nombre de personnes ou des secteurs entiers
Méthodologies d’évaluation : outils et méthodes pour analyser les IA
Bureau de l’IA : autorité européenne de supervision de l’IA
Le benchmark : Un benchmark est un ensemble de tests ou de critères de référence permettant d’évaluer et de comparer les performances d’un modèle d’IA dans des conditions définies.
Exemple pratique
Un fournisseur développe un modèle d’IA à usage général particulièrement avancé, capable de produire du code informatique, de traiter des informations complexes et d’être intégré dans de nombreuses applications professionnelles.
Compte tenu de ses capacités, ce modèle pourrait présenter des risques systémiques, notamment s’il était utilisé à grande échelle pour faciliter des cyberattaques ou pour développer des applications dangereuses.
Le Bureau de l’IA souhaite donc disposer d’une évaluation scientifique approfondie de ses capacités et de ses risques potentiels.
Dans ce contexte, le groupe scientifique peut intervenir de plusieurs manières :
- Évaluer les capacités du modèle : les experts contribuent à élaborer des tests et des benchmarks permettant d’examiner ses performances dans différents domaines.
- Analyser les risques potentiels : ils étudient les capacités du modèle et les scénarios dans lesquels son utilisation pourrait entraîner des conséquences importantes à l’échelle de l’Union européenne.
- Alerter le Bureau de l’IA : si les experts identifient des risques systémiques potentiels, ils peuvent transmettre une alerte conformément à l’article 90.
- Conseiller sur la classification : ils peuvent apporter une expertise scientifique afin d’éclairer l’appréciation du caractère systémique du modèle au regard des articles 51 et 52.
Les conclusions scientifiques peuvent ainsi aider le Bureau de l’IA et la Commission européenne à déterminer les mesures de suivi ou de contrôle appropriées.
Cet exemple montre que le groupe scientifique joue un rôle essentiel dans la détection précoce des risques liés aux modèles d’IA avancés. Il contribue à éclairer les décisions des autorités, sans se substituer à leur pouvoir juridique de décision.
Texte original de l’IA Act
Article 68 – Groupe scientifique d’experts indépendants
2. Le groupe scientifique est composé d’experts sélectionnés par la Commission en fonction de leur expertise à la pointe des connaissances scientifiques ou techniques dans le domaine de l’IA, nécessaire pour s’acquitter des tâches énoncées au paragraphe 3, et est en mesure de démontrer qu’ils remplissent toutes les conditions suivantes:
La Commission, en consultation avec le Comité IA, détermine le nombre d’experts au sein du groupe scientifique en fonction des besoins et veille à une représentation équitable entre les hommes et les femmes ainsi que sur le plan géographique.
3. Le groupe scientifique conseille et soutient le Bureau de l’IA, notamment en ce qui concerne les tâches suivantes:
Perspectives avec d’autres textes
Perspectives européennes
Règlement (UE) 2019/881 relatif à l’ENISA et à la certification de cybersécurité (Cybersecurity Act)
Ce règlement établit un cadre européen en matière de cybersécurité et prévoit notamment des dispositifs de certification. Les travaux du groupe scientifique peuvent être pertinents lorsque l’évaluation d’un modèle d’IA nécessite d’examiner ses vulnérabilités ou les risques liés à son utilisation malveillante. Les deux textes poursuivent toutefois des objectifs distincts : l’IA Act encadre les systèmes et modèles d’IA, tandis que le Cybersecurity Act organise notamment le cadre européen de certification de cybersécurité.
Règlement (UE) 2019/1020 relatif à la surveillance du marché et à la conformité des produits
Ce règlement établit un cadre général de coopération entre les autorités chargées de la surveillance du marché. L’article 74, paragraphe 11, de l’IA Act prévoit des activités conjointes de surveillance auxquelles le groupe scientifique peut apporter un soutien technique. Cette articulation permet de rapprocher l’expertise scientifique des mécanismes opérationnels de contrôle du marché intérieur.
RGPD
Les modèles et systèmes d’IA qui traitent des données à caractère personnel doivent respecter les principes et obligations du RGPD, notamment ceux relatifs à la licéité du traitement, à la minimisation des données, à la sécurité et aux droits des personnes concernées. Les analyses scientifiques relatives aux capacités et aux risques des modèles peuvent contribuer à mieux comprendre certaines conséquences de leur utilisation sur les données personnelles. Le groupe scientifique ne se substitue cependant pas au Comité européen de la protection des données ni aux autorités de contrôle compétentes.
Perspectives françaises
Loi n° 78-17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés
Cette loi complète le cadre français de protection des données à caractère personnel établi par le RGPD. Lorsqu’un modèle ou un système d’IA traite des données personnelles, les obligations issues de ces textes doivent être prises en compte parallèlement à celles de l’IA Act. L’expertise scientifique prévue à l’article 68 peut contribuer à mieux comprendre les risques techniques liés à ces technologies, mais elle ne remplace pas les missions de contrôle de la CNIL.
Code de la recherche
Les dispositions relatives à l’organisation de la recherche scientifique et aux activités des organismes de recherche constituent un cadre national complémentaire pour les travaux scientifiques portant sur l’intelligence artificielle. Les compétences des chercheurs français en informatique, en mathématiques, en sciences des données et en cybersécurité peuvent contribuer au développement des connaissances nécessaires à l’évaluation des modèles d’IA. Cette articulation relève de la contribution scientifique et ne confère pas automatiquement aux organismes français un statut de membre du groupe scientifique européen.
Loi n° 2018-133 du 26 février 2018 portant diverses dispositions d’adaptation au droit de l’Union européenne dans le domaine de la sécurité
Cette loi s’inscrit dans le cadre français de transposition des exigences européennes relatives à la sécurité des réseaux et des systèmes d’information, notamment celles issues de la directive NIS. Elle illustre l’importance de l’expertise technique et de la coopération entre les acteurs chargés de la cybersécurité. Ces enjeux sont complémentaires des travaux du groupe scientifique lorsque les modèles d’IA peuvent présenter des risques liés à leur utilisation ou à leur exploitation malveillante.
L’IA ACT peut sembler complexe. L’équipe de DPO externe de Mon Expert RGPD vous accompagne dans la compréhension du rôle du groupe d’experts IA.
Menu IA Act
Besoin d’aide pour cet article ?
Comprendre les obligations liées à cet article et éviter les erreurs.
🔓 Échange confidentiel – Sans engagement