Article 5 IA Act : Pratiques interdites en matière d’IA

Explication de l’article

L’article 5 du RIA  établit une liste de pratiques en matière d’intelligence artificielle qui sont interdites dans l’Union européenne en raison des risques qu’elles présentent pour les droits fondamentaux, la santé, la sécurité et la dignité humaine.

L’objectif est d’empêcher que des systèmes d’IA soient utilisés pour manipuler les personnes, exploiter leurs vulnérabilités, les classer de manière injustifiée ou porter atteinte à leur vie privée et à leur liberté.

Contrairement aux systèmes d’IA à haut risque, qui peuvent être utilisés sous réserve du respect d’exigences strictes, les pratiques visées par l’article 5 sont interdites lorsqu’elles entrent dans les conditions définies par le règlement.

L’article 5 ne prohibe donc pas toute utilisation risquée de l’intelligence artificielle. Il vise des pratiques déterminées, dont certaines sont interdites en raison de leur nature même, tandis que d’autres ne le sont que lorsque des conditions précises sont réunies.

Le Digital Omnibus on AI, adopté par le règlement (UE) 2026/1744 du 8 juillet 2026, a ajouté deux nouvelles interdictions concernant les contenus intimes non consentis et certains contenus d’abus sexuels sur des enfants générés ou manipulés par l’IA. Ces nouvelles dispositions s’appliqueront à partir du 2 décembre 2026. Les autres interdictions de l’article 5 doivent être distinguées de ces nouvelles dispositions, qui ont leur propre date d’application.

1. Les techniques de manipulation et de tromperie

L’article 5, paragraphe 1, point a), interdit la mise sur le marché, la mise en service ou l’utilisation de systèmes d’IA qui recourent à des techniques subliminales, manipulatrices ou trompeuses dans certaines circonstances.

L’interdiction suppose que ces techniques aient pour objectif ou pour effet de modifier de manière importante le comportement d’une personne ou d’un groupe, en altérant sensiblement leur capacité à prendre une décision éclairée, et qu’elles causent ou soient raisonnablement susceptibles de causer un préjudice important.

L’objectif est de protéger la liberté de décision des personnes.

Exemple : un système d’IA pourrait être conçu pour exploiter les réactions émotionnelles d’une personne afin de la pousser à effectuer un achat qu’elle n’aurait pas choisi librement, avec un risque de préjudice important.

Toute technique persuasive n’est cependant pas automatiquement interdite. Il faut vérifier que les conditions prévues par l’article 5 sont réunies.

2. L’exploitation des vulnérabilités

Le point b) interdit certaines pratiques qui exploitent les vulnérabilités d’une personne ou d’un groupe en raison notamment :

• de leur âge ;
• d’un handicap ;
• d’une situation sociale ou économique particulière.

L’interdiction s’applique lorsque l’exploitation de cette vulnérabilité modifie de manière importante le comportement de la personne et entraîne, ou risque raisonnablement d’entraîner, un préjudice important.

Exemple : un système d’IA pourrait cibler des personnes âgées particulièrement vulnérables afin de les inciter à souscrire à des services coûteux dont elles n’ont pas besoin, en exploitant délibérément leur difficulté à comprendre les conséquences de leur décision.

Cette interdiction vise à empêcher que les technologies d’IA tirent parti des fragilités individuelles pour obtenir un comportement préjudiciable.

3. Les contenus intimes non consentis et certains contenus d’abus sexuels sur des enfants : nouvelles interdictions

Le Digital Omnibus a introduit deux nouvelles dispositions dans l’article 5, paragraphe 1 : les points b bis) et b ter). Ces interdictions doivent être présentées séparément, car elles ne sont applicables qu’à partir du 2 décembre 2026.

A. La génération de contenus intimes réalistes sans consentement

Le point b bis) vise les systèmes d’IA qui génèrent ou manipulent des images, vidéos, contenus audio ou matériels similaires réalistes représentant :

• les parties intimes d’une personne physique identifiable ;
• une personne identifiable participant à des activités sexuellement explicites.

L’interdiction concerne les contenus produits ou manipulés sans le consentement libre, spécifique, éclairé, univoque et explicite de la personne représentée.

Elle vise notamment les applications permettant de créer de fausses images intimes d’une personne à partir de photographies ordinaires, sans son autorisation.

Le règlement précise toutefois les conditions dans lesquelles la mise sur le marché ou la mise en service d’un système est interdite. Cette interdiction vise notamment les systèmes conçus à cette fin ou ceux dont la conception rend ce résultat raisonnablement prévisible et reproductible, sans modification technique importante, lorsqu’ils ne disposent pas de mesures de sécurité et de garanties raisonnables et adéquates permettant de prévenir et de corriger ces usages.

Pour les déployeurs, l’interdiction porte sur l’utilisation du système dans le but de générer ou de manipuler de tels contenus.

Le texte prévoit également qu’une modification qui n’augmente pas l’exposition des parties intimes représentées et ne modifie pas la nature des activités sexuellement explicites représentées ne constitue pas une manipulation au sens de cette disposition.

B. La génération de certains contenus d’abus sexuels sur des enfants

Le point b ter) vise les systèmes d’IA qui génèrent ou manipulent des contenus ou représentations relevant de l’article 2, points c) et e), de la directive 2011/93/UE relative à la lutte contre les abus sexuels et l’exploitation sexuelle des enfants ainsi que la pédopornographie.

L’interdiction s’applique sous réserve de l’exception prévue par le texte lorsqu’une défense « sans droit » s’applique en vertu du droit national.

Comme pour les contenus intimes non consentis, l’article 5 distingue les conditions d’interdiction applicables aux fournisseurs de systèmes et celles applicables aux personnes qui les utilisent.

Cette disposition renforce la protection des enfants contre les contenus abusifs générés ou manipulés par l’intelligence artificielle.

4. Le classement social des personnes

Le point c) interdit certains systèmes d’IA qui évaluent ou classent des personnes ou des groupes sur une certaine période en fonction de leur comportement social ou de caractéristiques personnelles connues, déduites ou prédites.

L’interdiction s’applique lorsque le classement entraîne :

• un traitement défavorable dans un contexte social sans rapport avec celui dans lequel les données ont été collectées ou générées ;
• un traitement défavorable injustifié ou disproportionné par rapport au comportement observé ou à sa gravité.

Exemple : un système attribue à une personne une mauvaise note sociale en fonction de ses habitudes ou de ses relations, puis cette note entraîne un refus injustifié d’accès à un service dans un domaine sans rapport avec les comportements évalués.

L’objectif est d’éviter que des évaluations globales des personnes conduisent à des discriminations ou à des conséquences injustifiées.

5. La prédiction du risque de commission d’une infraction fondée uniquement sur le profilage

Le point d) interdit la mise sur le marché, la mise en service à cette fin ou l’utilisation de systèmes d’IA qui évaluent ou prédisent le risque qu’une personne commette une infraction pénale en se fondant uniquement sur le profilage de cette personne ou sur l’évaluation de ses traits et caractéristiques de personnalité.

Le texte prévoit une exception lorsque le système sert à soutenir l’évaluation humaine de l’implication d’une personne dans une activité criminelle, si cette évaluation repose déjà sur des faits objectifs et vérifiables directement liés à une activité criminelle.

Exemple : un système qui prédit qu’une personne risque de commettre une infraction uniquement à partir de son profil psychologique ou de caractéristiques personnelles tombe dans le champ de l’interdiction.

En revanche, l’article 5 ne prohibe pas automatiquement tout outil d’aide à l’analyse d’une affaire pénale : il faut examiner la finalité du système et les données sur lesquelles repose l’évaluation.

6. La création de bases de données de reconnaissance faciale par collecte non ciblée

Le point e) interdit les systèmes d’IA qui créent ou étendent des bases de données de reconnaissance faciale au moyen de la collecte non ciblée d’images faciales sur Internet ou à partir d’images de vidéosurveillance.

Cette pratique peut entraîner la collecte massive d’images de personnes qui n’ont jamais accepté de figurer dans une base de reconnaissance faciale.

Exemple : une entreprise collecte automatiquement des millions de photographies accessibles en ligne pour constituer une base de données permettant d’identifier des personnes par leur visage.

L’accessibilité publique d’une photographie ne signifie pas que son utilisation pour constituer une telle base est autorisée.

7. La reconnaissance des émotions au travail et dans les établissements d’enseignement

Le point f) interdit certains systèmes d’IA utilisés pour inférer les émotions d’une personne dans les lieux de travail et les établissements d’enseignement.

Le texte prévoit une exception lorsque l’utilisation du système est destinée à des raisons médicales ou de sécurité.

Exemple : un employeur utilise une caméra dotée d’une IA pour déduire l’état émotionnel de ses salariés et évaluer leur motivation ou leur engagement.

Une telle utilisation relève de l’interdiction lorsque les conditions de l’article 5 sont réunies et qu’aucune exception applicable ne la couvre.

8. Certaines catégorisations biométriques

Le point g) interdit certains systèmes de catégorisation biométrique qui classent individuellement des personnes à partir de leurs données biométriques afin de déduire ou d’inférer :

• leur origine raciale ;
• leurs opinions politiques ;
• leur appartenance syndicale ;
• leurs convictions religieuses ou philosophiques ;
• leur vie sexuelle ou leur orientation sexuelle.

Le texte prévoit des exclusions, notamment pour l’étiquetage ou le filtrage de jeux de données biométriques légalement acquis et pour certaines catégorisations dans le domaine répressif.

Exemple : un système analyse les visages des visiteurs d’un événement afin de leur attribuer une appartenance politique supposée.

Cette pratique relève du type de catégorisation que l’article 5 cherche à interdire.

9. L’identification biométrique à distance en temps réel dans les espaces accessibles au public

Le point h) interdit, en principe, l’utilisation de systèmes d’identification biométrique à distance « en temps réel » dans les espaces accessibles au public à des fins répressives.

Le règlement prévoit cependant des exceptions strictement encadrées, lorsque l’utilisation est strictement nécessaire pour certains objectifs limitativement énumérés, notamment :

• la recherche ciblée de victimes d’enlèvement, de traite des êtres humains ou d’exploitation sexuelle, ainsi que la recherche de personnes disparues ;
• la prévention d’une menace spécifique, substantielle et imminente pour la vie ou la sécurité physique des personnes, ou d’une menace terroriste réelle et présente ou prévisible ;
• la localisation ou l’identification d’une personne soupçonnée d’avoir commis certaines infractions graves, dans les conditions prévues par le texte.

Ces exceptions sont soumises à des garanties, notamment des limites temporelles, géographiques et personnelles, une évaluation de l’impact sur les droits fondamentaux et, en principe, une autorisation préalable d’une autorité judiciaire ou administrative indépendante compétente.

Exemple : l’utilisation d’un système de reconnaissance faciale en temps réel par les forces de l’ordre dans une gare ne peut pas être justifiée par la seule volonté de surveiller l’ensemble des voyageurs. Elle doit correspondre à l’un des objectifs autorisés et respecter les conditions strictes prévues par l’article 5 et le droit national applicable.

10. Les autres interdictions prévues par le droit applicable

Enfin, le paragraphe 8 précise que l’article 5 ne porte pas atteinte aux interdictions applicables lorsqu’une pratique d’IA enfreint d’autres règles du droit de l’Union.

Le respect de l’article 5 ne suffit donc pas à rendre licite un système d’IA : les autres dispositions européennes et nationales applicables doivent également être respectées.