Les dix pratiques d'IA interdites en Europe (et les deux que presque personne n'a signalées)

Résumé

• L'article 5 du Règlement (UE) 2024/1689 (l'« IA Act ») ne compte plus huit interdictions. Il en compte désormais dix.
• Le Règlement (UE) 2026/1744, dit Omnibus numérique sur l'IA, publié au JOUE le 24 juillet 2026 et en vigueur depuis le 27 juillet 2026, a inséré deux nouvelles lettres dans l'article 5, paragraphe 1 : b bis) et b ter). Elles interdisent de générer ou de manipuler avec l'IA du matériel intime non consenti et du matériel d'abus sexuels sur mineurs.
• Les huit interdictions initiales (lettres a) à h)) s'appliquent depuis le 2 février 2025. Les deux nouvelles ne s'appliquent pas avant le 2 décembre 2026.
• Celle qui peut réellement affecter une PME espagnole est la lettre f) : inférer des émotions de personnes sur le lieu de travail et dans les établissements d'enseignement. Nul besoin que l'entreprise développe quoi que ce soit ; il suffit d'utiliser un outil qui le fait.
• Le 2 décembre 2026 constitue un double rendez-vous : les deux nouvelles interdictions entrent en vigueur et le délai transitoire de marquage de l'article 50.2 pour les systèmes génératifs antérieurs au 2 août 2026 expire (point 39 de l'Omnibus).
• L'amende pour violation d'une interdiction peut atteindre 35 000 000 € ou 7 % du chiffre d'affaires mondial annuel, le montant le plus élevé étant retenu. Pour les PME, le montant le moins élevé (article 99, paragraphes 3 et 6).
• Action concrète cette semaine : demander par écrit aux fournisseurs de votre logiciel RH, de contrôle d'accès, de vidéosurveillance et de service client si l'un de leurs modules infère des états émotionnels. Et conserver la réponse.

Que signifie exactement qu'une pratique d'IA est « interdite » ?

L'IA Act classifie les systèmes d'IA par niveaux de risque. La plupart entrent dans des catégories où il est possible de travailler en respectant des exigences : documentation, supervision humaine, transparence, enregistrement. L'article 5 est différent. Il n'y a pas de dossier à constituer. Ce sont des pratiques à risque inacceptable, et ce que dit la norme est littéral : « Les pratiques d'IA suivantes sont interdites. »

Deux précisions changent considérablement la lecture à en faire.

La première : l'interdiction s'étend à la mise sur le marché, la mise en service et l'utilisation. Pas seulement à celui qui fabrique le système. Aussi à celui qui l'utilise. Une entreprise qui achète un outil et le déploie est un « déployeur » au sens de l'article 3, point 4 : quiconque « utilise un système d'IA sous sa propre autorité, sauf lorsque cet usage s'inscrit dans le cadre d'une activité personnelle à caractère non professionnel ». Si vous l'utilisez dans votre activité professionnelle, vous êtes concerné.

La seconde : la définition de « système d'IA » de l'article 3, point 1, est large. Un système basé sur une machine, avec différents niveaux d'autonomie, qui « déduit de l'information reçue en entrée la manière de générer des résultats en sortie ». Ce verbe, déduire, est celui qui fait qu'un module d'analyse des sentiments au sein d'une suite RH compte comme un système d'IA, même si le fournisseur le commercialise comme une fonctionnalité parmi d'autres.

Et il n'y a pas de période transitoire pour les huit interdictions initiales : elles s'appliquent depuis le 2 février 2025.

Quelles sont les huit interdictions applicables depuis février 2025 ?

Ce sont les lettres a) à h) de l'article 5, paragraphe 1, dans le texte en vigueur du Règlement (UE) 2024/1689. En voici le résumé, mais il convient de lire la rédaction complète avant de prendre toute décision sur un cas concret.

La lettre h) comporte des exceptions limitées (recherche de victimes d'enlèvement ou de traite, menace imminente pour la vie, localisation de suspects pour certaines infractions) et requiert une autorisation judiciaire ou d'une autorité administrative indépendante. Elle ne s'applique pas aux entreprises privées.

Quelles deux interdictions l'Omnibus numérique sur l'IA a-t-il ajoutées ?

Voici la partie qui a très peu circulé. Le Règlement (UE) 2026/1744, adopté à Strasbourg le 8 juillet 2026 et publié au JOUE le 24 juillet 2026, modifie l'IA Act sur de nombreux points. Son point 7 dispose : « L'article 5 est modifié comme suit : a) au paragraphe 1, premier alinéa, les lettres suivantes sont insérées. »

Lettre b bis). Elle interdit « la mise sur le marché, la mise en service ou l'utilisation d'un système d'IA qui génère ou manipule des images, vidéos ou sons réalistes ou du matériel similaire représentant des parties intimes identifiables d'une personne physique, ou une personne physique identifiable se livrant à des activités à caractère sexuel explicite, sans le consentement libre, spécifique, éclairé et explicite et univoque de cette personne pour une telle génération ou manipulation ».

Lettre b ter). Elle interdit la même chose pour « du matériel ou des représentations au sens de l'article 2, points c) et e), de la directive 2011/93/UE » (matériel d'abus sexuels sur mineurs), « sauf lorsqu'une défense de "forme illicite" s'applique en vertu du droit national ».

Ce même point 7 insère deux nouveaux paragraphes, 1 bis et 1 ter, qui délimitent quand l'infraction est caractérisée. C'est la partie techniquement la plus précise et celle qui intéresse quiconque intègre des modèles génératifs dans un produit :

• Mettre sur le marché ou en service un système n'est interdit que lorsque cette génération est la finalité prévue du système, ou lorsque la conception, l'entraînement, l'architecture, les capacités ou les fonctionnalités orientées utilisateur font que ce résultat est « raisonnablement prévisible et reproductible, sans nécessiter de modifications techniques substantielles », et que le système ne dispose pas de « mesures techniques de sécurité raisonnables et adéquates et d'autres garanties » pour l'éviter de manière fiable ou pour corriger l'utilisation abusive observée ou signalée.
• L'utilisation n'est interdite que « lorsque le déployeur utilise le système aux fins de générer ou de manipuler ledit matériel ». Autrement dit : la génération accidentelle ne rend pas l'utilisateur contrevenant.
• Le paragraphe 1 ter précise qu'il n'y a pas de « manipulation » lorsque le système modifie le matériel « d'une manière qui n'augmente pas l'exposition de toute partie intime représentée ni n'altère la nature de toute activité à caractère sexuel explicite représentée ».

Le considérant 10 de l'Omnibus explique pourquoi : le déploiement et l'utilisation généralisés de systèmes générant du « matériel intime non consenti » rendaient nécessaire une modification de l'article 5.

Depuis quand les deux nouvelles s'appliquent-elles et pourquoi le décalage est-il important ?

Elles ne s'appliquent pas depuis le 27 juillet 2026, même si le Règlement est déjà en vigueur. Le point 40 de l'Omnibus remplace la lettre a) du troisième alinéa de l'article 113 de l'IA Act, qui se lit désormais ainsi :

« les chapitres I et II s'appliquent à partir du 2 février 2025, à l'exception de l'article 5, paragraphe 1, premier alinéa, lettres b bis) et b ter), et de l'article 5, paragraphes 1 bis et 1 ter, qui s'appliquent à partir du 2 décembre 2026. »

Soit une fenêtre d'environ quatre mois pour que les fournisseurs et les déployeurs adaptent les garanties, les mécanismes de détection et les flux de consentement. Si vous vendez ou intégrez de la génération d'images ou de vidéos, cette date est votre véritable échéance.

Développer la capacité n'est pas interdit : la commercialiser sans garde-fous, si

Le considérant 12 de l'Omnibus l'indique sans détour : l'interdiction « ne doit pas empêcher les fournisseurs de développer les capacités techniques des systèmes d'IA pour générer ou manipuler des images, vidéos, sons ou matériels similaires ». Un modèle capable de générer des corps humains réalistes n'est pas, en lui-même, un système interdit. La frontière se situe dans sa mise sur le marché ou en service dans les deux circonstances du paragraphe 1 bis : que générer ce matériel soit sa finalité prévue, ou que ce soit un résultat raisonnablement prévisible et reproductible et que le système soit mis en circulation sans garde-fous pour l'éviter.

Ce même considérant ajoute deux précisions opérationnelles. Pour les fournisseurs qui maintiennent un « contrôle effectif » sur le système — quiconque le sert via une plateforme ou une interface web —, les garanties peuvent inclure le suivi et la signalisation des utilisations abusives, dans le respect de la réglementation sur la vie privée et la protection des données. Et si le fournisseur constate, ou si quelqu'un lui signale, que ses barrières sont contournées, il doit adopter des mesures correctives adéquates.

Concrètement : quiconque ouvre un point de terminaison de génération d'images et se désintéresse de ce qui en sort a un problème à compter du 2 décembre. Quiconque documente ses garde-fous, surveille les contournements et corrige lorsqu'on l'avertit, dispose d'un dossier à présenter.

Les garanties techniques citées par la norme elle-même

Il n'y a pas lieu de deviner ce qui compte comme « mesures techniques de sécurité raisonnables et adéquates » : le considérant 12 en fournit la liste. Il convient de la lire comme un menu de preuves, car c'est ce qu'un fournisseur ou un intégrateur devra être en mesure d'attester :

• Assainissement des données : filtrer du corpus d'entraînement le matériel visé par l'interdiction.
• Entraînement au refus : que le modèle apprenne à rejeter les requêtes visant ce matériel.
• Conception sécurisée des invites (prompts) et contrôles des sorties : revoir aussi bien ce qui entre que ce qui sort.
• Barrières d'invites en temps d'exécution : blocages agissant au moment de la requête, pas seulement à l'entraînement.
• Mécanismes de classification et de filtrage du contenu.
• Restrictions d'utilisation : conditions contractuelles et techniques sur les usages autorisés du système.
• Mécanismes de détection des abus et de signalement et d'action : un canal pour alerter et un circuit qui réponde.

La défense de « forme illicite » : à qui s'adresse-t-elle vraiment ?

La lettre b ter) comporte une exception à la rédaction déconcertante : l'interdiction ne s'applique pas « lorsqu'une défense de "forme illicite" s'applique en vertu du droit national ». Telle quelle, entre guillemets, telle que le JOUE la publie en français ; elle renvoie aux défenses de l'article 5, paragraphe 1, de la directive 2011/93/UE.

Le considérant 13 précise qui en bénéficie : les autorités qui génèrent ou manipulent ce matériel de façon légitime pour des procédures pénales ou pour prévenir, détecter et enquêter sur des infractions, et l'utilisation de « red teams » et d'évaluations dont la finalité est de vérifier que le système lui-même respecte l'interdiction. L'exception existe pour que la police puisse travailler et pour que les barrières d'un modèle puissent être testées sans commettre l'infraction qu'on cherche à éviter. Ce n'est pas une voie pour des plateformes ni pour quiconque agit en dehors d'une habilitation du droit national.

Étiqueter le deepfake ne le légalise pas : la relation avec l'article 50

Il convient de ne pas mélanger les plans. L'article 50 de l'IA Act impose des obligations de transparence — marquer le contenu synthétique dans un format lisible par machine (paragraphe 2) et déclarer les hypertrucages (paragraphe 4) —, applicables depuis le 2 août 2026. La lettre b bis) est autre chose : une interdiction. Une vidéo intime générée sans consentement ne cesse pas d'être interdite parce qu'elle porte l'étiquette de contenu synthétique ; l'étiquette ne se substitue pas au consentement, et le consentement n'exempte pas de l'étiquette.

Et c'est ici que les deux rendez-vous se croisent. Le point 39 de l'Omnibus ajoute un paragraphe 4 à l'article 111 : les fournisseurs de systèmes générant du contenu synthétique audio, image, vidéo ou texte — y compris à usage général — mis sur le marché avant le 2 août 2026 avaient jusqu'au 2 décembre 2026 pour se conformer au marquage de l'article 50, paragraphe 2. Le même jour où s'appliquent les lettres b bis) et b ter), le délai transitoire de marquage pour l'ensemble du parc de systèmes génératifs a expiré.

Calendrier pratique

Voici ce qu'il convient de vérifier selon le rôle occupé.

Laquelle des dix affecte réellement une PME espagnole ?

La f). Et de loin.

Le texte interdit « la mise sur le marché, la mise en service pour cette finalité spécifique ou l'utilisation de systèmes d'IA destinés à inférer les émotions d'une personne physique sur le lieu de travail et dans les établissements d'enseignement, sauf lorsque le système d'IA est destiné à être installé ou mis sur le marché pour des raisons médicales ou de sécurité ».

Le considérant 44 de l'IA Act précise la raison : il existe « une grande préoccupation concernant la base scientifique » de ces systèmes, car l'expression émotionnelle varie selon les cultures, les situations et même la même personne. Et il ajoute l'argument décisif pour le travail et l'enseignement : le déséquilibre de pouvoir.

Où cela apparaît-il sans que personne ne l'appelle « IA des émotions » :

• Suites RH avec modules de « climat », d'« engagement » ou d'« analyse des sentiments » qui notent l'état d'esprit à partir du texte, de la voix ou de la vidéo du personnel.
• Plateformes de vidéo-entretien qui évaluent les expressions faciales, le ton ou les micro-gestes du candidat.
• Logiciels de centre de contact qui étiquettent l'émotion de l'agent (et pas seulement du client) pour des métriques de performance.
• Caméras en salle de cours ou en formation interne qui notent l'« attention » ou l'« implication » à partir du regard ou de la posture.
• Outils de productivité qui infèrent stress ou frustration à partir de schémas de frappe.

Ce qui n'entre pas dans le champ, selon le considérant 18 de l'IA Act, qui définit « système de reconnaissance des émotions » : les états physiques tels que la douleur ou la fatigue. L'exemple que donne la norme elle-même est celui des systèmes de détection de la fatigue des pilotes ou des conducteurs professionnels. N'entre pas non plus « la simple détection d'expressions, de gestes ou de mouvements qui sont évidents, sauf s'ils sont utilisés pour distinguer ou déduire des émotions ».

Comment vérifier si un outil déjà contracté enfreint la lettre f) ?

Sans ouvrir le code source. En posant quatre questions par écrit au fournisseur et en consultant la documentation contractuelle.

1. L'une des fonctionnalités du produit distingue-t-elle ou infère-t-elle des émotions, états d'esprit ou intentions de personnes à partir de données biométriques (voix, visage, gestes, regard) ? Demandez un oui ou un non, pas un paragraphe marketing.
2. Si la réponse est oui, cette fonctionnalité s'exerce-t-elle sur le personnel de votre entreprise ou sur des élèves, ou uniquement sur des tiers étrangers à la relation de travail ?
3. Peut-elle être désactivée de manière vérifiable au niveau de votre instance, et comment l'attester ?
4. Le fournisseur déclare-t-il une finalité médicale ou de sécurité comme destination du système, au sens de l'article 5.1.f) du Règlement (UE) 2024/1689 ?

Conservez les réponses. Si demain une inspection ou une réclamation se présente, la différence entre un problème et une frayeur réside dans le fait d'avoir par écrit la preuve que vous avez posé la question et la réponse obtenue.

Combien coûte la violation d'une interdiction et qui sanctionne en Espagne ?

L'article 99, paragraphe 3, de l'IA Act : amendes administratives pouvant atteindre 35 000 000 EUR ou, si le contrevenant est une entreprise, jusqu'à 7 % de son chiffre d'affaires annuel mondial total de l'exercice précédent, « si ce montant est plus élevé ».

Le paragraphe 6 inverse le sens de la comparaison pour les PME : dans leur cas, l'amende « peut être au taux ou au montant mentionné aux paragraphes 3, 4 et 5, selon celui qui est le moins élevé ». L'Omnibus a en outre ajouté un paragraphe 6 bis avec une règle équivalente pour les petites entreprises à capitalisation moyenne.

En Espagne, le régime de sanctions est en cours d'élaboration. Le Projet de loi organique pour le bon usage et la gouvernance de l'intelligence artificielle a été publié au Journal officiel des Cortès Générales (Congrès, Série A, n° 97-1) le 12 juin 2026. Son article 14 qualifie d'infraction très grave les pratiques interdites, et énumère expressément « l'article 5.1 alinéas a), b), c), d), e), f), g) et h) ». C'est-à-dire que le texte tel que publié ne reprend pas encore les lettres b bis) et b ter), car il est antérieur à l'Omnibus. Il s'agit d'un projet de loi susceptible d'amendements et non encore en vigueur.

Que faire cette semaine ?

1. Inventaire. Liste des outils dotés d'IA utilisés par l'entreprise, fournisseur et finalité. Une feuille de calcul suffit.
2. Balayage de la lettre f). Envoyez les quatre questions ci-dessus aux fournisseurs de RH, vidéosurveillance, contrôle d'accès, centre de contact et formation.
3. Marquez les systèmes à haut risque. Tout ce qui touche à la sélection, la promotion, l'attribution de tâches ou l'évaluation des performances relève de l'annexe III. Notez la date : 2 décembre 2027.
4. Si vous générez du contenu visuel avec l'IA, vérifiez les garanties et le consentement avant le 2 décembre 2026, en suivant le calendrier pratique ci-dessus.

Questions fréquentes

Les deux nouvelles interdictions affectent-elles mon entreprise si nous n'utilisons l'IA générative que pour rédiger des textes ?

Non, si le système ne génère ni ne manipule des images, vidéos ou sons représentant des parties intimes de personnes identifiables. La lettre b bis) est délimitée à ce type de matériel. De plus, le nouveau paragraphe 1 bis, lettre b), précise que l'utilisation n'est interdite que lorsque le déployeur utilise le système aux fins de générer ce matériel.

Un système qui détecte si un conducteur est fatigué enfreint-il la lettre f) ?

Le considérant 18 du Règlement (UE) 2024/1689 exclut expressément les états physiques tels que la douleur ou la fatigue du concept de « système de reconnaissance des émotions », et donne comme exemple les systèmes de détection de la fatigue des pilotes ou des conducteurs professionnels. Des obligations de protection des données et, selon les cas, de haut risque continuent toutefois de s'appliquer.

Puis-je utiliser l'analyse des sentiments sur les commentaires de mes clients ?

La lettre f) interdit d'inférer des émotions « sur le lieu de travail et dans les établissements d'enseignement ». Une analyse portant sur des avis publics de clients n'entre pas dans ce cadre. Il en va différemment si le même outil note également le ton émotionnel de vos agents : cela se produit bien sur le lieu de travail.

Si le fournisseur est américain, suis-je exonéré ?

Non. Le Règlement s'applique au lieu d'utilisation du système et à la personne qui le déploie, et non à l'endroit où le fabricant a son siège. Si votre entreprise est en Espagne et l'utilise avec son personnel, vous êtes déployeur.

Suffit-il de désactiver la fonctionnalité dans la configuration ?

Cela peut suffire, mais il faut pouvoir le prouver : confirmation écrite du fournisseur, capture de la configuration avec date, et clause contractuelle empêchant sa réactivation lors d'une mise à jour. Sans preuve conservée, vous n'avez rien à présenter.

Existe-t-il des guides officiels pour interpréter l'article 5 ?

Oui. La Commission européenne a publié le 4 février 2025 des lignes directrices sur les pratiques d'IA interdites du Règlement (UE) 2024/1689. Elles ne sont pas contraignantes, mais indiquent comment la Commission interprète chaque cas. Elles ont été rédigées avant l'Omnibus, et ne couvrent donc pas les lettres b bis) ni b ter).

Une productrice peut-elle générer des scènes intimes d'un interprète qui a donné son consentement ?

La lettre b bis) n'interdit que la génération ou la manipulation « sans le consentement libre, spécifique, éclairé et explicite et univoque » de la personne identifiable. Avec un consentement satisfaisant ces cinq qualificatifs et portant sur cette génération précise — et non une cession générique de droits à l'image —, l'interdiction ne s'active pas. Il convient de le documenter par écrit.

Que se passe-t-il avec les applications de « nudification » ?

Le considérant 11 de l'Omnibus les nomme expressément comme déclencheur de la réforme. Étant des systèmes dont la finalité prévue est de générer du matériel intime non consenti, ils entrent dans le premier cas du paragraphe 1 bis : interdiction directe depuis le 2 décembre 2026, sans possibilité de discuter de garanties.

Les nouvelles lettres comptent-elles pour l'amende de 35 millions ou les 7 % ?

Oui. L'article 99, paragraphe 3, sanctionne le non-respect des « pratiques d'IA visées à l'article 5 », sans distinction de lettres : en étant insérées dans cet article, b bis) et b ter) héritent du niveau maximal. En Espagne, la répartition des autorités et les montants nationaux sont encore en cours d'élaboration parlementaire.

Sources

• Règlement (UE) 2024/1689 du Parlement européen et du Conseil, du 13 juin 2024 (Règlement sur l'intelligence artificielle). Articles 3, 5, 26, 99 et 113 ; considérants 18, 43 et 44 ; annexe III. Texte consolidé en langue française : http://data.europa.eu/eli/reg/2024/1689/oj
• Règlement (UE) 2026/1744 du Parlement européen et du Conseil, du 8 juillet 2026, modifiant les règlements (UE) 2024/1689, (UE) 2018/1139 et (UE) 2023/1230 (Omnibus numérique sur l'IA). JOUE Série L, 2026/1744, du 24 juillet 2026. Points 7, 38 et 40 de l'article 1er ; considérants 10 à 13 et 40 : http://data.europa.eu/eli/reg/2026/1744/oj
• Directive 2011/93/UE du Parlement européen et du Conseil, du 13 décembre 2011, relative à la lutte contre les abus sexuels et l'exploitation sexuelle des enfants et la pédopornographie : http://data.europa.eu/eli/dir/2011/93/oj
• Commission européenne, Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), 4 février 2025 : https://digital-strategy.ec.europa.eu/...
• Projet de loi organique pour le bon usage et la gouvernance de l'intelligence artificielle. Journal officiel des Cortès Générales, Congrès des Députés, XVe Législature, Série A, n° 97-1, 12 juin 2026.