Die zehn verbotenen KI-Praktiken in Europa (und die zwei, die kaum jemand erwähnt)

TL;DR

Was bedeutet es genau, dass eine KI-Praxis «verboten» ist?

Der KI-Act klassifiziert KI-Systeme nach Risikoebenen. Die meisten fallen in Kategorien, in denen man arbeiten kann, wenn man Anforderungen erfüllt: Dokumentation, menschliche Aufsicht, Transparenz, Registrierung. Artikel 5 ist anders. Dort gibt es keine Unterlagen, die man einreichen kann. Es sind Praktiken mit unannehmbarem Risiko, und was die Norm sagt, ist wörtlich zu nehmen: «Folgende KI-Praktiken sind verboten».

Zwei Nuancen verändern die Auslegung erheblich.

Erstens: Das Verbot erstreckt sich auf das Inverkehrbringen, die Inbetriebnahme und die Verwendung. Nicht nur auf den Hersteller des Systems. Auch auf den Nutzer. Ein Unternehmen, das ein Werkzeug kauft und einsetzt, ist «Betreiber» im Sinne von Artikel 3 Nummer 4: wer «ein KI-System in eigener Verantwortung verwendet, es sei denn, das System wird im Rahmen einer persönlichen, nicht beruflichen Tätigkeit verwendet». Wenn Sie es in Ihrem Unternehmen nutzen, fallen Sie darunter.

Zweitens: Die Definition von «KI-System» in Artikel 3 Nummer 1 ist weit gefasst. Ein maschinenbasiertes System mit unterschiedlichen Autonomiegraden, das «aus den empfangenen Eingaben schlussfolgert, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen soll». Das Verb schlussfolgern ist dasjenige, das ein Stimmungsanalyse-Modul innerhalb einer HR-Suite zu einem KI-System macht, auch wenn der Anbieter es als bloße Funktion verkauft.

Welche acht Verbote gelten seit Februar 2025?

Dies sind die Buchstaben a) bis h) des Artikels 5 Absatz 1. Sie sind nachfolgend zusammengefasst; es empfiehlt sich, den vollständigen Wortlaut zu lesen, bevor Sie in einem konkreten Fall eine Entscheidung treffen.

BuchstabeVerbotene PraxisKann ein KMU betroffen sein?
a)Unterschwellige Techniken, die über das Bewusstsein hinausgehen, oder bewusst manipulative oder täuschende Techniken, die das Verhalten erheblich verändern und erheblichen Schaden verursachenSelten, aber möglich bei aggressiven Verkaufsinterfaces
b)Ausnutzen von Schwachstellen aufgrund von Alter, Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation, um das Verhalten erheblich zu verändernMarketing an gefährdete Gruppen
c)Social Scoring: Personen nach ihrem Sozialverhalten oder persönlichen Eigenschaften bewerten oder einordnen, mit nachteiliger Behandlung in fremden Kontexten oder unverhältnismäßigSchlecht gestaltetes internes Kunden- oder Lieferanten-Scoring
d)Das Risiko vorhersagen, dass eine Person eine Straftat begeht, ausschließlich auf der Grundlage von Profilerstellung oder PersönlichkeitsmerkmalenSelten außerhalb des Polizeibereichs
e)Anlegen oder Erweitern von Gesichtserkennungsdatenbanken durch nicht gezieltes Scraping von Bildern aus dem Internet oder aus CCTV-Aufzeichnungen«Anreicherungs»-Tools für Leads mit Fotos
f)Emotionen natürlicher Personen am Arbeitsplatz und in Bildungseinrichtungen ableiten, außer bei Anlagen oder Vermarktung aus medizinischen oder sicherheitstechnischen GründenJa. Das wahrscheinlichste Verbot.
g)Biometrische Kategorisierung zur Ableitung von Rasse, politischen Meinungen, Gewerkschaftszugehörigkeit, religiösen oder weltanschaulichen Überzeugungen, Sexualleben oder sexueller OrientierungBiometrische Segmentierung im Einzelhandel oder bei Veranstaltungen
h)Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu StrafverfolgungszweckenNein: gilt für Polizeibehörden

Welche zwei Verbote fügte der Digitale KI-Omnibus hinzu?

Hier der Teil, der kaum verbreitet wurde. Die Verordnung (EU) 2026/1744, erlassen in Straßburg am 8. Juli 2026 und veröffentlicht im Amtsblatt der EU am 24. Juli 2026, ändert den KI-Act in Dutzenden von Punkten. Ihr Nummer 7 besagt: «Artikel 5 wird wie folgt geändert: a) In Absatz 1 Unterabsatz 1 werden folgende Buchstaben eingefügt».

Buchstabe b bis). Verboten wird «das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das realistische Bilder, Videos oder Audioinhalte oder ähnliches Material der Intimsphäre einer identifizierbaren natürlichen Person oder einer identifizierbaren natürlichen Person, die an sexuell expliziten Aktivitäten beteiligt ist, erzeugt oder verändert, ohne die freie, spezifische, informierte, unmissverständliche und ausdrückliche Einwilligung dieser Person».

Buchstabe b ter). Verboten wird dasselbe in Bezug auf «Material oder Darbietungen im Sinne des Artikels 2 Buchstaben c und e der Richtlinie 2011/93/EU» (Material über sexuellen Missbrauch von Kindern).

Dieselbe Nummer 7 fügt zwei neue Absätze ein, 1a und 1b, die den Anwendungsbereich abgrenzen. Dies ist der technisch präziseste Teil und der, der für alle relevant ist, die generative Modelle in ein Produkt integrieren:

Ab wann gelten die zwei neuen Verbote und warum ist die Lücke wichtig?

Sie gelten nicht ab dem 27. Juli 2026, obwohl die Verordnung bereits in Kraft ist. Nummer 40 des Omnibus ersetzt Buchstabe a) des dritten Absatzes von Artikel 113 des KI-Acts, der nun lautet:

«Kapitel I und II gilt ab dem 2. Februar 2025, mit Ausnahme von Artikel 5 Absatz 1 Unterabsatz 1 Buchstaben b bis) und b ter) und Artikel 5 Absätze 1a und 1b, die ab dem 2. Dezember 2026 gelten.»

Das bedeutet: ein Fenster von rund vier Monaten für Anbieter und Betreiber zur Anpassung von Sicherheitsvorkehrungen, Erkennungsmechanismen und Einwilligungsabläufen. Wenn Sie Bild- oder Videogenerierung verkaufen oder integrieren, war das Ihre reale Frist.

VerbotGilt seit
Buchstaben a) bis h) von Art. 5 Abs. 12. Februar 2025
Buchstaben b bis) und b ter) und Absätze 1a und 1b2. Dezember 2026

Die technischen Sicherheitsmaßnahmen, die die Norm selbst nennt

Man muss nicht raten, was als «angemessene und geeignete technische Sicherheitsmaßnahmen» gilt: Erwägungsgrund 12 des Omnibus liefert die Liste. Sie ist als Menü von Nachweisen zu verstehen:

Die Ausnahme «rechtswidrige Form»: für wen sie wirklich gilt

Buchstabe b ter) hat eine verwirrend formulierte Ausnahme: Das Verbot gilt nicht, «wenn eine Verteidigung der ‚rechtswidrigen Form' nach nationalem Recht gilt». So steht es im Amtsblatt; es verweist auf die Verteidigungen des Artikels 5 Absatz 1 der Richtlinie 2011/93/EU.

Erwägungsgrund 13 konkretisiert, wen dies schützt: Behörden, die dieses Material für Strafverfolgungszwecke oder zur Verhütung, Aufdeckung und Untersuchung von Straftaten rechtmäßig erzeugen oder verändern, sowie «Red Teams» und Bewertungen mit dem Zweck zu überprüfen, dass das eigene System das Verbot einhält. Die Ausnahme gilt nicht für Plattformen oder für jemanden außerhalb einer nationalen Ermächtigung.

Das Deepfake zu etikettieren legalisiert es nicht: Verhältnis zu Artikel 50

Artikel 50 des KI-Acts schreibt Transparenzpflichten vor – synthetische Inhalte in maschinenlesbarem Format kennzeichnen (Absatz 2) und Deep Fakes deklarieren (Absatz 4) – anwendbar seit dem 2. August 2026. Buchstabe b bis) ist etwas anderes: ein Verbot. Ein ohne Einwilligung erzeugtes Intim-Video ist nicht weniger verboten, weil es als synthetischer Inhalt etikettiert wird; das Etikett ersetzt nicht die Einwilligung, und die Einwilligung befreit nicht vom Etikett.

Welches der zehn Verbote betrifft ein spanisches KMU wirklich?

Das f). Und mit großem Abstand.

Der Text verbietet «das Inverkehrbringen, die Inbetriebnahme für diesen bestimmten Zweck oder die Verwendung von KI-Systemen zur Ableitung der Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, außer wenn das KI-System zu medizinischen oder sicherheitstechnischen Zwecken installiert oder in Verkehr gebracht werden soll».

Erwägungsgrund 44 des KI-Acts macht den Grund deutlich: Es bestehen «erhebliche Bedenken hinsichtlich der wissenschaftlichen Grundlage» dieser Systeme, denn der emotionale Ausdruck variiert je nach Kultur, Situation und sogar innerhalb derselben Person. Und hinzu kommt das Machtgefälle am Arbeitsplatz und in der Schule.

Wo erscheint dies, ohne dass jemand es «Emotions-KI» nennt:

Was nicht darunter fällt, gemäß Erwägungsgrund 18 des KI-Acts: körperliche Zustände wie Schmerzen oder Ermüdung. Das Beispiel, das die Norm selbst gibt, sind Systeme zur Erkennung der Ermüdung von Piloten oder Berufskraftfahrern. Auch fällt es nicht darunter: «die bloße Erkennung von offensichtlichen Ausdrücken, Gesten oder Bewegungen, es sei denn, sie werden verwendet, um Emotionen zu unterscheiden oder abzuleiten».

Wie prüfe ich, ob ein bereits beauftragtes Werkzeug Buchstabe f) verletzt?

Ohne Einblick in den Code. Mit vier schriftlichen Fragen an den Anbieter und einer Überprüfung der Vertragsdokumentation.

  1. Unterscheidet oder leitet eine Funktion des Produkts Emotionen, Gemütszustände oder Absichten von Personen aus biometrischen Daten (Stimme, Gesicht, Gesten, Blick) ab? Verlangen Sie ein Ja oder Nein, keinen Marketingabsatz.
  2. Wenn ja: Wird diese Funktion bei Mitarbeitenden meines Unternehmens oder bei Lernenden ausgeführt, oder nur bei Dritten außerhalb des Arbeitsverhältnisses?
  3. Kann diese Funktion für meine Instanz nachweislich deaktiviert werden, und wie weise ich das nach?
  4. Erklärt der Anbieter einen medizinischen oder sicherheitstechnischen Zweck als Bestimmung des Systems im Sinne von Artikel 5 Abs. 1 Buchst. f) der Verordnung (EU) 2024/1689?

Bewahren Sie die Antworten auf. Bei einer Inspektion oder Beschwerde besteht der Unterschied zwischen einem Problem und einem Schrecken darin, schriftlich nachweisen zu können, dass Sie gefragt haben und was man Ihnen geantwortet hat.

Wie viel kostet es, ein Verbot zu übergehen, und wer sanktioniert in Spanien?

Artikel 99 Absatz 3 des KI-Acts: Verwaltungsbußgelder von bis zu 35.000.000 EUR oder, wenn der Zuwiderhandelnde ein Unternehmen ist, bis zu 7 % seines gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahrs, «je nachdem, welcher Betrag höher ist».

Absatz 6 kehrt den Vergleich für KMU um: Bei ihnen «kann» die Geldbuße «nach Maßgabe des niedrigeren der in den Absätzen 3, 4 und 5 genannten Beträge oder Prozentsätze festgesetzt werden». Der Omnibus fügte auch einen Absatz 6a mit einer gleichwertigen Regel für kleine Unternehmen mit mittlerer Marktkapitalisierung hinzu.

Was kann ich diese Woche tun?

  1. Inventar. Liste der KI-Werkzeuge, die das Unternehmen nutzt, Anbieter und Verwendungszweck. Eine Tabellenkalkulation reicht.
  2. Prüfung Buchstabe f). Schicken Sie die vier obigen Fragen an Ihre HR-, Videoüberwachungs-, Zugangskontroll-, Contact-Center- und Schulungsanbieter.
  3. Hochrisikosysteme markieren. Alles, was Auswahl, Beförderung, Aufgabenverteilung oder Leistungsbewertung berührt, gehört in Anhang III. Datum notieren: 2. Dezember 2027.
  4. Wenn Sie visuelle Inhalte mit KI erzeugen, prüfen Sie Sicherheitsvorkehrungen und Einwilligung, und stellen Sie sicher, dass Sie Artikel 50 Absatz 2 (Kennzeichnung) erfüllen.

Häufig gestellte Fragen

Betreffen die zwei neuen Verbote mein Unternehmen, wenn wir nur KI für Texterstellung nutzen?

Nein, wenn das System keine Bilder, Videos oder Audioinhalte der Intimsphäre identifizierbarer Personen erzeugt oder verändert. Buchstabe b bis) ist auf dieses Material beschränkt. Außerdem stellt der neue Absatz 1a Buchstabe b klar, dass die Verwendung nur verboten ist, wenn der Betreiber das System mit dem Ziel der Erzeugung dieses Materials verwendet.

Verstößt ein System, das erkennt, ob ein Fahrer müde ist, gegen Buchstabe f)?

Erwägungsgrund 18 der Verordnung (EU) 2024/1689 schließt körperliche Zustände wie Schmerzen oder Müdigkeit ausdrücklich aus dem Begriff «Emotionserkennungssystem» aus und nennt als Beispiel Systeme zur Erkennung der Ermüdung von Piloten oder Berufskraftfahrern. Dennoch bleiben Datenschutz- und ggf. Hochrisikopflichten bestehen.

Darf ich Stimmungsanalyse bei Kundenrezensionen einsetzen?

Buchstabe f) verbietet die Emotionsableitung «am Arbeitsplatz und in Bildungseinrichtungen». Eine Analyse öffentlicher Kundenrezensionen fällt nicht darunter. Anders ist es, wenn dasselbe Werkzeug auch den emotionalen Tonfall Ihrer Servicemitarbeitenden bewertet: Das geschieht am Arbeitsplatz.

Wenn der Anbieter US-amerikanisch ist, bin ich dann nicht zuständig?

Nein. Die Verordnung gilt nach dem Ort der Verwendung des Systems und nach dem Betreiber, nicht nach dem Unternehmenssitz des Herstellers. Wenn Ihr Unternehmen in Spanien ansässig ist und es mit Ihrem Personal nutzt, sind Sie der Betreiber.

Gibt es amtliche Leitlinien zur Auslegung von Artikel 5?

Ja. Die Europäische Kommission veröffentlichte am 4. Februar 2025 Leitlinien zu den verbotenen KI-Praktiken der Verordnung (EU) 2024/1689. Sie sind nicht bindend, zeigen aber, wie die Kommission jeden Sachverhalt auslegt. Sie wurden vor dem Omnibus verfasst und erfassen daher weder Buchstabe b bis) noch b ter).

Quellen