Anwendungskalender der KI-Verordnung
Die Verordnung (EU) 2024/1689 wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und trat zwanzig Tage später, am 1. August 2024, in Kraft. Ihre Anwendung erfolgt stufenweise:
| Datum | Was gilt | Rechtsgrundlage |
|---|---|---|
| 2. Februar 2025 | Verbotene Praktiken (Art. 5) + KI-Kompetenz (Art. 4) | Art. 113(a) |
| 2. August 2025 | Kapitel V (GPAI) + Kapitel XII (Sanktionen) + Kapitel III Abschnitt 4 (notifizierende Behörden) | Art. 113(b) |
| 2. August 2026 | Rest der Verordnung (einschl. Anhang III: Hochrisiko-Systeme) | Art. 113 (allgemeine Regel) |
| 2. August 2027 | Hochrisiko-Systeme aus Anhang I (durch harmonisiertes Unionsrecht geregelte Produkte) | Art. 113(c) |
Das Datum August 2026 ist das für spanische KMU folgenreichste, da es den Katalog der Governance-Pflichten, technischen Dokumentation, Konformitätsbewertung, EU-Registrierung und Meldepflichten für schwerwiegende Vorfälle bei Anhang-III-Systemen schließt (Personalmanagement, Kreditscoring, Biometrie, Bildung, kritische Infrastruktur).
Wer ist verpflichtet
Die KI-Verordnung gilt extraterritorial. Verpflichtet sind:
- Anbieter, die ein KI-System in der EU entwickeln oder in Verkehr bringen, auch wenn sie außerhalb ansässig sind.
- Betreiber in der EU, die KI-Systeme nutzen.
- Einführer und Händler von KI-Systemen.
- Produkthersteller, die ein KI-System integrieren und unter ihrer Marke in der EU vermarkten.
Das bedeutet: Ein spanisches KMU, das einen generativen KI-Chatbot für den Kundendienst, ein Scoring-System für die Personalauswahl oder ein biometrisches Zeiterfassungssystem nutzt, ist Betreiber und unterliegt Pflichten — auch wenn der Anbieter amerikanisch oder chinesisch ist.
Art. 5 · verbotene KI-Praktiken seit Februar 2025
Artikel 5 listet KI-Praktiken auf, die in der EU unter keinen Umständen zulässig sind. Es handelt sich nicht um Hochrisiko-Systeme unter Kontrolle: Sie sind inakzeptabel. Die Sanktion für Verstöße gegen Art. 5 ist die höchste in der Verordnung (35 Mio. € oder 7 % des Umsatzes). Die Kategorien:
1. Unterschwellige Manipulation oder Ausnutzung von Schwachstellen
Verboten ist KI, die unterschwellige Techniken einsetzt oder Schwachstellen (Alter, Behinderung, sozioökonomische Lage) ausnutzt, um das Verhalten einer Person wesentlich zu verzerren und ihr dadurch Schaden zuzufügen. Gedecktes Beispiel: dynamische Werbung, die den emotionalen Zustand des Nutzers erkennt und bei Angstzuständen die Preise erhöht.
2. Social Scoring durch öffentliche Behörden
Verboten ist die Bewertung oder Klassifizierung natürlicher Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale mit kontextfremden nachteiligen Folgen. Betrifft insbesondere Systeme wie Chinas Sesame Credit. Im Privatsektor gilt dies nur, wenn das Scoring zu einer nachteiligen Behandlung in nicht damit zusammenhängenden Kontexten führt.
3. Strafrechtliche Vorhersagen auf der Grundlage von Profiling
Verboten ist KI, die das Risiko einer Straftat ausschließlich auf der Grundlage von Profiling oder Persönlichkeitsbewertung vorhersagt. Ausnahme: Systeme, die eine menschliche Bewertung auf der Grundlage objektiver, direkt mit der Straftat zusammenhängender Tatsachen unterstützen.
4. Unterschiedsloses Scraping von Gesichtsbildern
Verboten ist die Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungerichtetes Scraping von Bildern aus dem Internet oder CCTV-Systemen. Dies stellt das Modell von Clearview AI in Frage und schränkt PimEyes-Praktiken im EU-Gebiet ein.
5. Emotionsinferenz am Arbeitsplatz und im Bildungsbereich
Verboten ist die Inferenz von Emotionen natürlicher Personen am Arbeitsplatz und im Bildungsbereich. Ausnahme: medizinische oder Sicherheitsanwendungen. Betrifft Tools, die Stress oder Aufmerksamkeit bei Bewerbern, Schülern oder Beschäftigten erkennen sollten.
6. Biometrische Kategorisierung anhand sensibler Daten
Verboten ist biometrische Kategorisierung, die Rasse, politische Meinung, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung ableitet. Ausnahme: rechtmäßige biometrische Datenkennzeichnung im Strafverfolgungsbereich.
7. Biometrische Echtzeit-Fernidentifikation in öffentlich zugänglichen Räumen
Grundregel: verboten, wenn sie von Strafverfolgungsbehörden durchgeführt wird. Abschließend aufgezählte Ausnahmen: Suche nach Opfern von Entführung oder Menschenhandel, Verhinderung einer unmittelbaren Terrorbedrohung, Auffindung von Verdächtigen bei schweren Straftaten nach Anhang II. Jede Nutzung erfordert eine gerichtliche oder unabhängige Verwaltungsbehördengenehmigung.
Art. 4 · KI-Kompetenz des Personals
Artikel 4 verpflichtet Anbieter und Betreiber, soweit möglich ein ausreichendes Maß an KI-Kompetenz beim Personal und bei allen Personen sicherzustellen, die in ihrem Namen KI-Systeme betreiben. Gilt seit dem 2. Februar 2025.
Was das in der Praxis bedeutet
Für ein KMU als Betreiber bedeutet dies:
- Identifizierung aller genutzten KI-Systeme (einschl. eingebetteter KI in SaaS: HubSpot, Salesforce Einstein, ChatGPT Enterprise, Copilot 365, ATS-Scoring-Tools).
- Klassifizierung der Personen, die diese bedienen oder deren Arbeit davon abhängt.
- Gestaltung rollen- und risikogerechter Schulungen: Grundkenntnisse für Endnutzer, technische Tiefe für Administratoren, Governance für Compliance-Verantwortliche.
- Dokumentation der durchgeführten Schulungen (Teilnehmer, Daten, Inhalte, Bewertung).
Die AESIA und die Europäische Kommission veröffentlichten 2025 Leitlinien zur KI-Kompetenz mit praktischen Beispielen und Vorlagen. Es werden keine offiziellen Qualifikationen verlangt: nachweisbare und verhältnismäßige Schulungen sind erforderlich.
Anhang III · Hochrisiko-KI-Systeme
Anhang III listet die Bereiche auf, in denen ein KI-System als Hochrisiko eingestuft wird und ab August 2026 den Pflichten des Kapitels III unterliegt. Die acht Bereiche:
| Bereich | Beispielsysteme |
|---|---|
| 1. Biometrie | Biometrische Fernidentifikation, nicht verbotene biometrische Kategorisierung, Emotionserkennung außerhalb verbotener Fälle |
| 2. Kritische Infrastruktur | Verwaltung von Verkehr, Wasser, Gas, Strom, digitaler Infrastruktur |
| 3. Allgemeine und berufliche Bildung | Zulassung, Bewertung, Erkennung akademischen Betrugs, Programmzuweisung |
| 4. Beschäftigung und Personalmanagement | Lebenslauf-Filterung, Bewerberbewertung, Beförderungs-/Entlassungsentscheidungen, Produktivitätsüberwachung |
| 5. Wesentliche Dienstleistungen | Kreditscoring, Lebens- und Krankenversicherungsscoring, Priorisierung im Notfall |
| 6. Strafverfolgung | Bewertung der Zuverlässigkeit von Beweisen, Profiling, Rückfallprognose |
| 7. Migration und Grenzkontrollen | Lügendetektoren, Bewertung von Asylanträgen, Migrationsidentifizierung |
| 8. Rechtspflege und demokratische Prozesse | Unterstützung von Justizbehörden, Systeme mit Einfluss auf Wahlen |
Nutzt ein KMU als Betreiber ein Anhang-III-System (z. B. ein ATS mit KI-Lebenslauffilterung), muss es Art. 26 einhalten: das System gemäß den Anweisungen des Anbieters nutzen, kompetente menschliche Aufsicht gewährleisten, Eingabedaten kontrollieren, Protokolle führen, betroffene Mitarbeiter informieren und schwerwiegende Vorfälle melden.
GPAI · KI mit allgemeinem Verwendungszweck (Kapitel V)
Kapitel V reguliert Basismodelle oder KI mit allgemeinem Verwendungszweck (GPAI). Gilt seit dem 2. August 2025. KMU sind selten Anbieter eines GPAI (dies sind OpenAI, Google, Meta, Mistral), können aber als Betreiber eines in ihr Produkt integrierten GPAI auftreten, was abgeleitete Transparenz- und Kennzeichnungspflichten für synthetische Inhalte auslöst.
Transparenz für Betreiber (Art. 50)
Auch wenn Sie kein GPAI entwickeln — wenn Sie eines einsetzen, übernehmen Sie ab August 2026 Transparenzpflichten:
- Die natürliche Person informieren, dass sie mit einem KI-System interagiert, wenn dies nicht offensichtlich ist (Chatbot).
- Von KI erzeugten Inhalt (Bild, Video, Audio) als synthetisch kennzeichnen — bei Deepfakes und im Allgemeinen bei Informationsinhalten von öffentlichem Interesse.
- Die automatische Identifikation von KI-erzeugten Inhalten durch interoperables Wasserzeichen ermöglichen.
AESIA und das spanische Governance-Ökosystem
Spanien war Vorreiter bei der Einrichtung der nationalen Aufsichtsbehörde: der Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) mit Sitz in A Coruña, gegründet durch das Königliche Dekret 729/2023. Sie ist der natürliche Ansprechpartner in Spanien für:
- Anträge zur Teilnahme an der nationalen Regulierungssandbox.
- Meldung schwerwiegender Vorfälle bei Hochrisiko-Systemen.
- Durchsetzungsverfahren bei Verstößen gegen die Verordnung.
- Koordination mit dem Europäischen Ausschuss für künstliche Intelligenz.
Neben der AESIA sind je nach Bereich weitere Sektorbehörden beteiligt (die AEPD für personenbezogene Daten, der Banco de España für Finanzdienstleistungen, die CNMC für digitale kritische Infrastruktur).
Sanktionsregime
Artikel 99 staffelt Sanktionen in drei Stufen:
| Stufe | Höchstbußgeld | Auslöser |
|---|---|---|
| 1 | 35 Mio. € oder 7 % des weltweiten Umsatzes (der höhere Betrag) | Verstoß gegen Art. 5 (verbotene Praktiken) |
| 2 | 15 Mio. € oder 3 % des Umsatzes | Verletzung von Pflichten der Anbieter, Betreiber, Einführer, Händler oder notifizierten Stellen |
| 3 | 7,5 Mio. € oder 1 % des Umsatzes | Übermittlung unrichtiger, unvollständiger oder irreführender Informationen an die Behörde |
Für KMU und Startups erlaubt die Verordnung den Mitgliedstaaten, den jeweils niedrigeren Betrag aus absoluten Beträgen und Prozentsätzen anzuwenden (Verhältnismäßigkeit). Beispiel: ein KMU mit 5 Mio. € Umsatz, das Art. 5 verletzt, könnte bis zu 350.000 € (7 % seines Umsatzes) statt 35 Mio. € riskieren.
Regulatorische Sandbox
Artikel 57 verpflichtet jeden Mitgliedstaat, vor dem 2. August 2026 mindestens eine regulatorische Sandbox einzurichten. Spanien startete seine 2023 — es war die erste nationale KI-Sandbox in der EU — koordiniert vom Staatssekretariat für Digitalisierung und KI mit Unterstützung der AESIA.
Operative Checkliste für spanische KMU — 6 Maßnahmen bis August 2026
- KI-Inventar. Listen Sie alle KI-Systeme auf, die Ihr Unternehmen nutzt (einschl. eingebetteter KI in SaaS: HubSpot, Salesforce Einstein, ATS, ChatGPT Enterprise/Team, Copilot, Gemini Workspace).
- Risikoeinstufung. Ermitteln Sie für jedes System, ob es verboten (Art. 5), Hochrisiko (Anhang III), transparenzpflichtig (Art. 50), GPAI oder minimal riskant ist.
- KI-Kompetenzplan. Gestalten Sie rollengerechte Schulungen. Dokumentieren Sie Teilnehmer, Daten, Inhalte und Bewertungen. Belege aufbewahren.
- Interne KI-Richtlinie. Dokument, das erlaubte Nutzungen, verbotene Nutzungen, erforderliche menschliche Aufsicht, Verwaltung von Prompts mit personenbezogenen Daten und Kennzeichnung synthetischer Inhalte definiert.
- Verträge mit Anbietern. Überprüfen Sie Haftungsklauseln bei der Integration von Drittanbieter-KI, verlangen Sie Zugang zu Art.-13-Informationen (Nutzungsanweisungen, Einschränkungen, Trainings-Datensätze falls relevant) und Prüfungsklauseln.
- Vorfallsmeldeverfähren. Wenn Sie ein Hochrisiko-System nutzen, definieren Sie, wer erkennt, wer bewertet und wer die AESIA innerhalb der Fristen des Art. 73 meldet.
Vertragsklauseln zur Integration von Drittanbieter-KI
Die meisten KMU werden Betreiber und keine Anbieter sein. Die Compliance hängt daher weitgehend von den mit KI-Anbietern geschlossenen Verträgen ab. Empfehlungen für vorrangige Klauseln:
- Art.-13-Informationsklausel. Verpflichtet den Anbieter, Nutzungsanweisungen, bekannte Einschränkungen, Genauigkeits- und Robustheitsniveaus, Methoden der menschlichen Aufsicht und aggregierte Trainingsdaten bereitzustellen.
- Klausel zur Meldung wesentlicher Änderungen. Der Anbieter muss den Betreiber informieren, wenn ein Modell so aktualisiert wird, dass das Verhalten des Systems wesentlich verändert wird.
- Kooperationsklausel bei Vorfallsmeldungen. Erkennt der Betreiber einen schwerwiegenden Vorfall, muss der Anbieter innerhalb der Fristen des Art. 73 kooperieren.
- Prüfungsklausel. Recht des Betreibers, die Systemkonformität zu prüfen oder jährlich einen externen Prüfbericht zu erhalten.
- Rücktritts- oder Pivot-Klausel. Verliert der Anbieter die Konformität oder zieht sich aus dem EU-Markt zurück, hat der Betreiber das Recht, das System straflos zu ersetzen und Konfigurationen zu portieren.
- Beschränkte gesamtschuldnerische Haftungsklausel. Klare Aufgabenteilung, wenn ein Systemversagen zu einer Sanktion oder Zivilklage führt. Ohne diese Klausel kann die AESIA gegen den Betreiber vorgehen, der dann keinen internen Rückgriff hat.
Häufige Fragen zur KI-Verordnung
Welche KI-Verordnungspflichten gelten für mich als KMU-Betreiber?
Wenn Ihr KMU ausschließlich von Dritten entwickelte KI-Systeme nutzt (Betreiber), sind die Hauptpflichten: (1) Sicherstellen, dass kein System unter die verbotenen Praktiken des Art. 5 fällt; (2) KI-Kompetenz des Personals (Art. 4) seit Februar 2025 sicherstellen; (3) bei Systemen aus Anhang III Art. 26 einhalten (menschliche Aufsicht, Eingabedatenkontrolle, Protokollierung, Information betroffener Personen, Vorfallsmeldung); (4) Transparenzpflichten nach Art. 50 ab August 2026 erfüllen (Nutzer über Chatbot-Interaktion informieren, Deepfakes kennzeichnen). Die schwersten Pflichten (Qualitätsmanagement, Konformitätsbewertung, CE-Kennzeichnung) treffen Anbieter, nicht Betreiber.
Welche Geldbuße droht bei Verstößen gegen die KI-Verordnung?
Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes (der höhere Betrag) bei Verstößen gegen Art. 5 (verbotene Praktiken). Für Verstöße gegen allgemeine Pflichten (Anbieter, Betreiber, Einführer) beträgt die Obergrenze 15 Mio. € oder 3 % des Umsatzes. Für die Übermittlung unrichtiger Informationen an die Behörde: 7,5 Mio. € oder 1 %. Die Verordnung erlaubt Spanien, für KMU und Startups den jeweils niedrigeren Betrag anzuwenden, was das absolute Risiko senkt, aber das Gewicht des Prozentsatzes beibehält.
Ab wann gilt die KI-Verordnung für mein Unternehmen?
Die Verordnung gilt stufenweise. Am 2. Februar 2025 traten Art. 4 (KI-Kompetenz) und Art. 5 (verbotene Praktiken) in Kraft. Am 2. August 2025 traten Kapitel V (GPAI) und das Sanktionsregime in Kraft. Am 2. August 2026 tritt das Gros der Verordnung in Kraft (Hochrisiko-KI-Systeme Anhang III, Transparenz Art. 50, vollständige Governance). Am 2. August 2027 schließt Anhang I die Anwendung ab. Nutzt Ihr Unternehmen ein KI-System, ist das relevante Datum heute August 2026.
Brauche ich einen KI-Beauftragten oder übernimmt das der DSB?
Die Verordnung schreibt keinen „KI-Beauftragten" analog zum DSB der DSGVO vor. Für KMU, die Hochrisiko-Systeme betreiben, erfordern jedoch die Pflichten zur menschlichen Aufsicht (Art. 14 und 26), Protokollierung (Art. 12 und 26), Vorfallsmeldung (Art. 73) und Dokumentation der KI-Kompetenz (Art. 4) eine identifizierbare verantwortliche Person. Die sinnvollste Lösung ist, dass der bestehende DSB seine Aufgaben auf die KI-Governance ausweitet oder bei ausreichendem Volumen ein eigener KI-Beauftragter bestellt wird. Die AESIA empfiehlt in ihren Leitlinien, dass eine einzige KI-Kontaktstelle in der Organisation vorhanden ist.
Erfordert die KI-Kompetenzpflicht nach Art. 4 eine offizielle Zertifizierung?
Nein. Art. 4 verlangt ein „ausreichendes Niveau" an KI-Kompetenz, proportional zur jeweiligen Rolle, ohne offizielle Qualifikationen zu verlangen. Was gefordert ist: nachweisbare Schulungen mit Inhalten, Teilnehmerlisten, Daten und Bewertungen. Die 2025 vom KI-Büro der Europäischen Kommission veröffentlichten Leitlinien enthalten Beispiele für Schulungspläne nach Rollen. Ein KMU kann interne Schulungen, Online-Kurse (Coursera, INCIBE, AEPD), Branchen-Webinare und dokumentierte Selbstlernmaßnahmen kombinieren.
Sind ChatGPT, Claude oder Copilot Hochrisiko-KI-Systeme?
Nicht unbedingt als solche. Es handelt sich um KI-Modelle mit allgemeinem Verwendungszweck (GPAI) nach Kapitel V. Die Einstufung als „Hochrisiko" hängt vom Einsatz ab: Integriert Ihr KMU Claude oder ChatGPT in ein Bewerber-Scoring-System oder ein System zur Schulzulassung, wird dieses System zum Hochrisikosystem (Anhang III) und Sie als Betreiber übernehmen die Pflichten des Art. 26. Nutzen Sie sie zur Erstellung von Marketinginhalten oder zur Entwicklerunterstützung, sind sie in der Regel minimal riskant oder nur transparenzpflichtig (Art. 50): Es reicht aus, die Nutzer über die KI-Interaktion zu informieren und synthetische Inhalte zu kennzeichnen.
Wie verhält sich die KI-Verordnung zur DSGVO?
Sie ergänzen sich, ersetzen sich nicht. Die DSGVO regelt die Verarbeitung personenbezogener Daten — einschließlich derjenigen, die von KI-Systemen durchgeführt wird. Die KI-Verordnung reguliert KI-Systeme als solche, unabhängig davon, ob sie personenbezogene Daten verarbeiten. Ein Unternehmen, das ein KI-System für das Kreditscoring nutzt (Anhang III), muss gleichzeitig die DSGVO einhalten (Rechtsgrundlage, Betroffeneninformation, Rechte nach Art. 22 über automatisierte Entscheidungen, DSFA — Datenschutz-Folgenabschätzung) und die KI-Verordnung (menschliche Aufsicht, Protokollierung, Meldung an die AESIA). Die AEPD und AESIA haben Koordinierungsprotokolle unterzeichnet, um Doppelsanktionsverfahren bei Sachverhalten zu vermeiden, die gegen beide Instrumente verstoßen könnten.