KI-Verordnung und ENS für Anbieter der spanischen öffentlichen Verwaltung: der doppelte Regulierungsrahmen, den Sie kennen müssen

TL;DR – Das Wichtigste in 60 Sekunden

In den letzten zwölf Monaten habe ich dasselbe Muster bei dutzenden spanischer Technologieunternehmen beobachtet: Sie gelangen in die Angebotsphase einer öffentlichen Ausschreibung, stellen fest, dass der Auftraggeber die Einhaltung des Nationalen Sicherheitsgrundgesetzes fordert, und wenn es um die KI-Verordnung geht, weiß niemand so recht, welche Rolle er spielt. Sind sie Anbieter? Sind sie Nutzer? Gilt Anhang III für sie?

Die kurze Antwort lautet: Wahrscheinlich unterliegen sie beiden Regelwerken, mit unterschiedlichen, aber komplementären Pflichten – und jetzt damit anzufangen, bevor die nächste Ausschreibung erscheint, macht den Unterschied zwischen Gewinn und Verlust des Auftrags aus.

In diesem Artikel analysiere ich den doppelten Regulierungsrahmen mit der Präzision, die Sie benötigen, wenn Sie ein Technologieunternehmen sind, das Verträge mit der spanischen öffentlichen Verwaltung anstrebt oder bereits hält.

Warum stehen Technologieanbieter der Verwaltung im Fokus der KI-Verordnung?

Die Verordnung (EU) 2024/1689, bekannt als KI-Verordnung (AI Act), trat am 1. August 2024 in Kraft. Obwohl ihre Anwendung schrittweise erfolgt, gelten seit dem 2. Februar 2025 bereits das Verbot unannehmbarer KI-Praktiken und die Pflicht zur Förderung der KI-Kompetenz für Anbieter und Nutzer.

Der Grund, warum Anbieter der Verwaltung besonders exponiert sind, hängt mit der Kaskadenlogik der KI-Verordnung zusammen: Wenn Behörden KI-Systeme einsetzen, um Entscheidungen zu treffen, die Bürger betreffen – Verwaltung von Sozialleistungen, Bewertung von Vorgängen, Zugangskontrollsysteme –, sind sie Verantwortliche für den Einsatz (Deployer) im Sinne der Norm. Und wenn jemand Deployer eines Hochrisikosystems ist, gehört zu seinen Pflichten, von seinem Anbieter zu verlangen, dass das System alle Anforderungen der KI-Verordnung erfüllt.

Anders ausgedrückt: Die Verwaltung überträgt die Compliance auf ihre Technologie-Lieferkette. Wenn Sie ein KI-System an eine Gemeinde, eine Regionalbehörde oder eine staatliche Stelle verkaufen, wird der Vertrag – ausdrücklich oder implizit – verlangen, dass dieses System die Konformitätsbewertung bestanden hat, technische Dokumentation besitzt, menschliche Aufsicht ermöglicht und in der EU-Datenbank registriert ist, falls es unter Anhang III fällt.

Darüber hinaus verpflichtet das Organgesetz zur KI-Governance, das Spanien 2026 im Ministerrat verabschiedete, den staatlichen öffentlichen Sektor, ein Inventar der in Verwaltungsverfahren eingesetzten KI-Systeme zu führen und diese Anforderung auf seine Auftragnehmer zu übertragen. Was bisher eine gute Praxis war, wird zur Vertragsbedingung.

Rollen in der KI-Verordnung: Sind Sie Anbieter oder Verantwortlicher für den Einsatz?

Bevor konkrete Pflichten analysiert werden, ist es unerlässlich zu klären, welche Rolle Sie im Ökosystem der KI-Verordnung einnehmen. Die Norm unterscheidet vier Hauptfiguren:

Rolle Definition Beispiele im Bereich der Verwaltung Pflichtenebene
Anbieter (Provider) Wer ein KI-System unter eigenem Namen oder eigener Marke entwickelt oder auf den Markt bringt, auch wenn er es bei Dritten in Auftrag gibt Technologieunternehmen, das ein Bewertungssystem für Akten sozialer Dienste an eine Provinzbehörde verkauft Maximal: technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung, EU-Registrierung
Verantwortlicher für den Einsatz (Deployer) Wer ein KI-System unter eigener Verantwortung in seiner beruflichen Tätigkeit einsetzt Gemeinde, die ein biometrisches System zur Zugangskontrolle einsetzt Hoch: menschliche Aufsicht, Register, Grundrechtsprüfung
Händler Wer das KI-System eines Anbieters ohne Veränderung vermarktet Wiederverkäufer von Drittanbieter-Software an Behörden ohne Modifikation Mittel: Konformität des Anbieters prüfen, nicht konforme Systeme nicht vermarkten
Einführer Wer ein KI-System eines Anbieters aus einem Drittland in den europäischen Markt einführt Spanisches Unternehmen, das ein amerikanisches KI-System einführt und an Behörden verkauft Hoch: übernimmt Anbieterpflichten, wenn dieser nicht in der EU ansässig ist

Die wichtigste praktische Regel: Wenn Sie das System entwickeln (oder wesentlich anpassen), sind Sie Anbieter – unabhängig davon, ob Ihr Kunde eine Behörde oder ein privates Unternehmen ist. Und Anbieter eines Hochrisikosystems zu sein, bedeutet die strengsten Pflichten der gesamten Norm.

In der Praxis sind viele Technologieunternehmen, die mit der Verwaltung arbeiten, bei manchen Verträgen Anbieter und bei anderen Verantwortliche für den Einsatz (wenn sie Dritttools in ihrem eigenen Betrieb verwenden). Es ist entscheidend, jedes System, das Sie verwalten, zu klassifizieren.

Hinweis zu Behörden: Wenn eine Behörde Hochrisiko-KI-Systeme einsetzt, um Entscheidungen zu treffen, die Bürger betreffen, handelt sie als Deployer. Gemäß Art. 26(8) der KI-Verordnung haben öffentliche Behörden zudem die spezifische Pflicht zu überprüfen, dass die von ihnen eingesetzten Systeme vor der Inbetriebnahme in der EU-Datenbank registriert sind, und nicht registrierte Systeme nicht einzusetzen.

Hochrisiko-KI-Systeme, die üblicherweise mit der Verwaltung kontrahiert werden

Anhang III der KI-Verordnung identifiziert acht Bereiche von Hochrisiko-KI-Systemen. Mehrere davon sind besonders relevant für den spanischen öffentlichen Sektor und erscheinen bereits – oder werden bald erscheinen – in öffentlichen Ausschreibungen:

1. Biometrie

Systeme zur biometrischen Fernidentifikation, biometrischen Kategorisierung auf Basis sensibler Merkmale und Emotionserkennung. Im Kontext der spanischen Verwaltung umfasst dies Zugangskontrollsysteme in öffentlichen Einrichtungen, Gesichtserkennung in digitalen Bürger-Identifizierungsprozessen oder intelligente Videoüberwachungssysteme.

Pflichten, die dies für den Anbieter erzeugt: umfassende technische Dokumentation, Konformitätsbewertung durch eine notifizierte Stelle, CE-Kennzeichnung, Registrierung in der EU-Datenbank vor jeder Vermarktung. Systeme zur biometrischen Echtzeit-Fernidentifikation in öffentlichen Räumen unterliegen zudem zusätzlichen Einschränkungen und erfordern eine vorherige gerichtliche oder verwaltungsrechtliche Genehmigung.

2. Kritische Infrastruktur

Systeme, die als Sicherheitskomponenten in der Verwaltung oder dem Betrieb kritischer digitaler Infrastrukturen, des Straßenverkehrs, der Wasser-, Gas-, Heizungs- oder Stromversorgung bestimmt sind. Bei öffentlichen Ausschreibungen umfasst dies von Systemen zur Verwaltung von Stromnetzen bis hin zu Plattformen zur Kontrolle von Verkehrsinfrastrukturen.

Schnittstelle mit dem ENS: Diese Systeme werden in der Regel in der hohen Kategorie des ENS eingestuft, was eine externe Zertifizierung durch eine ENAC-akkreditierte Stelle erfordert. Die Einhaltung von ENS und KI-Verordnung verstärkt sich hier gegenseitig.

3. Bildung und Berufsausbildung

Systeme, die den Zugang zu oder die Aufnahme in Bildungseinrichtungen bestimmen, Lernergebnisse bewerten, Bildungsniveaus zuweisen oder das Verhalten von Schülern überwachen. In Spanien fällt jedes KI-System, das in Schulzulassungsverfahren, die Vergabe von Studienplätzen oder automatisierte Bildungsbewertung eingreift, darunter.

Trend bei Ausschreibungen: Autonome Gemeinschaften mit Bildungszuständigkeiten beginnen, Plattformen zur Analyse von Schulleistungen auszuschreiben. Die Angebotsunterlagen dieser Verträge werden eine Grundrechtsprüfung und Mechanismen für menschliche Rechtsbehelfe erfordern.

4. Beschäftigung und HR-Management

Systeme zur Auswahl und Bewertung von Kandidaten, Entscheidungen über Arbeitsverhältnisse (Beförderung, Kündigung, verhaltensbasierte Aufgabenzuweisung), Leistungsüberwachung. Im Kontext der Verwaltung gilt dies für Auswahltools für Beamte und Angestellte.

Achtung: AESIA hat darauf hingewiesen, dass KI-Systeme in der Personalauswahl eines ihrer ersten Schwerpunkte für proaktive Inspektionen sind. Wenn Sie HR-Tools an Behörden verkaufen, müssen Sie die gesamte Dokumentation vor August 2026 in Ordnung haben.

5. Wesentliche private und öffentliche Dienstleistungen

Dies ist der umfangreichste Bereich für die spanische Verwaltung: Systeme, die die Anspruchsberechtigung für öffentliche Hilfe und Gesundheitsleistungen bestimmen. Dazu gehören alle Tools zur Bewertung von Pflegebedürftigkeit, sozialen Diensten, Mindesteinkommen oder ähnlichem. Auch die Priorisierung von Notrufen.

Spezifische Pflicht des Deployers (Behörde): Vor der Inbetriebnahme dieser Systeme muss eine Grundrechts-Folgenabschätzung (DSFA (Datenschutz-Folgenabschätzung) – im Kontext der KI-Verordnung auch FRIA gemäß Art. 27) durchgeführt werden. Der Anbieter muss die erforderliche Dokumentation für diese Bewertung bereitstellen.

6. Strafverfolgung

Systeme zur Bewertung von Viktimisierungsrisiken, Beweiszuverlässigkeit, Rückfallrisiko, Profilerstellung bei kriminellen Ermittlungen. Gilt für staatliche Sicherheitskräfte und regionale sowie lokale Polizeien.

7. Migration, Asyl und Grenzkontrolle

Risikobewertung von Personen, die das Territorium betreten, Bewertung von Asyl- und Visaanträgen, Überprüfung von Reisedokumenten. In Spanien fallen diese hauptsächlich in die Zuständigkeit des Innenministeriums und der Regierungsdelegationen.

8. Justizverwaltung und demokratische Prozesse

Unterstützung von Gerichten bei der Sachverhaltsermittlung und Rechtsanwendung. Systeme zur Unterstützung richterlicher Entscheidungen sind hochriskant, mit strengen Einschränkungen hinsichtlich des zulässigen Automatisierungsgrads.

Zusammenfassend: Wenn Ihr Produkt einen dieser acht Bereiche in einem öffentlichen Vertrag berührt, handelt es sich um ein Hochrisikosystem aus Anhang III mit dem maximalen Pflichtenniveau als Anbieter.

Das ENS 2026: Anforderungen für Anbieter mit KI-Komponenten

Das Real Decreto 311/2022, das das Spanische Nationale Sicherheitsgrundgesetz (ENS) aktualisiert, ist für alle Behörden verpflichtend anwendbar und gilt direkt (Art. 2.3) für jedes private Unternehmen, das ihnen digitale Dienste erbringt.

Die drei Kategorien und ihre Auswirkungen auf den Anbieter

Das ENS klassifiziert Systeme nach den Dimensionen Vertraulichkeit, Integrität, Verfügbarkeit, Authentizität und Rückverfolgbarkeit der verwalteten Daten. Das Ergebnis dieser Bewertung ordnet das System einer von drei Kategorien zu:

ENS-Kategorie Wer prüft? Erforderliches Dokument Gültigkeit Typische KI-Systeme
Basis Die Organisation selbst (Selbstbewertung) Konformitätserklärung 2 Jahre Allgemeine Auskunfts-Chatbots, semantische Suchmaschinen in Intranets
Mittel Externe ENAC-akkreditierte Stelle Konformitätszertifizierung 2 Jahre Systeme zur Dokumentenanalyse, Aktenverwaltung mit KI-Komponenten, HR-Tools
Hoch Externe ENAC-akkreditierte Stelle Konformitätszertifizierung 2 Jahre Biometrische Systeme, KI in kritischen Infrastrukturen, Plattformen für Sozialdienste mit hochwirksamen Entscheidungen

Wie beeinflusst die KI-Architektur die ENS-Klassifizierung?

Der praktische Kern: Wenn ein System unter Anhang III der KI-Verordnung fällt UND unter die mittlere oder hohe Kategorie des ENS, muss sich das Unternehmen auf zwei verschiedenen Wegen mit teilweise unterschiedlicher Dokumentation zertifizieren. Dies koordiniert zu verwalten spart Zeit und Kosten.

Die Schnittmenge: Was ENS und KI-Verordnung gleichzeitig fordern

Die gute Nachricht ist, dass beide Normen einer Logik des dokumentierten Risikomanagements folgen. Die schlechte ist, dass der Detaillierungsgrad und die Fristen abweichen. Hier die Karte der wichtigsten Überschneidungen und Divergenzen:

Anforderung ENS (RD 311/2022) KI-Verordnung (EU) 2024/1689 Überschneidung?
Risikomanagement Dokumentierte, regelmäßig aktualisierte Risikoanalyse Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9) Ja – eine einzige Methodik kann beide Rahmen bedienen
Technische Dokumentation Sicherheitsrichtlinie, Verfahren, Kontrollevidenz Umfassende technische Dokumentation (Art. 11 + Anhang IV): Architektur, Trainingsdaten, Leistungsmetriken Teilweise – die KI-Verordnung verlangt mehr Details zum Modell selbst
Rückverfolgbarkeit und Logs Aktivitäts- und Zugangsprotokolle gemäß Systemdimension Automatische Ereignisprotokollierung über den gesamten Lebenszyklus, Mindestaufbewahrung 6 Monate (Art. 12) Ja – ein gut gestaltetes Logging-System erfüllt beide
Zugangskontrolle Rechteverwaltung, Authentifizierung, rollenbasierte Zugangskontrolle Effektive menschliche Aufsicht durch benannte und kompetente Personen (Art. 14) Ja – die menschliche Aufsicht der KI-Verordnung wird in ENS-Verfahren dokumentiert
Vorfallsmanagement Meldung von Sicherheitsvorfällen an CCN-CERT Meldung schwerwiegender Vorfälle oder Fehlfunktionen an Anbieter und Behörden (Art. 73) Teilweise – unterschiedliche Empfänger, aber der Prozess kann vereinheitlicht werden
Datenqualität Informationsintegrität als Kategorisierungsdimension Daten-Governance: Qualität, Repräsentativität, Verzerrungsfreiheit in Trainingsdaten (Art. 10) Nein – die KI-Verordnung geht hier wesentlich weiter
Zertifizierung/Konformität Konformitätserklärung (Basis) oder ENAC-Zertifizierung (mittel/hoch) Selbstbewertung (Mehrheit Anhang III) oder Drittbewertung durch notifizierte Stelle (spezifische Fälle) + CE-Kennzeichnung Nein – völlig unterschiedliche Prozesse und Stellen
Transparenz gegenüber Nutzern Nicht direkt anwendbar Klare Informationen an von Hochrisiko-KI-Entscheidungen betroffene Personen (Art. 26(10)) Nein – exklusive Anforderung der KI-Verordnung

Der Vorteil eines gemeinsamen Ansatzes: Ein gut gestaltetes Risikomanagementsystem mit modularer technischer Dokumentation und einer vereinheitlichten Logging-Architektur kann gleichzeitig die Anforderungen von ENS und KI-Verordnung erfüllen und Dokumentationsduplikate sowie Prüfungskosten reduzieren. ENS- und KI-Verordnungs-Compliance-Projekte in zwei Teams aufzuteilen, die sich nicht koordinieren, ist der häufigste und teuerste Fehler.

Wie sich Ausschreibungsunterlagen verändern: Was jetzt zu erwarten ist

Die Regulierung wirkt sich schrittweise auf öffentliche Vergabeunterlagen aus. Obwohl die vollständige Verpflichtung aus Anhang III erst im Dezember 2027 kommt, nehmen die fortschrittlichsten Vergabestellen bereits KI-Reifeanforderungen in ihre technischen Leistungsbeschreibungen und Zuschlagskriterien auf.

Anforderungen, die bereits in tech-Ausschreibungen mit KI-Komponenten erscheinen

ISO 42001 als Differenzierungsmerkmal bei Ausschreibungen

Die Norm ISO 42001, die ein Managementsystem für künstliche Intelligenz festlegt, beginnt in technischen Ausschreibungsunterlagen mit KI-Komponenten als Kriterium für technische Leistungsfähigkeit oder als Zuschlagskriterium zu erscheinen. Das Gesetz über öffentliche Sektorverträge erlaubt es Vergabestellen, ISO-Zertifizierungen zu verlangen, wenn sie direkt und nachweislich mit dem Auftragsgegenstand verbunden sind.

Obwohl die Einführung von ISO 42001 in Spanien noch in den Anfängen steckt, werden Unternehmen, die ENS + KI-Verordnungs-Readiness + ISO 42001 kombinieren, in den nächsten zwei Jahren eine differenzierte Position in Ausschreibungsunterlagen haben. Dies ist nicht nur ein Reputationsvorteil: Es ist ein dokumentierter Nachweis von KI-Managementkapazitäten, der das wahrgenommene Risiko für die Vergabestelle reduziert.

AESIA und ihre Rolle als Aufsichtsbehörde für Verwaltungsanbieter

Die Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) mit Sitz in A Coruña und Büros in Madrid ist die zuständige nationale Behörde für die Anwendung der KI-Verordnung in Spanien. Sie wurde 2023 gegründet und war damit die erste Behörde dieser Art in der Europäischen Union.

Seit dem 2. Februar 2025 hat AESIA aktive Inspektionsbefugnisse über verbotene Praktiken und die KI-Kompetenzpflicht. Ihre vollständige Sanktionsbefugnis – einschließlich der Hochrisikosysteme aus Anhang III – wird mit dem Inkrafttreten dieser Pflichten aktiviert, ursprünglich für August 2026 vorgesehen und nun nach der politischen Einigung über den digitalen KI-Omnibus auf Dezember 2027 verschoben.

Was kann AESIA gegenüber einem KI-Anbieter für die Verwaltung tun?

Der regulatorische Sandbox: ein ungenutztes Instrument

AESIA verwaltet einen regulatorischen Testsraum (Sandbox), eingerichtet durch RD 817/2023, der es Unternehmen ermöglicht, Hochrisiko-KI-Systeme unter Aufsicht der Behörde mit temporärer Compliance-Flexibilität im Austausch gegen Transparenz und Kooperation zu entwickeln und zu testen. Aus dem Sandbox sind bereits 16 praktische Compliance-Leitfäden hervorgegangen, die AESIA öffentlich auf aesia.gob.es veröffentlicht hat.

Für ein KMU (kleine und mittlere Unternehmen) im Tech-Bereich, das ein KI-System für die Verwaltung entwickeln möchte und nicht sicher ist, ob sein Produkt hochriskant ist, ist der Sandbox der sicherste Mechanismus zum Testen ohne unmittelbares Sanktionsrisiko.

Vorbereitungsplan für Anbieter: 6 Monate vor der Ausschreibung

Wenn Ihr Unternehmen bereit sein möchte für tech-Ausschreibungen mit KI-Komponenten, die in den nächsten zwei Jahren proliferieren werden, finden Sie hier die zehn Maßnahmen geordnet nach Priorität und logischer Reihenfolge:

  1. KI-Systemverzeichnis (Woche 1-2): Listen Sie alle Systeme auf, die Sie entwickeln, verkaufen oder integrieren. Identifizieren Sie für jedes System, ob es eine Komponente zur automatisierten Entscheidungsfindung enthält. Diese Liste ist der Ausgangspunkt für alles andere.
  2. KI-Verordnung-Klassifizierung (Woche 3-4): Bestimmen Sie für jedes System im Inventar seine Risikostufe gemäß der KI-Verordnung: inakzeptabel (verboten), hohes Risiko (Anhang III), begrenztes Risiko (Transparenzpflichten) oder minimales Risiko. Die AESIA-Leitfäden sind eine kostenlose und zuverlässige Ressource für diese Klassifizierung.
  3. ENS-Klassifizierung (Woche 3-4, parallel): Führen Sie für jedes System, das Sie haben oder für öffentliche Verträge entwickeln, die ENS-Dimensionsanalyse durch. Wenn Sie bereits laufende Verträge mit Behörden haben, sollte die ENS-Analyse bereits vorliegen; wenn nicht, ist es dringend.
  4. Gap-Analyse technische Dokumentation (Monat 2): Vergleichen Sie die Dokumentation, die Sie heute haben, mit dem, was Anhang IV der KI-Verordnung für Hochrisikosysteme verlangt. Die häufigsten Lücken sind: fehlende Dokumentation der Trainingsdaten, fehlende Leistungsmetriken nach Bevölkerungsuntergruppen und fehlende dokumentierte menschliche Aufsichtsverfahren.
  5. Risikomanagementsystem (Monat 2-3): Implementieren Sie einen kontinuierlichen Prozess zur Identifizierung, Bewertung und Minderung von Risiken für jedes Hochrisikosystem. Dieser Prozess muss im Falle einer AESIA-Inspektion überprüfbar sein.
  6. Vereinheitlichte Logging-Architektur (Monat 3): Entwerfen oder aktualisieren Sie das Ereignisprotokollierungssystem, damit es gleichzeitig ENS (Rückverfolgbarkeit) und KI-Verordnung (Art. 12: automatische Protokollierung über den gesamten Lebenszyklus, Mindestaufbewahrung 6 Monate) erfüllt.
  7. Menschliche Aufsichtsverfahren (Monat 3-4): Dokumentieren Sie, wer, wie und wie oft die Systementscheidungen überwacht. Definieren Sie die Schwellenwerte für manuelle Eingriffe. Schulen Sie das Personal. Dies erfüllt sowohl Art. 14 der KI-Verordnung als auch die ENS-Personalmaßnahmen.
  8. ENS-Konformitätserklärung / Zertifizierung (Monat 4-5): Bereiten Sie je nach ENS-Kategorie Ihrer Systeme die Selbstbewertung (Basis) vor oder starten Sie den externen Prüfprozess mit einer ENAC-akkreditierten Stelle (mittel oder hoch). Ohne dieses Dokument können Sie sich nicht für Ausschreibungen bewerben.
  9. KI-Verordnung-Konformitätsbewertung (Monat 5-6): Für Hochrisikosysteme aus Anhang III ermöglicht die Mehrheit eine dokumentierte Selbstbewertung. Bereiten Sie die technische Dokumentation gemäß Anhang IV vor und kontaktieren Sie, wenn das System es erfordert, eine notifizierte Stelle für die externe Bewertung.
  10. Registrierung in der EU-Datenbank (Monat 6): Hochrisikosysteme müssen in der europäischen Datenbank registriert werden, bevor sie vermarktet werden. Dies ist eine Voraussetzung für die CE-Kennzeichnung und die Möglichkeit, sich für Ausschreibungen mit Anhang-III-Systemen zu bewerben.

Finanzierung mit Kit Consulting

Das Programm Kit Consulting (spanischer Beratungszuschuss), verwaltet von Red.es mit NextGenerationEU-Mitteln, kann die strategische Beratung zur Vorbereitung dieser gesamten Dokumentation finanzieren. Die verfügbaren Beträge sind:

Das Programm umfasst ausdrücklich Beratungsleistungen zu künstlicher Intelligenz und Cybersicherheit (ENS-Anpassung, mittlere bis hohe Kategorie). Zusammen können sie einen Großteil der Vorbereitungsarbeit für den doppelten Regulierungsrahmen abdecken.

Aktueller Stand: Die Ausschreibung für den Kit Consulting ist für neue Anträge geschlossen. Eine zweite Ausschreibung wird erwartet, die offiziell noch zu eröffnen ist. Wenn Sie daran interessiert sind, Ihr Projekt mit diesem Programm zu finanzieren, empfiehlt es sich, Ihren Digitalisierungsagenten zu kontaktieren, um einen Platz zu reservieren, sobald es geöffnet wird.

Wenn Sie erkunden möchten, wie Sie ein ENS + KI-Verordnungs-Compliance-Projekt mit Kit Consulting finanzieren können, schreiben Sie mir direkt und wir analysieren Ihren Fall.

Als Anbieter der Verwaltung kreuzt sich dies mit dem ENS und es lohnt sich, es gemeinsam zu betrachten. Hier finden Sie alles zur KI-Verordnung-Compliance.

Häufig gestellte Fragen zur KI-Verordnung und ENS für Verwaltungsanbieter

Betrifft die KI-Verordnung Software-Anbieter für die Verwaltung?

Ja, direkt. Anbieter von KI-Systemen, die an Behörden ausschreiben, sind Anbieter (Provider) im Sinne der KI-Verordnung und haben die strengsten Pflichten: technische Dokumentation gemäß Anhang IV, Risikomanagementsystem (Art. 9), Konformitätsbewertung, Registrierung in der EU-Datenbank und CE-Kennzeichnung für Hochrisikosysteme. Die Tatsache, dass der Kunde eine Behörde ist, reduziert die Anbieterpflichten nicht; in einigen Fällen erweitert sie sie sogar, weil Behörden zusätzlichen Registrierungs- und Aufsichtsanforderungen unterliegen, die sie vertraglich an ihre Anbieter weitergeben.

Welche Pflichten hat eine Behörde, die KI-Systeme einsetzt?

Behörden sind Verantwortliche für den Einsatz (Deployer) im Sinne der KI-Verordnung, wenn sie KI-Systeme zur Entscheidungsfindung einsetzen, die Bürger betreffen. Ihre Hauptpflichten gemäß Art. 26 umfassen: das System gemäß den Anbieteranweisungen verwenden, kompetentes Personal für die menschliche Aufsicht einsetzen, die automatisch generierten Systemprotokolle führen (mindestens 6 Monate), betroffene Mitarbeiter vor dem Einsatz informieren, schwerwiegende Vorfälle melden, eine Grundrechts-Folgenabschätzung (FRIA, Art. 27) für bestimmte Systeme durchführen und Bürger informieren, wenn eine sie betreffende Entscheidung mit KI getroffen wurde. Art. 26(8) fügt eine spezifische Pflicht für öffentliche Behörden hinzu: sicherzustellen, dass die eingesetzten Systeme in der EU-Datenbank registriert sind.

Muss ich sowohl ENS als auch KI-Verordnung erfüllen, wenn ich KI-Software an die Verwaltung verkaufe?

Ja, beide Rahmen sind verpflichtend und gelten parallel. Das ENS (RD 311/2022) regelt die Sicherheit von Informationssystemen, die Verwaltungsdaten verarbeiten: Jedes private Unternehmen, das öffentliche Informationen verwaltet, muss es einhalten und dies durch eine Konformitätserklärung (Basiskategorie) oder externe Konformitätszertifizierung (mittlere und hohe Kategorien) nachweisen. Die KI-Verordnung reguliert KI-Systeme unabhängig davon, ob sie im konventionellen Sinne sicher sind: Sie konzentriert sich auf KI-spezifisches Risikomanagement, Datenqualität, Erklärbarkeit, menschliche Aufsicht und Rückverfolgbarkeit. Die integrierte Verwaltung beider Rahmen reduziert Dokumentationsduplikate und Compliance-Kosten.

Welche KI-Systeme aus Anhang III werden üblicherweise mit der Verwaltung kontrahiert?

Die häufigsten in spanischen öffentlichen Ausschreibungen umfassen: biometrische Erkennungssysteme für Sicherheit und Zugangskontrolle in öffentlichen Einrichtungen, Tools zur Bewertung von Pflegebedürftigkeit und Anspruchsberechtigung für Sozialdienste, Systeme zur Aufnahme und Bewertung im Bildungsbereich, Plattformen zur Risikoanalyse im Justiz- oder Polizeibereich, Systeme zur Verwaltung kritischer Infrastrukturen mit KI-Komponenten und Tools zur Auswahl und Bewertung von Personal für den öffentlichen Dienst. All diese sind Hochrisikosysteme gemäß Anhang III und erzeugen die maximalen Pflichten für den Anbieter.

Wann treten die Pflichten aus Anhang III für Verwaltungsanbieter in Kraft?

Ursprünglich waren sie für den 2. August 2026 vorgesehen. Nach der politischen Einigung im Mai 2026 über das digitale KI-Omnibus-Paket verschiebt sich das erwartete Datum auf Dezember 2027 für die Systeme aus Anhang III. Es empfiehlt sich jedoch, jetzt zu handeln, aus drei Gründen: Erstens ist die politische Einigung kein Gesetz, bis sie im Amtsblatt der EU veröffentlicht wird; zweitens nehmen Ausschreibungsunterlagen diese Anforderungen bereits vorweg; drittens brauchen ENS-Zertifizierungsprozesse und KI-Verordnung-technische Dokumentation monatelange Arbeit. Jetzt zu beginnen bedeutet, 2027 vorbereitet zu sein, nicht in letzter Minute zu hetzen.

Hilft ISO 42001 dabei, Ausschreibungen mit der Verwaltung zu gewinnen?

Zunehmend. Das Gesetz über öffentliche Sektorverträge erlaubt es Vergabestellen, ISO-Zertifizierungen als Kriterium für technische Leistungsfähigkeit oder als Zuschlagskriterium zu verwenden, sofern sie direkt und nachweislich mit dem Auftragsgegenstand verbunden sind. ISO 42001 (KI-Managementsystem) beginnt in technischen Ausschreibungsunterlagen mit KI-Komponenten zu erscheinen, besonders bei größeren Ausschreibungen. Kombiniert mit der ENS-Zertifizierung und der KI-Verordnung-Dokumentation zeigt es eine integrale KI-Managementkapazität, die das wahrgenommene Risiko für den öffentlichen Auftraggeber reduziert und bei der technischen Bewertung den Ausschlag geben kann.

Was ist AESIA und welche Rolle hat sie gegenüber Verwaltungsanbietern?

Die Agencia Española de Supervisión de la Inteligencia Artificial (AESIA) ist die in Spanien für die Anwendung der KI-Verordnung zuständige Stelle. 2023 mit Sitz in A Coruña gegründet, war sie die erste KI-Aufsichtsbehörde der EU. Sie beaufsichtigt sowohl Anbieter als auch Verantwortliche für den Einsatz, einschließlich der Verwaltung. Ihre Instrumente sind: proaktive Inspektionen (beginnend mit Personalauswahlsystemen), Beschwerdeuntersuchungen von Bürgern, Pflichtmeldungen von Vorfällen und Sanktionen bis zu 35 M€ oder 7 % des weltweiten Umsatzes. Sie bietet auch den regulatorischen Sandbox für das Testen von KI-Systemen unter Aufsicht mit temporärer Compliance-Flexibilität und hat 16 praktische Leitfäden auf aesia.gob.es veröffentlicht.

Wie kann ich die Anpassung an KI-Verordnung und ENS für Verwaltungsanbieter finanzieren?

Das Programm Kit Consulting (spanischer Beratungszuschuss) (verwaltet von Red.es mit NextGenerationEU-Mitteln) kann die strategische Beratung zur Vorbereitung der technischen Dokumentation der KI-Verordnung, die Gap-Analyse gegenüber dem ENS und den integrierten Compliance-Plan finanzieren. Die Beträge reichen von 12.000 € (10-49 Mitarbeiter) bis 24.000 € (100-249 Mitarbeiter). Das Programm umfasst ausdrücklich Beratungsleistungen zu künstlicher Intelligenz und Cybersicherheit/ENS. Es ist besonders nützlich für Tech-KMU, die für die Ausschreibungen der nächsten zwei Jahre bereit sein wollen, ohne alle Kosten intern zu tragen.

Möchten Sie Ihr Unternehmen für die nächsten tech-Ausschreibungen mit KI vorbereiten?

Wenn Sie Systeme mit KI-Komponenten an die spanische öffentliche Verwaltung entwickeln oder verkaufen, kann ich Ihnen helfen, einen integrierten, kosteneffizienten und dokumentierten ENS + KI-Verordnungs-Compliance-Plan zu entwerfen, um die nächste Prüfung oder Ausschreibung zu bestehen.

Kostenlose Diagnose-Beratung

Verwandte Artikel, die Sie interessieren könnten