KI-⁠Assurance im Vereinigten Königreich: Was NCSC, ICO, DUAA und SS1/23 jetzt von Unternehmens-⁠KI erwarten

Das Vereinigte Königreich hat bei der KI-Regulierung bewusst einen anderen Weg gewählt: kein einzelnes KI-Gesetz, sondern fünf sektorübergreifende Prinzipien — Sicherheit, Transparenz, Fairness, Rechenschaftspflicht und Anfechtbarkeit —, die von den bestehenden Aufsichtsbehörden mit ihren bestehenden Befugnissen angewendet werden. Damit werden Assurance-Nachweise, nicht Richtlinienpapiere, zur Währung der Compliance. Es geht um viel: Laut dem techUK-Bericht "AI Adoption in the UK: Putting AI into Action" könnte KI bis 2035 bis zu 550 Milliarden Pfund zum britischen BIP beitragen — doch nur Organisationen, die die Governance ihrer KI nachweisen können, werden diesen Wert realisieren.

Was erwarten die sicheren KI-Leitlinien des NCSC tatsächlich?

Die Guidelines for Secure AI System Development des NCSC — gemeinsam mit der US-Behörde CISA veröffentlicht und von Behörden aus 18 Ländern mitgezeichnet — etablieren eine Secure-by-Design-Grundlinie über vier Phasen: sicheres Design, sichere Entwicklung, sichere Bereitstellung sowie sicherer Betrieb und Wartung. In die Unternehmenspraxis übersetzt:

• Modellieren Sie Prompt Injection und Data Poisoning als Bedrohungen vor dem Go-live, nicht nach dem ersten Vorfall.
• Kennen Sie Ihre KI-Lieferkette: welche Modelle, welche Konnektoren, welche Daten jedes einzelne berühren darf.
• Protokollieren Sie KI-spezifische Ereignisse, damit sich ein Vorfall Schritt für Schritt rekonstruieren lässt.

DUAA: "meaningful human involvement" ist mehr als ein Genehmigen-Button

Der Data (Use and Access) Act 2025 (DUAA) hat Artikel 22 der UK-DSGVO durch die neuen Artikel 22A–22D ersetzt, in Kraft seit Februar 2026. Signifikante automatisierte Entscheidungen sind nun weitgehend zulässig — das Sicherheitsventil ist jedoch die maßgebliche menschliche Beteiligung ("meaningful human involvement"), und der sich abzeichnende Konsens ist eindeutig: Die menschliche Rolle muss aktiv sein, keine bloße Geste. Ein Prüfer, der Maschinenergebnisse ohne Kontext, Daten und Befugnis zur Änderung des Ergebnisses abstempelt, zählt nicht. Die ICO, die Anfang 2026 zu aktualisierten Leitlinien für automatisierte Entscheidungen konsultiert hat und einen gesetzlichen Verhaltenskodex für KI vorbereitet, betrachtet die Rechenschaftspflicht für KI-Ergebnisse als nicht verhandelbar. Fragen Sie sich:

• Sieht der Prüfer die Eingaben und die Begründung — oder nur das Urteil?
• Kann der Prüfer die Entscheidung tatsächlich überstimmen, und belegt das Protokoll dies?
• Ist jede automatisierte Entscheidung auf ein Modell, einen Prompt und eine Datenquelle rückführbar?

Warum zieht SS1/23 KI in das Modellrisikomanagement hinein?

Für Banken, Bausparkassen und von der PRA benannte Wertpapierfirmen behandelt die PRA-Aufsichtsmitteilung SS1/23 — fünf Prinzipien des Modellrisikomanagements, in Kraft seit Mai 2024 — KI wie jedes andere Modell: inventarisiert, validiert, überwacht, mit einem namentlich verantwortlichen Senior Manager. Anbietermodelle sind ausdrücklich erfasst; "das übernimmt unser API-Anbieter" ist keine Verteidigung. FCA-regulierte Unternehmen bewegen sich unter dem Senior-Managers-Regime in dieselbe Richtung.

Was sollte ein britisches Unternehmen von einer KI-Plattform verlangen?

• Verifizierbare Verarbeitungsnachweise: unveränderliche Protokolle jedes Modellaufrufs, jeder Abfrage und jeder Aktion — Beweise, keine Marketingaussagen.
• Menschliche Aufsicht im Ausführungspfad, die Kontext und Befugnis des Prüfers erfasst, damit DUAA-Prüfungen nachweislich maßgeblich sind.
• On-Premises-Bereitstellung: Modelle, Daten und Audit-Trails innerhalb der eigenen Perimeter zu halten, umgeht die Konzentrationsbedenken hinter dem britischen Critical-Third-Party-Regime.

Aufsichtsbehörden werden Ihre KI-Richtlinie nicht lesen. Sie werden den Nachweis verlangen.