Souveräne KI in Frankreich: Was ANSSI, CNIL und die Cloud-⁠de-⁠confiance-⁠Doktrin erwarten

Frankreich hat aus dem Schlagwort „vertrauenswürdige KI" publizierte Doktrin gemacht — und Unternehmen, die KI-Plattformen beschaffen, sollten sie als Anforderungsliste lesen. ANSSI, die nationale Cybersicherheitsbehörde, hat eigene Sicherheitsempfehlungen für generative KI-Systeme (ANSSI-PA-102) veröffentlicht, die den Lebenszyklus vom Training über das Deployment bis zur Produktion abdecken. CNIL, die Datenschutzaufsicht, startete 2023 einen KI-Aktionsplan und hat seither eine Reihe von Empfehlungen und praktischen Fiches zur Anwendung der Datenschutz-Grundverordnung (DSGVO; franz. RGPD, engl. GDPR) auf die KI-Entwicklung finalisiert. Die Branche steht hinter derselben Agenda: Laut Numeum, dem französischen Digitalverband, erwirtschaften seine rund 2.500 Mitgliedsunternehmen etwa 85 % des Branchenumsatzes — dasselbe Ökosystem, das auch Souveräne-KI-Champions wie Mistral AI hervorgebracht hat.

Der rote Faden ist nicht Vorsicht gegenüber KI an sich. Es ist Vorsicht bei der Frage, wo KI läuft und wer auf die Daten zugreifen kann — genau die Frage, für die die staatliche Doktrin der cloud de confiance („vertrauenswürdige Cloud") geschaffen wurde.

Was erwartet ANSSI von einem sicheren generativen KI-System?

ANSSIs Empfehlungen behandeln generative KI als kritische Infrastruktur mit KI-spezifischer Angriffsfläche: Data Poisoning, Prompt Injection, Exfiltration über Ausgaben. Die Kernerwartungen:

• Lebenszyklusphasen isolieren — Training, Deployment und Produktion getrennt durch Netzsegmentierung, dedizierte Hardware und strikte Zugriffskontrolle.
• Ein- und Ausgaben filtern, um Prompt-Injection- und Datenabfluss-Pfade zu stoppen, bevor sie Nutzer oder nachgelagerte Tools erreichen.
• Regelmäßige Risikoanalysen und Sicherheitsaudits durchführen, einschließlich KI-spezifischer Robustheitstests vor jedem Produktivgang.
• Die Hosting-Schicht härten — Modellparameter schützen und keine Rechenressourcen mit nicht vertrauenswürdigen Workloads teilen.

Wie wendet CNIL die DSGVO auf KI an?

CNILs Position: Die DSGVO ist auf KI-Modelle, die mit personenbezogenen Daten trainiert wurden, häufig anwendbar — und konforme Entwicklung ist durchaus möglich. Die Empfehlungen übersetzen die Verordnung in Ingenieurspraxis:

• Einen expliziten, legitimen Zweck definieren, bevor auch nur ein Trainings- oder Retrieval-Dokument ausgewählt wird.
• Daten minimieren — nur verarbeiten, was der Zweck tatsächlich erfordert.
• Betroffene informieren und ihre Rechte gewährleisten, von Auskunft bis Löschung, auch im KI-Kontext.
• Alles dokumentieren — Rechenschaftspflicht heißt Nachweise, nicht Zusicherungen.

Warum besteht Frankreich auf SecNumCloud und der cloud de confiance?

Die Doktrin existiert, weil ein Vertrag kein ausländisches Gesetz neutralisieren kann. Sensible Daten der öffentlichen Hand müssen auf Angeboten laufen, die nach ANSSIs SecNumCloud-Standard qualifiziert sind — dessen Anforderungen ausdrücklich Schutz vor außereuropäischem extraterritorialem Recht wie dem US CLOUD Act einschließen. Nur Architektur und Jurisdiktion — nicht Nutzungsbedingungen — entscheiden, wer Zugriff erzwingen kann. Französische Privatunternehmen legen denselben Maßstab zunehmend an KI an, wo Prompts, RAG-Indizes und Logs das sensibelste Material eines Unternehmens bündeln.

Was sollte ein französisches Unternehmen von einer KI-Plattform verlangen?

• On-Premises-Betrieb — Inferenz, RAG-Indizes und Logs innerhalb Ihres Perimeters, mit echter Air-Gap-Option.
• Verifizierbare Verarbeitungsnachweise — ein unveränderliches Audit-Ledger pro Aufruf, kein Dashboard in fremder Cloud.
• Menschliche Aufsicht — Human-in-the-Loop-Freigaben für folgenreiche Agentenaktionen.
• Ein- und Ausgabe-Guardrails — einschließlich Anti-Malware-Prüfung von Uploads, im Sinne von ANSSIs Filterlogik.
• Governte Integrationen — Least-Privilege-Konnektoren, deren jeder Aufruf protokolliert wird.

Quellen: ANSSI (cyber.gouv.fr), CNIL (cnil.fr), Numeum (numeum.fr) — Positionen und Zahlen wie von den Institutionen veröffentlicht.