Der unkontrollierte Prompt: Was Ihr Unternehmen mit KI teilt, wenn niemand hinsieht

Die meisten Unternehmen diskutieren noch, ob sie KI einführen sollen. Ihre Mitarbeitenden haben das längst entschieden — über private Konten, Browser-Tabs und Tools, die die IT nie gesehen hat. Das Ergebnis ist ein Datenfluss, den niemand genehmigt hat, den niemand protokolliert und den niemand vorlegen kann, wenn eine Aufsichtsbehörde, ein Kunde oder ein Gericht danach fragt. Das ist kein Argument gegen KI am Arbeitsplatz. Es ist ein Argument gegen KI am Arbeitsplatz, die keine Spuren hinterlässt.

Die Einführung, die längst stattgefunden hat

Sicherheitsforscher, die tatsächlich in den Browser-Datenverkehr hineinsehen können, berichten Zahlen, die die meisten Führungsteams kaum glauben. Die Browser-Telemetrie von LayerX Security ergab 2025, dass 77 % der Mitarbeitenden Daten in generative KI-Tools einfügen — und dass rund vier von fünf dieser Sitzungen über nicht verwaltete private Konten laufen: außerhalb des Single Sign-on, außerhalb der Data-Loss-Prevention, außerhalb jeder Kontrolle des Unternehmens (LayerX Security, 2025; Berichterstattung: The Register, 07.10.2025).

Cyberhaven, das misst, was tatsächlich eingefügt wird, stellte fest, dass etwa jeder zehnte Einfügevorgang in ChatGPT vertrauliches Material enthält — Quellcode, Kundendaten, Finanzunterlagen — und dass der Anteil sensibler Daten in KI-Tools Jahr für Jahr deutlich steigt. Generative KI zählt damit zu den größten nicht autorisierten Datenabflusskanälen im Unternehmen (Cyberhaven, 2023–2025).

Für all das brauchte es keine böse Absicht. Es brauchte nur ein Tool, das täglich eine Stunde spart — und Governance-Prozesse, die im Quartalstakt arbeiten.

Was es konkret bedeutet, wenn Daten den Perimeter verlassen

Fügt ein Mitarbeitender einen Vertrag in einen Consumer-Chatbot ein, treten drei Dinge gleichzeitig ein.

• Das Unternehmen kontrolliert die Speicherung nicht mehr. Der Text existiert nun auf einer Infrastruktur, für die fremde Geschäftsbedingungen und eine fremde Jurisdiktion gelten — mit Löschzusagen, die das Unternehmen nicht überprüfen kann.
• Das Unternehmen kontrolliert den Empfängerkreis nicht mehr. Samsung erlebte das 2023 öffentlich: Ingenieure fügten in drei Vorfällen innerhalb von rund zwanzig Tagen Halbleiter-Quellcode und interne Besprechungsnotizen in ChatGPT ein. Das Unternehmen verhängte daraufhin ein internes Verbot — mit der Begründung, an externe KI-Plattformen übermittelte Daten seien „schwer zurückzuholen und zu löschen" (Bloomberg / Forbes, 02.05.2023).
• Das Unternehmen verliert den Nachweis. Es gibt kein Protokoll. Fragen Sie eine typische Organisation, welche Dokumente im vergangenen Jahr über KI-Tools abgeflossen sind — die ehrliche Antwort lautet: Niemand weiß es, und kein System kann es rekonstruieren. Richtlinien existieren; Belege nicht.

Dasselbe Problem in der Enterprise-Variante

Der Kauf eines Enterprise-KI-Assistenten schließt die Lücke nicht automatisch — er kann sie verlagern. Microsofts eigene Einführungsleitfäden für M365 Copilot widmen dem Thema „Oversharing" breiten Raum: Jahre an Berechtigungsaltlasten in SharePoint — Personalordner mit gebrochener Vererbung, M&A-Ordner, die für „alle" freigegeben sind — werden an dem Tag durchsuchbar, an dem ein KI-Assistent sie im Auftrag der Nutzer durchqueren kann (Microsoft, 2025). Der Assistent respektiert die Berechtigungen; die Berechtigungen waren nur seit einem Jahrzehnt unbemerkt falsch. Die KI hat es sichtbar gemacht.

Die Lehre lässt sich verallgemeinern: Eine KI-Schicht erbt jede Schwäche der darunterliegenden Daten-Governance — und verstärkt sie um ein Suchfeld.

Die Aufsichtsbehörden haben es bemerkt

Die italienische Datenschutzbehörde sperrte ChatGPT bereits 2023 vorübergehend wegen DSGVO-Bedenken, und die europäischen Behörden haben die KI-Nutzung am Arbeitsplatz seither fest im Blick. Parallel dazu weisen die Aufzeichnungspflichten der EU-KI-Verordnung in eine klare Richtung: Unternehmen werden zunehmend nachweisen müssen — mit Protokollen, nicht mit Richtlinien —, was ihre KI-Systeme getan haben und mit wessen Daten. „Wir konnten es nicht sehen" ist keine Verteidigung, die mit der Zeit besser wird.

Die eigentliche Anforderung heißt Sichtbarkeit

Die Reflexantwort — KI-Tools zu verbieten — hat ein gut dokumentiertes Versagensmuster: Die Nutzung wandert auf private Geräte und private Konten, wo die Sichtbarkeit auf null sinkt. Ein Verbot verwandelt ein Governance-Problem in ein unsichtbares Problem.

Die tragfähige Anforderung ist enger und anspruchsvoller: Jede KI-Interaktion mit Unternehmensdaten muss dort stattfinden, wo das Unternehmen sie sehen, protokollieren und verantworten kann. Das bedeutet KI innerhalb des Perimeters statt außerhalb; identitätsgebundene Zugriffe statt privater Konten; ein Prüfpfad, der durch die Architektur existiert — nicht durch ein Versprechen.

Genau das ist das Anforderungsprofil, für das souveräne KI-Plattformen gebaut werden — aancer.ai, eine Enterprise-Plattform für agentische KI, gehört dazu —, doch das Prinzip gilt unabhängig vom Anbieter: Wenn ein KI-Tool hinterher nicht sagen kann, was es gefragt wurde und was es geantwortet hat, ist es nicht kontrolliert. Es ist nur beliebt.

Quellen: LayerX Security, Browser-Telemetrie, 2025 (via The Register, 07.10.2025) · Cyberhaven, Untersuchungen zur KI-Nutzung, 2023–2025 · Bloomberg / Forbes zu den Samsung-Vorfällen, 02.05.2023 · Microsoft, Leitfaden zur Oversharing-Vermeidung für M365 Copilot, 2025 · Garante (italienische Datenschutzbehörde), ChatGPT-Maßnahmen, 2023.