Home / Ressourcen / Governance
Governance · 5 Min. Lesezeit · Stand 2026-11-15
Der Einsatz von KI-Agenten läuft ihrer Aufsicht davon
Eine Splunk-Studie mit 2.050 Befragten zeigt: Die meisten Teams sehen, dass ihre KI-Agenten schneller arbeiten, doch mehr als ein Drittel kann nicht sagen, wer für ihre Überwachung verantwortlich ist. Tempo ohne Verantwortung ist kein Ergebnis. Es ist ein Risiko, das auf seinen Vorfall wartet.
Agentische KI verbreitet sich in Betriebsteams schneller als die Strukturen, die sie beaufsichtigen sollen. Das ist die zentrale Erkenntnis des 2026 Splunk State of Observability Reports, den Cisco am 20. Oktober 2026 veröffentlichte und über den Infosecurity Magazine am selben Tag berichtete (Infosecurity Magazine, 20. Oktober 2026). Befragt wurden 2.050 Fachleute aus ITOps und Engineering, und das Ergebnis zeigt echten, messbaren Nutzen direkt neben einer wachsenden Verantwortungslücke.
Was geschehen ist
Die Zahlen weisen in beide Richtungen. 86 % der Befragten gaben an, dass der KI-Einsatz die Erkennung von IT- oder Sicherheitsproblemen beschleunigt hat, 36 % bezeichneten die Verbesserung als deutlich (Splunk/Cisco, 20. Oktober 2026). Das ist das Argument für agentische KI in einem Satz: Sie funktioniert, und die Menschen spüren, dass sie funktioniert.
Dieselbe Umfrage zeigt, dass das organisatorische Gerüst nicht mitgehalten hat. 38 % der Befragten sagten, ihrer Organisation fehle eine klar definierte Zuständigkeit und Verantwortung für die Überwachung von KI, und 42 % nannten eine konkretere Ausprägung desselben Problems: Das Team, das einen bestimmten Agenten beobachten könnte, ist nicht das Team, das für ihn verantwortlich ist (Splunk/Cisco, 20. Oktober 2026). Mark Woods, Field CTO und Chief Technical Advisor für EMEA bei Splunk, brachte es auf den Punkt: „Wenn Agent Observability die Aufgabe aller ist, wird sie zur Aufgabe von niemandem" (Splunk/Cisco, 20. Oktober 2026).
Am deutlichsten zeigt sich die Lücke zwischen Anspruch und Wirklichkeit bei der Überwachung von Halluzinationen. 85 % halten Transparenz über KI-Halluzinationen für wichtig, aber nur 58 % gaben an, dass ihre Organisation sie tatsächlich überwachen kann (Splunk/Cisco, 20. Oktober 2026). Und 14 % sagten, Agenten hätten die Erkennung und Behebung von Problemen erschwert statt erleichtert, vor allem weil weiterhin jemand prüfen muss, ob das Ergebnis des Agenten stimmt, bevor man ihm vertrauen kann (Splunk/Cisco, 20. Oktober 2026). Jeetu Patel, President und CPO bei Cisco, beschrieb die Lösung als strukturell statt prozedural: „Agenten im großen Maßstab zu steuern, erfordert, Security und Observability neu zu denken" (Splunk/Cisco, 20. Oktober 2026).
Warum das kein Einzelbefund ist
Splunks Zahlen beschreiben die Aufsichtslücke aus Sicht von ITOps. Andere, unabhängige Forschung beschreibt dieselbe Lücke aus Sicht der Datenflüsse, und beide Bilder passen zusammen.
Recos State of Agent Security 2026 (26. August 2026), basierend auf anonymisierter Unternehmenstelemetrie und der Analyse von 500 öffentlichen Model-Context-Protocol-Servern, stellte fest, dass 80 % der KI-Tools ganz ohne Aufsicht laufen; in kleineren Organisationen kommen auf 1.000 Beschäftigte 414 nicht freigegebene KI-Tools. Zwei Jahre nach Beginn der Arbeit an KI-Richtlinien in Unternehmen schrumpft der unbeaufsichtigte Bestand nicht.
Unabhängig davon ergab die Browser-Telemetrie von LayerX Security aus Unternehmen für 2025, dass 77 % der Beschäftigten Daten in generative KI-Tools einfügen und rund vier von fünf dieser Sitzungen über nicht verwaltete private Konten laufen, außerhalb des Single Sign-on und außerhalb jeder Protokollierung, die der Arbeitgeber kontrolliert (LayerX Security, 2025; Berichterstattung: The Register, 7. Oktober 2025).
Zusammengenommen ergibt sich ein Muster, das über völlig unterschiedliche Messmethoden hinweg Bestand hat: Umfrage, Telemetrie und Verkehrsanalyse zeigen alle, dass die Nutzung von Agenten und KI-Tools der Fähigkeit der Organisation vorauseilt, zu sagen, wer sie beaufsichtigt, oder nachzuweisen, was geschehen ist.
Was das für regulierte Unternehmen bedeutet
Eine Verantwortungslücke dieser Art ist kein künftiges Compliance-Risiko. Sie ist ein gegenwärtiges, gemessen an Regelwerken, die bereits in Kraft sind.
Die Aufzeichnungspflichten des EU AI Act setzen voraus, dass eine Organisation angeben kann, was ein System getan hat und wer dafür einstand. Der Befund, dass 38 % der ITOps-Teams keinen verantwortlichen Zuständigen für die KI-Überwachung benennen können, ist ein direktes Eingeständnis gegenüber dieser Anforderung, kein hypothetisches. NIS2 macht das Management von Cybersicherheitsrisiken zur persönlichen Verantwortung der Geschäftsleitung, und ein Agent, für dessen Überwachung niemand klar verantwortlich ist, ist genau die Art von Risiko, die diese Pflicht schließen soll. Halluzinierte oder fehlerhafte Agenten-Ergebnisse, die einen Kunden, eine behördliche Meldung oder ein Finanzsystem erreichen, sind ein anders gelagerter Vorfall als ein Datenleck, aber nach den meisten Meldepflichten für Vorfälle eben doch ein Vorfall. „Wir konnten das nicht wirksam überwachen" (zutreffend für 42 % der Befragten speziell bei Halluzinationen) ist keine Position, die eine Aufsichtsbehörde oder ein Prüfer als Risikominderung akzeptiert.
Die 14 %, die sagten, Agenten hätten die Problembehebung erschwert, verweisen auf einen zweiten, leiseren Preis: Ungeprüfte Agenten-Ergebnisse ersetzen die menschliche Prüfung nicht. Sie setzen einen Prüfschritt auf die Automatisierung obendrauf und erwecken dabei trotzdem den Anschein, ihn eingespart zu haben.
Was tatsächlich hilft
Die Lösung, auf die Splunks eigene Führung verweist, ist strukturell, nicht prozedural: eine gemeinsame Observability-Schicht, die die Aktivität von Agenten für die Verantwortlichen sichtbar macht, statt die Transparenz auf das Team zu verteilen, das einen bestimmten Agenten zufällig gebaut hat oder betreibt. Patel beschreibt den Zielzustand selbst als „gemeinsame Datenplattformen, die uns helfen, Probleme in Echtzeit zu erkennen und darauf zu reagieren" (Splunk/Cisco, 20. Oktober 2026).
Dafür braucht es drei Dinge, die eine Organisation prüfen kann, unabhängig davon, welchen Anbieter oder welche Plattform sie einsetzt: einen zentralen Ort, an dem die Aktivität jedes Agenten in abfragbarer Form protokolliert wird; einen namentlich benannten Verantwortlichen pro Agent, kein Gremium; und eine Möglichkeit, das, wofür ein Agent freigegeben war, mit dem zu vergleichen, was er tatsächlich getan hat, sodass Abweichungen einem Menschen auffallen, statt erst nach einem Vorfall ans Licht zu kommen.
Wie AANCER antwortet
AANCER behandelt die Aktivität jedes Agenten als etwas, das nachweisbar sein muss, nicht nur kontrolliert. Jede Aktion eines Agenten wird in ein manipulationssicheres Audit-Register geschrieben, an das nur angehängt werden kann. Die Frage „Was hat dieser Agent getan, und wann?" beantwortet damit ein Nachweis, nicht eine Logdatei, die erst jemand suchen und der man dann vertrauen muss.
Zuständigkeit und Berechtigungsumfang werden auf der Identitätsebene durchgesetzt, statt dem Team überlassen zu bleiben, das den Agenten zufällig gebaut hat: Die Reichweite eines Agenten ergibt sich daraus, womit er verbunden ist, über AANCERs Bibliothek aus 725 Konnektoren und 84 Vorlagen, und dieser Umfang lässt sich in weniger als 30 Sekunden widerrufen, ohne den Agenten neu auszurollen oder die Systeme abzuschalten, mit denen er kommuniziert. Die Pflichten aus 27 abgebildeten Regelwerken, darunter die Aufzeichnungsanforderungen des EU AI Act und die Verantwortlichkeitsvorgaben von NIS2, sind auf genau diesen Aktivitätsnachweis abgebildet. Die Belege, die ein Prüfer verlangt, sind also die Belege, die das System bereits erzeugt hat.
Nichts davon ersetzt einen namentlich benannten menschlichen Verantwortlichen pro Agent. Es gibt diesem Verantwortlichen etwas Konkretes, für das er einstehen kann.
Was Sie am Montag prüfen sollten
Wählen Sie drei Agenten, die bereits produktiv laufen, und fragen Sie für jeden: Wer ist der namentlich benannte Verantwortliche, wo wird die Aktivität protokolliert, und könnte dieser Verantwortliche innerhalb einer Stunde einen Nachweis darüber vorlegen, was der Agent letzte Woche tatsächlich getan hat, verglichen mit dem, wofür er freigegeben war? Wenn die Antwort lautet, dass man erst bei einem anderen Team nachfragen muss, zeigt sich der 42-%-Befund in Ihrer eigenen Organisation, und es lohnt sich, das zu beheben, bevor ein Vorfall die Frage erzwingt.
Sources
- Infosecurity Magazine, "AI Agent Adoption Creates Risk as Oversight Struggles to Keep Pace, Splunk Finds", 20 October 2026: https://www.infosecurity-magazine.com/news/ai-agent-adoption-oversight/
- Reco, State of Agent Security 2026, 26 August 2026
- LayerX Security enterprise browser telemetry, 2025 (via The Register, 7 October 2025)
Verwandte Leitfäden
Compliance
Der Readiness-Leitfaden zu Artikel 12 des EU AI Act
Was Aufzeichnungspflichten und menschliche Aufsicht ab August 2026 operativ tatsächlich verlangen — und welche Nachweise ein Prüfer von Ihnen einfordern wird.
9 Min. Lesezeit
Leitfaden lesen →Governance
Wenn der Agent vor Ihrer Tür nicht sagt, wer ihn schickt
Arkose Labs hat seinen Agent Trust Manager erweitert, um KI-Agenten-Traffic bei jedem Schritt der Customer Journey zu klassifizieren und zu steuern. Der Schritt reagiert auf ein Problem, das die meisten Unternehmen noch gar nicht gemessen haben: Agenten, die schlicht nicht sagen, was sie sind.
5 Min. Lesezeit
Zur Analyse →Compliance
KI-Guardrails in Australien: Was der Voluntary AI Safety Standard, Essential Eight und die Privacy-Act-Reform für Unternehmens-KI bedeuten
Australien nähert sich der KI-Governance aus drei Richtungen zugleich — Sicherheits-Guardrails, Cyber-Grundschutz und Datenschutzreform — und KI-Plattformen müssen künftig alle drei nachweisen.
6 Min. Lesezeit
Zum Leitfaden →