Home / Ressourcen / Governance

Governance · 5 Min. Lesezeit · Stand 2026-11-16

Warum KI-⁠Agenten jetzt Kontrollen brauchen, die sie nicht selbst abschalten können

ThreatLockers neues Zero Trust AI Control sitzt bewusst außerhalb des Agenten. Eine Schutzmaßnahme, die die KI sich selbst auferlegt, ist eine Schutzmaßnahme, die sich der KI abreden lässt.

In einem zugangsbeschränkten kriminellen Forum, nein, hier handelt es sich um einen regulären Fall: ThreatLocker kündigte am 21. Oktober 2026 Zero Trust AI Control (ZTAIC) an, ein Werkzeug, das von außerhalb des Agenten selbst steuert, auf was ein KI-Agent zugreifen, was er ausführen und mit was er sich verbinden darf (Help Net Security, 21. Oktober 2026). Genau diese Entscheidung ist der Kern: Weil die Kontrollen von außen wirken, greifen sie auch dann, wenn der Agent sich unerwartet verhält, statt darauf angewiesen zu sein, dass der Agent sein eigenes Verhalten überwacht.

ThreatLocker-CEO Danny Jenkins brachte den Wandel auf den Punkt: KI-Agenten lieferten „nicht mehr nur Informationen"; sie handelten inzwischen in der gesamten Umgebung einer Organisation, riefen andere Anwendungen, Skripte, Browser und Dienste in mehrstufigen Arbeitsabläufen auf (Help Net Security, 21. Oktober 2026). ZTAIC liefert vorgefertigte Richtlinien, die Sicherheitsteams übernehmen und anschließend anpassen können, und arbeitet zusammen mit ThreatLockers bestehenden Produkten Allowlisting und Web Content Control, die bereits regeln, welche KI-Anwendungen und browserbasierten KI-Dienste überhaupt zugelassen sind.

Warum das kein isolierter Produktstart ist

Die Prämisse hinter ZTAIC, dass die eigenen Schutzmaßnahmen eines Agenten keine ausreichende Kontrolle darstellen, wird von unabhängiger Seite gestützt.

Ein Milliman-Whitepaper zur Absicherung von KI-Agenten, veröffentlicht am 13. August 2026, beschreibt eine Red-Team-Übung der israelischen KI-Sicherheitsfirma DeepKeep gegen einen fiktiven Reisebuchungs-Agenten, durchgeführt nur über dessen öffentlichen Endpunkt und ohne Codezugriff. Das Team umging die Schutzmaßnahmen des Agenten durchgängig mit einfacher Prompt-Manipulation und erzeugte neun verschiedene Befunde in den Bereichen Prompt Injection, unbefugter Datenzugriff, Tool-Missbrauch und Missbrauch der Geschäftslogik, zugeordnet zu OWASPs Risikokategorien für agentische KI. Ein Beispiel: Ein Angreifer nutzte eine erfundene Systemanweisung und einen emotionalen Appell, um eine kostenlose Hotelnacht genehmigt zu bekommen, ohne dass dahinter eine echte Freigabe stand. Millimans Whitepaper kommt zu dem Schluss, dass „der aktuelle Ansatz mit Schutzmaßnahmen damit für den Produktionseinsatz nicht robust genug ist", und empfiehlt, Kontrollen auf mehreren Ebenen zu schichten, an Eingabe, Tool-Ausführung, Ausgabe und Überwachung, statt sich auf eine einzige Prüfung zu verlassen, die das Modell an sich selbst vornimmt (Milliman, 13. August 2026).

Das Ausmaß der Gefährdung wächst mit den Agenten selbst. C1s 2026 Future of Identity Report, veröffentlicht am 10. März 2026, stellte fest, dass 95 Prozent der befragten Organisationen inzwischen KI-Agenten einsetzen, die IT- oder Sicherheitsaufgaben autonom ausführen, und dass 80 Prozent der Organisationen im vergangenen Jahr mindestens eine identitätsbezogene Sicherheitsverletzung erlitten haben (C1, 10. März 2026). Agenten, die autonom handeln, brauchen dafür Zugangsdaten und Reichweite, und genau diese Reichweite soll durch externe Kontrollen wie ZTAIC, oder durch Governance, die in die eigene Betriebsumgebung des Agenten eingebaut ist, begrenzt werden.

Was das für ein reguliertes Unternehmen bedeutet

Ein Agent, der andere Anwendungen und Prozesse aufrufen kann, ist funktional ein neuer Akteur im Netzwerk mit eigenem Zugangspfad. Nach den Aufzeichnungspflichten des EU AI Act muss eine Organisation sagen können, was ein KI-System getan hat; nach NIS2 liegt die Verantwortung für das Management von Cybersicherheitsrisiken persönlich beim Management. Beide Regelwerke setzen voraus, dass die Organisation auf eine Kontrolle verweisen kann, die den Agenten eingeschränkt hat und nachweislich gehalten hat, nicht nur, dass ein Richtliniendokument das beabsichtigte Verhalten beschrieben hat.

Diese Annahme bricht zusammen, wenn das Einzige, was zwischen einem Agenten und einer sensiblen Aktion steht, die eigenen Anweisungen des Agenten sind. Schutzmaßnahmen auf Prompt-Ebene sind Text, den das Modell befolgen soll. Sie versagen unter feindlichem Input genau so, wie es das Red Team von DeepKeep gezeigt hat, und ein Auditor oder eine Aufsichtsbehörde, die fragt, was diesen Agenten von Aktion X abgehalten hat, wird „wir haben es ihm gesagt" nicht als Antwort akzeptieren, wenn der Agent unbeaufsichtigt in Produktion läuft.

Die Gefährdung ist noch ausgeprägter bei Agenten, die in einem Arbeitsablauf mehrere Systeme berühren, genau das Muster, das ThreatLocker ausdrücklich benennt. Ein Support-Agent, der ein Ticket lesen, eine Datenbank abfragen und eine E-Mail senden kann, hat drei getrennte Stellen, an denen eine Anweisung, die in von Angreifern kontrolliertem Input eingebettet ist (ein Ticket-Titel, ein Dokument, eine Webseite), die Kette entführen kann. Die externe Kontrolle muss zwischen Entscheidung und Aktion eingreifen, nicht nur am Eingang des Modells.

Was tatsächlich hilft

Der entscheidende Mechanismus ist eine Durchsetzung außerhalb der Denkschleife: eine Ebene, die prüft, was ein Agent berühren darf, unabhängig davon, was der Agent gerade zu tun glaubt, und die sich nicht durch einen geschickt formulierten Prompt aus ihrer Entscheidung herausreden lässt. ThreatLockers Ansatz setzt das mit Allowlisting und Kontrolle auf Anwendungsebene an der Ausführungsgrenze um. Millimans Empfehlung, geschichtete Prüfungen an Eingabe, Tool-Ausführung und Ausgabe, plus Protokollierung jedes Tool-Aufrufs, beschreibt von der sicherheitstechnischen Seite dieselbe Art von Verteidigung: davon ausgehen, dass das Urteil des Modells in einem bestimmten Anteil der Fälle falsch oder manipuliert sein wird, und die Kontrolle dort platzieren, wo dieses Versagen nicht hinreicht.

Der zweite Baustein ist ein Nachweis. Eine Kontrolle, die eine Aktion blockiert, ist nur dann auditierbar, wenn sowohl der Versuch als auch die Blockade protokolliert werden. Ohne das kann ein Sicherheitsteam zwar sagen, dass die Richtlinie existiert, aber nicht, was sie in der vergangenen Woche tatsächlich verhindert hat.

Wie AANCER das löst

AANCER setzt Agentengrenzen auf dieselbe Weise durch, außerhalb der eigenen Denklogik des Modells. Jeder Certified Agent läuft unter einem signierten Pass, ausgestellt von Ihrer eigenen, installationsspezifischen Zertifizierungsstelle, der benennt, welche Tools, Daten und Ausgaben er erreichen darf: ein Umfang, der vor dem Lauf des Agenten festgelegt wird, nicht mit ihm mitten im Gespräch verhandelt. Ein Widerruf greift in unter 30 Sekunden und hängt weder davon ab, dass der Agent mitspielt, noch davon, dass irgendetwas neu ausgerollt wird.

Jeder Tool-Aufruf und jeder Datenzugriff eines Agenten wird in ein manipulationssicheres Audit-Register geschrieben, an das nur angehängt werden kann, sodass ein Sicherheitsteam zeigen kann, was ein Agent tatsächlich getan hat, statt was seine Richtlinie vorgesehen hat. Bei einer folgenreichen Aktion sitzt ein menschliches Freigabetor zwischen der Entscheidung des Agenten und ihrer Ausführung, und diese Freigabe wird zusammen mit der Aktion protokolliert, die sie autorisiert hat.

Was Sie am Montag prüfen sollten

Listen Sie jeden Agenten auf, der derzeit in Ihrer Umgebung läuft, und fragen Sie für jeden einzelnen, ob das, was ihn von einer gefährlichen Aktion abhält, im eigenen Prompt des Agenten steckt oder außerhalb davon in Infrastruktur, die Sie kontrollieren. Lautet die Antwort „innerhalb", haben Sie eine Schutzmaßnahme, keine Kontrolle, und die Befunde von DeepKeep zeigen, wie schnell eine solche Schutzmaßnahme unter einem motivierten Angreifer nachgibt. Prüfen Sie anschließend, ob Sie ein Protokoll darüber haben, was jeder Agent in den vergangenen 30 Tagen tatsächlich getan hat, unabhängig davon, wofür er freigegeben war. Können Sie dieses Protokoll heute nicht vorlegen, ist das die Lücke, die Sie schließen müssen, bevor die nächste Prüfung danach fragt.

Sources - ThreatLocker adds external controls for AI agent access and execution, Help Net Security, 21 October 2026 - Securing AI agents: Assess technology vulnerabilities through red teaming, Milliman, 13 August 2026 - 2026 Future of Identity Report, C1, 10 March 2026

Verwandte Leitfäden

Compliance

Der Readiness-⁠Leitfaden zu Artikel 12 des EU AI Act

Was Aufzeichnungspflichten und menschliche Aufsicht ab August 2026 operativ tatsächlich verlangen — und welche Nachweise ein Prüfer von Ihnen einfordern wird.

9 Min. Lesezeit

Leitfaden lesen →

Governance

Der Einsatz von KI-⁠Agenten läuft ihrer Aufsicht davon

Eine Splunk-Studie mit 2.050 Befragten zeigt: Die meisten Teams sehen, dass ihre KI-Agenten schneller arbeiten, doch mehr als ein Drittel kann nicht sagen, wer für ihre Überwachung verantwortlich ist. Tempo ohne Verantwortung ist kein Ergebnis. Es ist ein Risiko, das auf seinen Vorfall wartet.

5 Min. Lesezeit

Zur Analyse →

Governance

Wenn der Agent vor Ihrer Tür nicht sagt, wer ihn schickt

Arkose Labs hat seinen Agent Trust Manager erweitert, um KI-Agenten-Traffic bei jedem Schritt der Customer Journey zu klassifizieren und zu steuern. Der Schritt reagiert auf ein Problem, das die meisten Unternehmen noch gar nicht gemessen haben: Agenten, die schlicht nicht sagen, was sie sind.

5 Min. Lesezeit

Zur Analyse →