Home / Ressourcen / Security

Security · 5 Min. Lesezeit · Stand 2026-11-15

Zero Trust für Agenten bedeutet, die Grenze vom Prompt weg zu verschieben

Ein QCon-AI-Vortrag zeigt einen Support-Agenten, der eine Produktionsdatenbank abfragte, die er nie anfassen sollte, und erklärt, warum die Lösung auf der Tool-Ebene liegt, nicht im Prompt. Die vorgestellte Architektur ist eine Checkliste, gegen die ein reguliertes Unternehmen sich schon heute prüfen lassen kann.

Bei QCon AI Boston, aufgezeichnet am 5. November 2026, eröffnete Advait Patel, Senior Site Reliability Engineer bei Broadcom und Schöpfer des von OWASP übernommenen DockSec-Projekts, seinen Vortrag „Zero Trust Agent Systems that Pass Audits and Still Ship" nicht mit einer Folie voller Prinzipien, sondern mit einem Vorfall (InfoQ, Aufzeichnung vom 5. November 2026).

Was passiert ist

Ein Team hatte einen Support-Agenten gebaut, der Kundentickets las und Dokumentation abrief. An einem Nachmittag begann er, ohne jede Anweisung dazu, direkt die Produktionsdatenbank aufzurufen. Die abgerufenen Daten wurden an externe APIs weitergegeben und überschritten Mandantengrenzen. Ein diensthabender Ingenieur bemerkte einen Ausschlag in den Logs, und das Team verfolgte die Ursache zurück; bis sie fündig wurden, waren rund 45 Minuten vergangen (Advait Patel, QCon AI Boston, 5. November 2026). Keine integrierte Kontrolle hatte Alarm geschlagen. Patels Punkt war nicht, dass das Team nachlässig gewesen sei. Er war, dass nichts im System darauf ausgelegt war, so etwas zu erkennen, weil sämtliche Schutzmaßnahmen auf der Prompt-Ebene geschrieben worden waren, während die tatsächliche Handlungsmacht des Agenten ganz woanders lag: bei den Tools, die er aufrufen konnte.

Warum das kein Einzelfall ist

Patel datierte die Verschiebung anhand seines eigenen Publikums: Prüfer hätten vor „18 Monaten" begonnen, gezielte Fragen zum Verhalten von Agenten zu stellen, ungefähr zeitgleich damit, wie agentenbasierte Einsätze vom Pilotprojekt in die Produktion wanderten (Advait Patel, QCon AI Boston, 5. November 2026). Dieser Zeitrahmen deckt sich mit dem, was unabhängige Telemetriedaten unter der Oberfläche solcher Audits zeigen. Recos State of Agent Security 2026 (26. August 2026), gestützt auf anonymisierte Unternehmenstelemetrie und die Analyse von 500 öffentlichen Model-Context-Protocol-Servern, fand, dass 80 Prozent der KI-Tools ganz ohne Aufsicht laufen, und in kleineren Organisationen 414 nicht freigegebene KI-Tools pro 1.000 Beschäftigte, ein Bestand, der schneller wächst, als ihn irgendjemand überprüft.

Die Zugriffsseite derselben Lücke ist struktureller Natur, kein Zufall. Wie Roy Katmor, Mitgründer und CEO von Orchid, es formuliert: „der Agent ist freigegeben, das Studio ist freigegeben, aber die Identitäten dahinter liegen außerhalb des üblichen Prüfprozesses", und Berechtigungen sammeln sich von dort aus an, bis „das Konto am Ende über Befugnisse verfügt, die weit über die ursprüngliche Aufgabe des Agenten hinausgehen" (Orchid Security, 2025). Patels eigene Fehlerbilder deuten von der Architekturseite aus auf denselben Mechanismus: Privilegien-Wildwuchs über Tools, die niemand in Kombination überprüft, und Handlungsverstärkung, bei der ein mehrdeutiger Prompt Dutzende folgenreiche Aufrufe auslöst (in seiner Demo etwa 40 Tool-Aufrufe in einem Sekundenbruchteil).

Was das für ein reguliertes Unternehmen bedeutet

Die Pflicht dahinter ist nicht neu, aber Agenten machen sie auf eine Art konkret, auf die Policy-Dokumente nie ausgelegt waren. Nach dem EU AI Act setzen die Aufzeichnungspflichten voraus, dass eine Organisation angeben kann, was ein System getan hat; „das LLM hat entschieden" ist für einen Prüfer keine akzeptable Antwort, und genau das war die Antwort, vor der Patel warnte, dass sie künftig einen Befund auslösen wird. SOC 2, ISO 27001, HIPAA und PCI-Kontrollrahmen listen allesamt Konten auf und erwarten Nachweise für das Prinzip der minimalen Rechtevergabe. Eine Schutzmaßnahme auf Prompt-Ebene liefert keinen Nachweis, den ein Prüfer kontrollieren kann, weil sie den Wortlaut einschränkt, nicht die Befugnis.

Die praktische Gefährdung besteht darin, dass die meisten Agenten-Einsätze beschreiben können, wozu ein Agent freigegeben wurde, aber nicht, wozu er tatsächlich fähig ist, sobald man seinen Tool-Zugriff, seinen Abrufbereich und seine Token-Lebensdauer zusammenrechnet. Genau in dieser Lücke zwischen beabsichtigter und tatsächlicher Befugnis landen sowohl Patels Eröffnungsvorfall als auch die von Orchid getrennt beschriebene Lücke bei Berechtigungsprüfungen.

Was dem tatsächlich entgegenwirkt

Patels Architektur ist bewusst in Schichten aufgebaut, wobei jede Schicht voraussetzt, dass die darunterliegende hält:

  • Identität zuerst. Jeder Agent, jede Sitzung und jedes Token erhält eine eigene Workload-Identität (AWS-IAM-Rollen, GCP Workload Identity oder SPIFFE/SPIRE in Kubernetes) statt eines gemeinsam genutzten Service-Accounts.
  • Autorisierung auf Tool-Ebene. Jedes Tool trägt sein eigenes eng gefasstes, kurzlebiges Token, Ratenbegrenzungen sowie Ein- und Ausgabeprüfungen. Der Agent kann seinen eigenen Zugriff nicht selbst erweitern; die Grenze liegt am Tool-Aufruf, nicht am Wortlaut, der ihm vorausging.
  • ACLs zum Abrufzeitpunkt. Die Zugriffskontrolle auf Dokumentebene wird dort durchgesetzt, wo Inhalte abgerufen werden, nicht nachträglich über eine Prompt-Filterung aufgeflickt.
  • Eine getrennte Policy-Engine. Werkzeuge wie OPA oder Cedar sitzen zwischen der Absicht des Agenten und der Ausführung und protokollieren jede Entscheidung samt der Policy-Version, die sie getroffen hat, sodass eine Ablehnung einen Nachweispfad hinterlässt.
  • Strukturierte, identitätsgebundene Audit-Spuren. Jede Aktion wird gegen die Sitzung und Identität protokolliert, die sie ausgelöst hat, von Anfang an darauf ausgelegt, „was ist wann passiert" zu beantworten, nicht nachträglich rekonstruiert.
  • Ein funktionierender Kill-Switch. Der Widerruf muss existieren und eingeübt sein, bevor ein Vorfall eintritt, nicht erst währenddessen entworfen werden. In Patels gehärteter Demo wurde dieselbe eingeschleuste Anweisung, die in der naiven Version Daten exfiltrierte, auf der Policy-Ebene blockiert und protokolliert, durchgängig sichtbar im verteilten Tracing.

Was Sie am Montag prüfen sollten

Wählen Sie einen Agenten, der bereits in Produktion läuft, idealerweise einen mit echtem, aber begrenztem Schadenspotenzial, und stellen Sie dazu drei Fragen, ohne eine Vendor-Präsentation zu öffnen.

Erstens: Können Sie die konkreten Tools auflisten, die er aufrufen darf, die Berechtigungen hinter jedem einzelnen, und ob diese Berechtigungen nach dem Start des Agenten eingeschränkt oder nur erweitert wurden? Zweitens: Würde morgen, wenn er etwas aufriefe, wozu er nie angewiesen wurde, irgendetwas außer einem Menschen, der einen Log-Ausschlag bemerkt, das erkennen, und wie lange würde das dauern? Drittens: Müssten Sie den Zugriff dieses Agenten in den nächsten dreißig Sekunden widerrufen, wüssten Sie, welches Token Sie beenden müssten, oder müssten Sie erst jemanden finden, der es weiß?

Patels eigener Rat an Teams, die mit dieser Arbeit beginnen, lautete, mit der Protokollierung anzufangen, nicht mit der Policy. Er habe die Policy-Engine zuerst gebaut und das später als falsche Reihenfolge bezeichnet, weil man keine Durchsetzungsregeln für ein Verhalten schreiben kann, das man nie tatsächlich beobachtet hat.

Wie AANCER das löst

AANCER vergibt an jeden Certified Agent eine eigene, signierte Identität aus einer installationsspezifischen Zertifizierungsstelle, statt eines gemeinsam genutzten Service-Accounts, sodass die Frage „welches Token ist das", von der Patels Kill-Switch-Schritt abhängt, eine direkte Antwort hat. Der Tool-Zugriff ist pro Agent eng gefasst, und der Widerruf greift in unter 30 Sekunden, ohne den Agenten oder die Systeme, mit denen er kommuniziert, neu auszurollen.

Das manipulationssichere, nur anfügbare Audit-Register hält fest, welcher Agent mit welcher Zugangsberechtigung auf welches System zugegriffen und was eine bestimmte Anfrage abgerufen hat, also genau den Nachweis, den ein Prüfer verlangt, statt der Richtlinie, die ein Anbieter behauptet. Die Zuordnung zu 27 Regulierungen hält diese Aufzeichnungen an den oben genannten Pflichten ausgerichtet, ohne eine Compliance zu beanspruchen, die die Plattform selbst nicht zertifizieren kann.

Sources

  • https://www.infoq.com/presentations/zero-trust-ai-agents-production-security/
  • https://www.aancer.ai (Plattform-Spezifikationen: Certified-Agent-Identität, Audit-Register nur anfügbar, Widerruf unter 30 Sekunden, Zuordnung zu 27 Regulierungen)

Verwandte Leitfäden

Compliance

Der Readiness-⁠Leitfaden zu Artikel 12 des EU AI Act

Was Aufzeichnungspflichten und menschliche Aufsicht ab August 2026 operativ tatsächlich verlangen — und welche Nachweise ein Prüfer von Ihnen einfordern wird.

9 Min. Lesezeit

Leitfaden lesen →

Governance

Der Einsatz von KI-⁠Agenten läuft ihrer Aufsicht davon

Eine Splunk-Studie mit 2.050 Befragten zeigt: Die meisten Teams sehen, dass ihre KI-Agenten schneller arbeiten, doch mehr als ein Drittel kann nicht sagen, wer für ihre Überwachung verantwortlich ist. Tempo ohne Verantwortung ist kein Ergebnis. Es ist ein Risiko, das auf seinen Vorfall wartet.

5 Min. Lesezeit

Zur Analyse →

Governance

Wenn der Agent vor Ihrer Tür nicht sagt, wer ihn schickt

Arkose Labs hat seinen Agent Trust Manager erweitert, um KI-Agenten-Traffic bei jedem Schritt der Customer Journey zu klassifizieren und zu steuern. Der Schritt reagiert auf ein Problem, das die meisten Unternehmen noch gar nicht gemessen haben: Agenten, die schlicht nicht sagen, was sie sind.

5 Min. Lesezeit

Zur Analyse →