Forrester beziffert diesen Anteil auf 15 %. Das ist der Anteil der KI-Projekte in Unternehmen, die erfolgreich vom Pilotprojekt in die Produktionsphase übergehen . Die übrigen 85 % bleiben irgendwo zwischen einer vielversprechenden Demo und einer Lösung stecken, von der echte Nutzer in großem Maßstab tatsächlich profitieren.
Wenn Teams die Ursachen analysieren, liegt die Antwort selten beim Modell. Die Modelle sind schon seit einiger Zeit leistungsfähig. Was versagt, ist die Infrastruktur um sie herum, insbesondere die Ebene der Identitätsverwaltung, Autorisierung und Governance, die darüber entscheidet, ob ein Agent sicher in realen Unternehmenssystemen agieren kann.
In diesem Beitrag wird dargelegt, welche Anforderungen diese Infrastruktur stellt und was nötig ist, um sie korrekt aufzubauen.
Die Identität muss mit der Anfrage mitgesendet werden
Derzeit setzen Unternehmensteams KI-Agenten am häufigsten über Dienstkonten mit weitreichenden Berechtigungen ein. Der Agent authentifiziert sich einmalig und agiert dann eigenständig. Im Prüfprotokoll wird zwar festgehalten, dass der Agent eine Aktion ausgeführt hat, jedoch nicht, wer diese angefordert hat, ob die betreffende Person zur Anforderung berechtigt war oder ob die Aktion in den Rahmen der Befugnisse fiel, die der auslösende Benutzer hätte genehmigen dürfen.
Diese Lücke spielt eine Rolle, sobald ein Compliance-Team die Frage stellt, die jeder Wirtschaftsprüfer stellen wird: Wer hat diese Maßnahme genehmigt?
Die Lösung, die diese Lücke schließt, besteht darin, die Identität als eine Eigenschaft auf Anfrageebene und nicht auf Sitzungsebene zu behandeln. Der Nutzer, der eine Aktion auslöst, benötigt sein Identitäts-Token, damit dieses zusammen mit der Anfrage jeden Schritt in der Kette durchläuft – zum Agenten, zu den vom Agenten aufgerufenen Tools und zu den Datensystemen, auf die die Tools zugreifen. Auf jeder Ebene erkennt das System, das die Zugriffsrichtlinie durchsetzt, die ursprüngliche Identität des Nutzers.
Das bedeutet, dass die Zugriffsrechte eines Junior-Analysten auch dann weiterhin die eines Junior-Analysten bleiben, wenn ein KI-Agent die Arbeit in seinem Namen ausführt. Der Zugriffsumfang eines Auftragnehmers erweitert sich nicht, nur weil ein Agent den Arbeitsablauf steuert. Der für die Compliance erforderliche Prüfpfad spiegelt wider, was tatsächlich geschehen ist.
Die Richtlinie muss den Kontext zur Laufzeit bewerten
Berechtigungstabellen sind eine unverzichtbare Infrastruktur für die KI-Governance. Sie sind zudem ein Ausgangspunkt, aber keine vollständige Lösung.
Eine Berechtigungstabelle gibt Auskunft darüber, ob ein Benutzer Zugriff auf eine Ressource hat. Sie beantwortet die Frage auf der Ebene der Rolle oder der Sitzung. Was sie jedoch nicht beantworten kann, sind die kontextbezogenen Fragen, die agentische Systeme ständig aufwerfen:
- Entspricht diese Anfrage dem üblichen Verhalten des Benutzers?
- Steht die Menge der abgerufenen Daten in einem angemessenen Verhältnis zur angegebenen Aufgabe?
- Findet diese Maßnahme im erwarteten operativen Kontext statt?
Dies sind Fragen, die zur Laufzeit auftreten. Sie erfordern eine Richtlinie, die den Kontext bei Eingang einer Anfrage auswerten kann.
Eine effektive Governance-Ebene wirkt gleichzeitig auf zwei Ebenen:
- Der erste Punkt betrifft die Berechtigung: Hat dieser Benutzer die Berechtigung, dieses Tool für dieses System auszuführen?
- Der zweite Aspekt ist der Kontext: Entspricht die aktuelle Anfrage – unter Berücksichtigung aller bekannten Informationen über den Benutzer, den Agenten, den Zeitpunkt und die betroffenen Daten – der geltenden Laufzeitrichtlinie?
Beide Bedingungen müssen erfüllt sein, bevor ein Tool ausgeführt wird. Sobald diese Laufzeitebene eingerichtet ist, können KI-Agenten in der Produktion wirklich komplexe, mehrstufige Arbeitsabläufe bewältigen, und Sicherheitsteams verfügen über die nötige Transparenz, um diese Bereitstellungen abzusichern.
Was MCP ermöglicht
Das Model Context Protocol (MCP) entwickelt sich zur Standardschnittstelle zwischen großen Sprachmodellen (LLMs) und den Tools, die diese aufrufen können. Es wurde von Anthropic eingeführt, und große Anbieter von Unternehmenssoftware setzen es mittlerweile ein, da es ein echtes Problem löst.
Vor der Einführung von MCP erforderte jede Tool-Integration eine individuelle Anbindung zwischen dem Modell und dem System. MCP standardisiert diese Schnittstelle. Es bietet Agenten eine einheitliche Möglichkeit, Tools zu erkennen und aufzurufen, und es bietet Tools eine einheitliche Möglichkeit, Anfragen zu empfangen und darauf zu reagieren.
Die Autorisierung ist das, was Organisationen zusätzlich einbauen. Die Architektur, die dies ermöglicht, befindet sich zwischen dem LLM und den Tools, die es aufrufen kann. Wenn ein Agent ein Tool auswählt und eine Anfrage sendet, wertet die Autorisierungsschicht vor der Ausführung den gesamten Kontext aus: Benutzeridentität, Berechtigungen, Laufzeitrichtlinien und die Provenienzkette, aus der hervorgeht, welcher Agent handelt und in wessen Auftrag.
Erst wenn all das abgeschlossen ist, wird das Tool ausgeführt, und das Ergebnis wird auf jeder Ebene mit dem vollständigen Kontext protokolliert.
Der dadurch erstellte Prüfpfad ist genau die Art von Informationen, die Compliance-Teams tatsächlich nutzen können: „Dieser Benutzer mit diesen Berechtigungen hat diesen Agenten autorisiert, diese Aktion zu diesem Zeitpunkt auszuführen, und die geltende Richtlinie wurde wie folgt bewertet.“
Governance ist die Grundlage für KI in der Produktion
Unternehmen, die die Governance-Ebene als grundlegende Infrastruktur und nicht als reine Compliance-Verpflichtung betrachten, sind es, die die Lücke zwischen einer vielversprechenden Demo und einer Lösung schließen, die echten Mehrwert in großem Maßstab bietet.
Agenten, die ohne eine ordnungsgemäße Identitäts- und Autorisierungsinfrastruktur arbeiten, sind Agenten, denen Unternehmen keine verantwortungsvollen Aufgaben anvertrauen können. Agenten, denen keine verantwortungsvollen Aufgaben anvertraut werden können, verbleiben auf unbestimmte Zeit in der Demo-Umgebung. Dort enden 85 % der KI-Projekte in Unternehmen.
Um die restlichen 15 % zu erreichen, muss zunächst die Ebene für Identität, Autorisierung und Laufzeit-Governance aufgebaut werden. Erst dann können die Agenten die Aufgaben übernehmen, für die sie konzipiert wurden.
Erfahren Sie in unserer dreiteiligen Blogreihe mehr über die Steuerung von KI-Agenten im Unternehmen:
- Ihr Makler hat zu viele Zugriffsrechte (und Sie wissen es wahrscheinlich gar nicht)
- Das Identitätsproblem im Kern der KI in Unternehmen
- Die Steuerungsebene, die Ihren KI-Agenten fehlt
Oder sehen Sie sich unser aktuelles Webinar auf Abruf an:„Steuerung von KI-Agenten: Sicherer Zugriff, Identitätsmanagement und Kontrolle auf Unternehmensebene“.
