18.11.2026
KI-Agenten im Unternehmen
Wer darf handeln – und wer behält die Kontrolle?
Für Unternehmen liegt darin ein praktischer Nutzen: Ein Agent kann etwa eingehende Anfragen prüfen, passende Daten abrufen und einen Antwortentwurf vorbereiten. Sobald er Datensätze verändert, Nachrichten versendet oder Berechtigungen nutzt, wird aus einer hilfreichen Auskunft jedoch ein Vorgang mit Folgen für Geschäftsprozesse und IT-Sicherheit. Ein sicherer Einstieg beginnt deshalb mit einer einfachen Frage: Welche Aktionen darf der Agent selbst ausführen, und für welche braucht er eine Freigabe? Die Antwort muss für jeden Anwendungsfall feststehen, bevor der Agent produktiv arbeitet.
Was unterscheidet einen KI-Agenten von einem Chatbot?
Ein Chatbot beantwortet in der Regel eine Eingabe. Ein KI-Agent kann darüber hinaus ein Ziel in Teilschritte zerlegen, Werkzeuge aufrufen und Ergebnisse für den nächsten Schritt verwenden. Ob er tatsächlich autonom handelt, hängt von seiner technischen Anbindung und den erteilten Rechten ab.
Ein Beispiel: Für die Bearbeitung einer Lieferantenanfrage könnte ein Agent Dokumente durchsuchen, Daten aus einem Einkaufssystem abrufen und eine Antwort formulieren. Das lässt sich zunächst mit Leserechten und menschlicher Freigabe erproben. Soll derselbe Agent später Stammdaten ändern oder eine Bestellung auslösen, braucht er andere Berechtigungen, Prüfungen und Abbruchmöglichkeiten.
Wie die Market-Insights-Studie IT- & Cloud-Security 2027 von CIO und COMPUTERWOCHE zeigt, setzen rund 29 Prozent der Befragten in Unternehmen bereits KI-Agenten ein; rund 31 Prozent planen deren Einsatz. Gleichzeitig befürchten 54 Prozent Datenlecks durch Agenten und rund 36 Prozent einen Kontrollverlust durch eigenständiges Handeln.
Besonders aufschlussreich ist die Lücke bei der Nachvollziehbarkeit: Laut Studie haben lediglich 34 Prozent klare Richtlinien für den Einsatz von KI-Agenten definiert und nur 35 Prozent lassen Agenten vor der Nutzung durch das Security-Team prüfen. Und gerade einmal 29 Prozent können jederzeit nachvollziehen, welche Aktionen ihre Agenten durchführen. Die Zahlen legen eine konkrete Priorität nahe: Unternehmen brauchen neben Regeln auch technisch überprüfbare Aufzeichnungen.
Wo entstehen die Sicherheitsrisiken?
Das Risiko ergibt sich aus dem Zusammenspiel von Eingaben, Werkzeugen und Rechten. Ein Agent kann Informationen verarbeiten, die ein Unternehmen selbst nicht kontrolliert: etwa Webseiten, E-Mails oder Dokumente Dritter. Enthalten diese eine versteckte Handlungsanweisung, kann der Agent sie mit seiner eigentlichen Aufgabe verwechseln. Dieses Szenario nennt sich Prompt Injection.
Die Folgen hängen von den verfügbaren Werkzeugen ab. Ein Agent mit reinem Lesezugriff kann weniger Schäden verursachen als einer, der Dateien überschreiben, Daten exportieren oder Befehle ausführen darf. OWASP führt Risiken autonomer und agentischer Anwendungen in einem eigenen Sicherheitsrahmen auf. Auch das Generative-AI-Profil des US-amerikanischen NIST behandelt die Steuerung und Überwachung solcher Systeme als Teil des Risikomanagements.
Für die Praxis heißt das: Eine Prüfung des Sprachmodells allein reicht nicht aus. Unternehmen müssen ebenso die angebundenen Systeme, Identitäten, Datenflüsse und ausführbaren Aktionen betrachten.
Wie gelingt ein kontrollierter Einstieg?
1. Einen begrenzten Anwendungsfall auswählen
Geeignet ist ein Prozess mit klarem Zweck und überprüfbarem Ergebnis. Dokumentenrecherche oder die Vorbereitung eines Entwurfs lassen sich leichter eingrenzen als autonome Änderungen an produktiven Systemen.
2. Agenten und Werkzeuge erfassen
Halten Sie fest, wer den Agenten verantwortet, welche Modelle und Erweiterungen er verwendet, auf welche Daten er zugreift und welche Systeme er kontaktieren kann. Eine Freigabe gilt ausschließlich für diese konkrete Konfiguration; neue Werkzeuge oder Rechte erfordern eine erneute Prüfung.
3. Rechte pro Aufgabe vergeben
Verwenden Sie für Agenten eigene Identitäten und möglichst enge Berechtigungen. Lese-, Schreib- und Administrationsrechte sollten getrennt sein. Zugangsdaten gehören in eine kontrollierte Verwaltung und dürfen nicht frei in Prompts oder Dokumenten stehen.
4. Kritische Aktionen freigeben lassen
Definieren Sie, bei welchen Schritten ein Mensch entscheiden muss – beispielsweise vor dem Versand externer Nachrichten, einem Datenexport oder Änderungen an Berechtigungen. Die Freigabe sollte die konkrete Aktion und ihre Auswirkungen zeigen, nicht lediglich einen allgemeinen Dialog bestätigen.
5. Aktionen protokollieren und Abweichungen prüfen
Nachvollziehbar sein sollten mindestens die Identität des Agenten, der Werkzeugaufruf, das betroffene System, Zeitpunkt, Ergebnis und erteilte Freigabe. Protokolle müssen ihrerseits vor unbefugtem Zugriff geschützt werden. Legen Sie zudem fest, wer bei auffälligen Aktionen eingreift und wie sich Zugriffe kurzfristig sperren lassen.
6. Vor dem breiten Einsatz testen
Prüfen Sie neben normalen Aufgaben auch manipulierte Dokumente, unerwartete Werkzeugantworten, fehlende Berechtigungen und unterbrochene Abläufe. So zeigt sich, ob ein Agent innerhalb seiner Grenzen bleibt und Fehler für Verantwortliche sichtbar werden.
Was bedeutet das für Security Operations?
KI-Agenten sollten in der Sicherheitsüberwachung als eigenständige technische Identitäten erkennbar sein. Dann können ungewöhnliche Zugriffe, Datenbewegungen oder Werkzeugaufrufe einem Agenten und seinem Auftrag zugeordnet werden. Welche Signale ein Security Operations Center tatsächlich auswerten kann, hängt allerdings von den angebundenen Systemen und verfügbaren Protokollen ab. Ein SOC ersetzt weder die Vergabe enger Rechte noch die Freigabe kritischer Aktionen.
Zur Studie „IT- & Cloud-Security 2027“ von CIO und COMPUTERWOCHE: Die Magazine befragten vom 9. bis 16. Juli 2026 insgesamt 307 IT- und Unternehmensverantwortliche in der DACH-Region online. Befragt wurden Verantwortliche aus Unternehmen, die Cloud-Services nutzen oder deren Nutzung planen. Die Ergebnisse beruhen auf Selbstauskünften.