Reicht eine Sicherheitsanweisung im Prompt?

Nein. Definiere erlaubte Aktionen und setze die Grenzen auch über Berechtigungen und Werkzeugzugriffe technisch um. Prüfe, ob nicht erlaubte Aktionen tatsächlich blockiert werden.

Muss jede Aktion eines KI-Agenten freigegeben werden?

Nicht pauschal. Legt anhand eures Anwendungsfalls fest, welche Auswirkungen eine menschliche Prüfung vor der Ausführung erfordern. Die prüfende Person muss die vorgesehenen Inhalte, Empfänger oder Änderungen nachvollziehen können.

Brauchen wir ein separates Risikoregister für KI-Agenten?

Ihr könnt die Risiken in eure bestehende ISMS-Arbeit aufnehmen. Verbindet den konkreten Einsatz mit Prozessen, Daten, Anbietern und Verantwortlichen; verfolgt Maßnahmen und Nachweise gemeinsam.

Setzt Kopexa die technischen Zugriffsgrenzen des Agenten durch?

Die Zugriffsgrenzen werden im Agentensystem und den angebundenen Diensten technisch umgesetzt. Kopexa unterstützt die GRC-Arbeit dazu: Risiken bewerten, Verantwortliche zuordnen, Maßnahmen verfolgen und Nachweise prüfen.

KI-Agenten im Unternehmen: Wer darf handeln – und wer trägt die Verantwortung?

Dein Team möchte einen KI-Agenten einsetzen, der Lieferantenunterlagen liest und Rückfragen vorbereitet. Das klingt nach einer hilfreichen Entlastung. Sobald der Agent aber selbst E-Mails verschickt, Stammdaten ändert oder Aufgaben abschließt, entsteht eine andere Frage: Wer legt fest, welche Aktionen erlaubt sind, und wer prüft das Ergebnis?

TL;DR: Können wir KI-Agenten sicher einsetzen?

Den konkreten Ablauf prüfen: Welche Daten liest der Agent, welche Werkzeuge nutzt er und was kann er verändern?
Berechtigungen begrenzen: Gib ihm die Zugriffe, die sein Auftrag benötigt. Eine Anweisung im Prompt ersetzt keine technische Zugriffskontrolle.
Folgenreiche Aktionen freigeben: Definiere, wann ein Mensch prüfen muss – und welche Informationen er dafür sieht.
Verantwortung benennen: Fachbereich, IT und Informationssicherheit brauchen klare Aufgaben für Einführung und Betrieb.
Änderungen erneut bewerten: Neue Datenquellen oder Schreibrechte verändern den geprüften Einsatz.

Stand: 13. Oktober 2026. Die aktuelle Veranstaltung ist der Anlass; Checkliste und Unternehmensbeispiel sind unsere redaktionellen Empfehlungen. Das Titelbild ist eine KI-generierte Illustration.

Warum das Thema gerade aktuell ist

Das Programm der Singapore International Cyber Week für den 13. Oktober widmet eine Sitzung dem Einsatz von Agentic AI in Cyber-Operationen. Das ist ein bestätigter Programmpunkt, kein Beleg für Ergebnisse oder Beschlüsse dieser Sitzung.

In ihrer Rede vom 12. Oktober betont Ministerin Josephine Teo menschliche Aufsicht und fortlaufende Überwachung beim Einsatz autonomer KI. Unsere Einordnung für Unternehmen: Einmalige Freigaben reichen nicht, wenn sich Fähigkeiten und Anbindungen später ändern.

Was einen Agenten von einem reinen Textassistenten unterscheidet

Ein KI-Agent kann ein Ziel in mehrere Schritte übersetzen und dafür angebundene Werkzeuge nutzen. Für eure Risikobetrachtung ist weniger der Produktname entscheidend als der tatsächliche Handlungsspielraum.

Ein Assistent, der eine Antwort entwirft, hat andere Auswirkungen als eine Anbindung, die diese Antwort direkt an Kunden versendet. Auch ein rein lesender Zugriff kann sensibel sein: Welche Dokumente darf das System einsehen und wohin gelangen seine Ausgaben?

Die CSA veröffentlicht dazu ein Addendum zu ihren KI-Sicherheitsleitlinien. Das verlinkte PDF weist Version 1.0 vom 17. Juni 2026 aus und beschreibt sich als nicht verpflichtende Orientierung. Es ist weder eine heute neu eingeführte Regel noch eine deutsche gesetzliche Pflicht.

Ein fiktiver Fall: Lieferantenunterlagen schneller prüfen

Ein Einkaufsteam möchte einen Agenten einsetzen, der Sicherheitsunterlagen eines Dienstleisters zusammenfasst, fehlende Angaben erkennt und Rückfragen vorbereitet. Der gewünschte Nutzen ist klar: weniger Suchen und eine schnellere Vorbereitung der Bewertung.

Als zunächst begrenzter Einsatz könnte das Team vereinbaren: Der Agent liest nur die freigegebenen Unterlagen eines bestimmten Lieferanten. Er erstellt einen Entwurf mit Quellenverweisen. Eine verantwortliche Person prüft die Aussagen und entscheidet über Rückfragen und Bewertung. Schreibzugriff auf die Lieferantenbewertung und automatischer Versand bleiben für diesen Ablauf gesperrt.

Ein konkretes Risikoszenario lautet: Eine manipulierte Unterlage veranlasst den Agenten, vertrauliche Informationen aus einer weiteren Datenquelle in eine externe Rückfrage aufzunehmen. Die Bewertung hängt von den tatsächlichen Zugängen, Daten und Kontrollmöglichkeiten ab. „KI könnte Fehler machen“ wäre dafür zu ungenau.

Sechs Entscheidungen vor dem produktiven Einsatz

Unsere Arbeitsvorlage hilft euch, die beteiligten Teams an einen Tisch zu bringen. Sie ist kein Zertifizierungsschema und keine wörtliche Behörden-Checkliste.

Entscheidung	Frage an euer Team	Überprüfbares Ergebnis
Auftrag	Welches Problem soll der Agent lösen?	Beschriebener Prozess und erlaubte Aktionen
Daten	Welche Informationen darf er lesen und ausgeben?	Freigegebene Quellen, Empfänger und Grenzen
Zugriffe	Welche Konten, Werkzeuge und Rechte braucht er?	Dokumentierter, technisch begrenzter Zugang
Freigaben	Welche Aktionen müssen vor Ausführung geprüft werden?	Festgelegte Prüfschritte mit klaren Zuständigkeiten
Betrieb	Wer erkennt Fehler und kann den Ablauf stoppen?	Ansprechpartner, Protokollierung und Stoppverfahren
Änderungen	Wann prüfen wir den Einsatz erneut?	Prüftermin und Auslöser, etwa neue Schreibrechte

Eine Freigabe muss eine echte Entscheidung ermöglichen

Eine Schaltfläche „Bestätigen“ genügt nicht, wenn die prüfende Person die Folgen nicht erkennen kann. In unserem Beispiel sollte sie den Empfänger, die vorgesehenen Inhalte und die verwendeten Quellen sehen. Für andere Einsätze können Änderungen an Datensätzen oder ein Vergleich zum bisherigen Zustand wichtig sein.

Unsere Empfehlung: Testet auch Ablehnung und Abbruch. Wird eine Aktion tatsächlich verhindert, wenn die Freigabe fehlt? Kann der Agent den gleichen Effekt über ein anderes Werkzeug erreichen? Wer darf die Zugriffe entziehen? Diese Fragen betreffen die technische Umsetzung im jeweiligen Agentensystem.

Die Risiken gehören in die bestehende Arbeit

Du brauchst für jeden neuen Agenten keine losgelöste Liste. Ordne den Einsatz einem Geschäftsprozess, den betroffenen Daten und den beteiligten Anbietern zu. Dokumentiere das Risikoszenario und vereinbare Maßnahmen mit Verantwortlichem, Termin und erwarteter Evidenz.

Ein fiktiver Arbeitsauftrag könnte lauten: „Externen Versand ohne geprüfte Freigabe technisch verhindern.“ Als Nachweis dienen dokumentierte Konfiguration und ein Test, der erlaubte sowie blockierte Aktionen überprüft. Eine verantwortliche Person bewertet das Ergebnis; neue Werkzeuge oder Berechtigungen lösen eine erneute Prüfung aus.

In Kopexa kannst du diese GRC-Arbeit über Risikomanagement, Aufgaben und Lieferantenbewertungen zusammenführen. Prozesse geben dem Einsatz seinen geschäftlichen Kontext. Die technische Durchsetzung der Agentenrechte erfolgt in den angebundenen Systemen; Kopexa hilft euch, Zuständigkeiten, Umsetzung und Nachweise zu steuern.

Wie passt das zu ISO/IEC 27090?

Unser Artikel zu ISO/IEC 27090 und KI-Sicherheit im ISMS behandelt die Einordnung von KI-Sicherheitsrisiken und den dort geprüften Normstand. Dieser Beitrag ergänzt die operative Frage: Wie wird aus einem erkannten Risiko ein begrenzter, überprüfbarer Agenteneinsatz?

Für einen sinnvollen Start genügt ein konkreter Anwendungsfall. Geht die sechs Entscheidungen gemeinsam durch, klärt offene Punkte und prüft den Ablauf vor der Einführung. Wenn ihr diese Arbeit bisher über mehrere Listen verteilt, zeigt dir die ISMS-Software von Kopexa, wie Risiken, Verantwortlichkeiten und Nachweise zusammengeführt werden. In einer Demo könnt ihr euren geplanten Ablauf als Ausgangspunkt nutzen.

Häufige Fragen

Reicht eine Sicherheitsanweisung im Prompt?: Nein. Definiere erlaubte Aktionen und setze die Grenzen auch über Berechtigungen und Werkzeugzugriffe technisch um. Prüfe, ob nicht erlaubte Aktionen tatsächlich blockiert werden.
Muss jede Aktion eines KI-Agenten freigegeben werden?: Nicht pauschal. Legt anhand eures Anwendungsfalls fest, welche Auswirkungen eine menschliche Prüfung vor der Ausführung erfordern. Die prüfende Person muss die vorgesehenen Inhalte, Empfänger oder Änderungen nachvollziehen können.
Brauchen wir ein separates Risikoregister für KI-Agenten?: Ihr könnt die Risiken in eure bestehende ISMS-Arbeit aufnehmen. Verbindet den konkreten Einsatz mit Prozessen, Daten, Anbietern und Verantwortlichen; verfolgt Maßnahmen und Nachweise gemeinsam.
Setzt Kopexa die technischen Zugriffsgrenzen des Agenten durch?: Die Zugriffsgrenzen werden im Agentensystem und den angebundenen Diensten technisch umgesetzt. Kopexa unterstützt die GRC-Arbeit dazu: Risiken bewerten, Verantwortliche zuordnen, Maßnahmen verfolgen und Nachweise prüfen.