KI-Agenten absichern: Agentic AI nach ISO 42001, ISO 27001 und EU AI Act
Agentic AI, KI-Agenten, die selbst planen und handeln, braucht eigene Sicherheits- und Governance-Leitplanken. Wie Sie Identität, Eingaben, Aktionen und Aufsicht von KI-Agenten absichern und sauber auf ISO/IEC 42001, ISO/IEC 27001 und den EU AI Act mappen.
Kurz gesagt
KI-Agenten (Agentic AI) planen Schritte und führen Aktionen selbst aus, das verlagert das Risiko von der reinen Textausgabe auf echte Handlungen wie Bestellungen, Mails oder Systemzugriffe. Absichern heißt: starke Agenten-Identität mit minimalen Rechten, geprüfte Ein- und Ausgaben, klare Handlungs-Leitplanken mit menschlicher Freigabe und lückenlose Überwachung. Diese Bausteine lassen sich direkt auf ISO/IEC 42001, ISO/IEC 27001 und die Aufsichtspflichten des EU AI Act abbilden.
Read in English: English version
Klassische KI gibt einen Text, eine Empfehlung oder eine Vorhersage aus, und ein Mensch entscheidet, was damit passiert. Ein KI-Agent (Agentic AI) geht einen Schritt weiter: Er plant selbst Teilschritte, ruft Werkzeuge auf, schreibt in Systeme, löst Bestellungen aus oder versendet Nachrichten. Damit verschiebt sich das Risiko von der reinen Ausgabe auf reale Handlungen. Genau das braucht eigene Leitplanken.
Was Agentic AI anders macht
Ein Agent ist autonom genug, um eine Aufgabe in Schritte zu zerlegen und diese mit Werkzeugen (APIs, Datenbanken, E-Mail, Aktoren) selbst auszuführen. Das ist mächtig. Aber jeder Schritt ist eine potenzielle Aktion mit Wirkung in der echten Welt. Ein manipuliertes Eingabe-Dokument, eine unklare Anweisung oder ein zu weit gefasstes Zugriffsrecht kann dann nicht nur eine falsche Antwort, sondern eine falsche Handlung auslösen.
Sechs Bausteine, um KI-Agenten abzusichern
Wer Agenten produktiv einsetzt, sollte sechs Bereiche bewusst absichern und kann sie direkt an bestehende Normen und den EU AI Act andocken, statt etwas völlig Neues zu erfinden:
| Baustein | Hauptrisiko | Andockpunkt (Norm / Recht) |
|---|---|---|
| Agenten-Identität & Zugriff | Übermächtiger Agent, gestohlene Zugangsdaten | ISO/IEC 27001 Annex A (Zugriffssteuerung, Least Privilege) |
| Eingabe- & Modell-Sicherheit | Prompt Injection, Data Poisoning | ISO/IEC 42001 Betrieb; ISO/IEC 27001 (Integrität) |
| Aktions-Validierung & Leitplanken | Unerwünschte oder irreversible Aktionen | Definierte Grenzen je Aktion, menschliche Freigabe |
| Überwachung & Bedrohungserkennung | Unbemerkte Fehlhandlungen, Drift | ISO/IEC 42001 Kap. 9 (Überwachung), Audit-Trail |
| Governance, Risiko & Compliance | Kein Verantwortlicher, kein Nachweis | ISO/IEC 42001 Risikomanagement & AIIA |
| Menschliche Aufsicht | Mensch kann nicht eingreifen | EU AI Act Art. 14 (menschliche Aufsicht) |
Das Herzstück: menschliche Aufsicht und Handlungs-Leitplanken
Der wichtigste Hebel ist die Trennung zwischen „darf der Agent das entscheiden" und „darf der Agent das ausführen". Niedrigrisiko-Aktionen kann ein Agent autonom erledigen. Alles mit Außenwirkung oder Schadenspotenzial (Zahlungen, Vertragsmails, Löschungen, Produktionsbefehle) braucht eine definierte Leitplanke: eine menschliche Freigabe, ein Limit oder eine Sandbox. Der EU AI Act verlangt für Hochrisiko-KI ohnehin wirksame menschliche Aufsicht (Art. 14). Für Agenten ist das keine Pflichtübung, sondern schlicht gute Praxis.
Wo das in ISO 42001 andockt
ISO/IEC 42001 verlangt, dass Sie Ihre KI-Systeme kennen, ihre Auswirkungen bewerten (AI System Impact Assessment), Risiken behandeln und den Betrieb überwachen. Ein KI-Agent ist aus dieser Sicht ein KI-System mit erhöhtem Wirkungsgrad. Die gleichen Mechanismen greifen, nur mit mehr Aufmerksamkeit für die Aktionsseite. Wer ISO 42001 sauber aufgesetzt hat, hat den Rahmen für Agentic AI bereits weitgehend stehen; es kommen vor allem Handlungs-Leitplanken und engere Zugriffsrechte hinzu.
Kurz gesagt: Agentic AI erhöht Nutzen und Risiko gleichzeitig. Mit klarer Identität, minimalen Rechten, geprüften Ein- und Ausgaben, Handlungs-Leitplanken, Überwachung und menschlicher Aufsicht bleibt der Agent ein Werkzeug und kein unkontrollierter Akteur. Wie Sie das in Ihrem Haus konkret aufsetzen, klären wir im kostenlosen Erstgespräch.
Häufige Fragen
Was ist Agentic AI?+
Agentic AI bezeichnet KI-Systeme (Agenten), die eine Aufgabe selbst in Schritte zerlegen und diese mit Werkzeugen, APIs, Datenbanken, E-Mail, Systemzugriffen, eigenständig ausführen. Anders als klassische KI geben sie nicht nur eine Ausgabe aus, sondern handeln, was das Risiko von der Antwort auf reale Aktionen verlagert.
Wie sichert man KI-Agenten ab?+
Über sechs Bausteine: starke Agenten-Identität mit minimalen Rechten, geprüfte Ein- und Ausgaben (Schutz vor Prompt Injection), Handlungs-Leitplanken mit menschlicher Freigabe für riskante Aktionen, lückenlose Überwachung, klare Governance mit Verantwortlichen sowie wirksame menschliche Aufsicht.
Was sagt der EU AI Act zu KI-Agenten?+
Der EU AI Act regelt KI risikobasiert. Für Hochrisiko-Anwendungen verlangt Art. 14 wirksame menschliche Aufsicht, also die Möglichkeit, einzugreifen und Aktionen zu stoppen. Für autonom handelnde Agenten ist genau diese Aufsicht zentral, ergänzt um Transparenz- und Dokumentationspflichten.
Autor & fachliche Prüfung: Lars Zimmermann · ISO/IEC 42001 Senior Lead Auditor & ISO/IEC 27001 Lead Auditor (PECB)
Auditor mit Stallgeruch, Geschäftsführer eines produzierenden Mittelständlers, der KI-Managementsysteme und Informationssicherheit prüft und aufbaut. Mehr über mich.
Stand: 13. Juni 2026. Inhalt nach bestem Wissen recherchiert und fachlich geprüft; ersetzt keine Rechtsberatung im Einzelfall.
Quellen & weiterführend
Konkrete Fragen zu Ihrem Fall?
Im kostenlosen 15-Minuten-Erstgespräch ordnen wir Ihren Stand zu ISO 42001, ISO 27001 und dem EU AI Act ein, ehrlich und ohne Verkaufsdruck.