Zum Inhalt springen
Alle Beiträge
Audit-Praxis 8 Min. Lesezeit· von Lars Zimmermann

Ein Sicherheitscheck ist kein Prompt: KI als Prüfwerkzeug

Ein Sprachmodell prüft Ihre Website auf Lücken und ersetzt den Pentester? Drei Gründe, warum das nicht trägt, und was ein Prüfwerkzeug können muss.

Kurz gesagt

Ein Sprachmodell kann beim Sicherheitscheck helfen, es ersetzt aber weder ein festes Prüfskript noch einen Penetrationstest. Ein Prüfwerkzeug muss bei gleichem Stand zweimal dasselbe Ergebnis liefern, seine Grenze muss in den Rechten liegen statt im Auftragstext, und ein Blick von außen sieht nur, was außen liegt. Die teuersten Lücken sitzen innen.

In einer Vorführung, die gerade die Runde macht, prüft ein Sprachmodell eine Website auf Sicherheitslücken. Adresse eingeben, kurz warten, Ampel ablesen. Am Ende fällt sinngemäß der Satz, einen Pentester brauche man jetzt nicht mehr. Ich habe mir den Aufbau angesehen. Das Modell läuft bei einem Drittanbieter. Ihm wurden die Verweigerungen abtrainiert, die Sicherheitsfragen sonst abblocken. Und die einzige Grenze ist ein Satz im Auftrag: nur lesen, keine Angriffe ausführen.

Als Auditor stelle ich bei jedem Prüfwerkzeug drei Fragen. Liefert es zweimal dasselbe? Was darf es technisch? Und was kann es von seinem Standort aus überhaupt sehen? An allen drei Fragen scheitert der Aufbau. Das heißt nicht, dass ein Sprachmodell bei der Sicherheit nichts zu suchen hat. Es heißt, dass es an einer anderen Stelle steht, als die Vorführung behauptet.

Ein Prüfwerkzeug muss zweimal dasselbe sagen

Eine Schieblehre, die morgens 20,02 und nachmittags 20,11 anzeigt, fliegt aus der Werkstatt. Niemand diskutiert darüber. Bei Sicherheitsprüfungen gilt derselbe Maßstab, er wird nur seltener ausgesprochen: Ein Befund zählt, wenn ihn ein zweiter Lauf bestätigt.

Ein großer Teil dessen, was die Vorführung zeigt, ist reine Messung. Sind die Sicherheits-Header gesetzt? Welche TLS-Versionen nimmt der Server an? Tragen die Cookies die richtigen Attribute? Liegt eine Sicherungsdatei offen im Netz? Das sind Ja-Nein-Fragen. Ein festes Skript beantwortet sie in Sekunden und bei jedem Lauf gleich. Zwei kostenlose Werkzeuge dafür kennt jeder, der Websites betreibt: das HTTP Observatory von Mozilla für die Header und den SSL Server Test von Qualys für die Verschlüsselung.

Ein Sprachmodell arbeitet anders. Es erzeugt seine Antwort mit einem Zufallsanteil. Derselbe Auftrag kann beim zweiten Lauf eine andere Einstufung liefern, einen Punkt weglassen oder einen neuen erfinden. Für einen Entwurf ist das unkritisch. Für eine Ampel ist es ein Problem. Ein Gelb, das beim nächsten Lauf Grün ist, obwohl niemand etwas geändert hat, sagt nichts über Ihre Website. Es sagt etwas über das Messgerät.

Machen Sie die Probe selbst. Lassen Sie denselben Check dreimal hintereinander laufen und legen Sie die Ergebnisse nebeneinander. Bleibt die Liste gleich, haben Sie ein Messgerät. Wandert sie, haben Sie eine Meinung. Mit einer Meinung können Sie weder eine Freigabe begründen noch einem Kunden gegenüber belegen, dass eine Lücke geschlossen wurde.

Wiederholbarkeit hat einen zweiten Nutzen, der oft übersehen wird: den Verlauf. Ein fester Check, der jede Woche läuft, zeigt Ihnen den Tag, an dem ein Header verschwunden ist oder ein Zertifikat ausläuft. Sie sehen die Veränderung, bevor ein Kunde sie meldet. Das gelingt nur, wenn der Check gestern dasselbe gemessen hat wie heute. Ein Werkzeug mit schwankendem Ergebnis hat keinen Verlauf. Es hat nur Momentaufnahmen, die nicht zueinander passen.

Die Grenze steht im Auftragstext, also steht sie nirgends

Der zweite Punkt wiegt schwerer. In der Vorführung soll das Modell nur lesen und nichts ausnutzen. Diese Grenze steht im Prompt. Ein Prompt ist eine Bitte. Hält sich das Modell nicht daran, hält es nichts auf. Warum eine Regel im Auftragstext keine Sperre ist, habe ich in einem eigenen Artikel belegt. Hier kommt etwas dazu: Dem Modell wurde genau die Zurückhaltung abtrainiert, auf die man sich bei dieser Bitte verlässt.

Warum eine Regel im Prompt keine Sperre ist und woran Sie eine technische Grenze erkennen:

Wenn die einzige Sperre ein Satz im Systemprompt ist

Eine technische Grenze sieht anders aus. Das Werkzeug bekommt nur lesende Anfragen als Fähigkeit. Es hat keine Zugangsdaten. Es darf nur die Adressen aufrufen, die auf einer festen Liste stehen. Es läuft in einer Umgebung, aus der heraus es nichts anderes erreicht. Dann ist egal, was im Auftrag steht und was das Modell daraus macht. Die Grenze liegt in den Rechten.

ISO/IEC 27001 kennt diesen Gedanken seit Langem. Privilegierte Zugriffsrechte werden eingeschränkt und gesteuert (A.8.2). Ein Prüfwerkzeug, das auf fremde Systeme zugreift, ist ein privilegierter Akteur, auch wenn es nur liest. Wer es beschafft, fragt deshalb zuerst nach den Rechten und zuletzt nach der Ampel.

Dazu kommt der Betreiber. Das Modell läuft nicht bei Ihnen. Jede Antwort Ihrer Website, jeder Befund und jede offen liegende Datei gehen durch die Systeme eines Dritten. Das ist eine Lieferantenbeziehung im Sinne der Norm (A.5.19). Sie brauchen die Antwort auf drei Fragen: Wer sieht die Ergebnisse? Wie lange liegen sie dort? Werden sie für das Training verwendet? Eine Liste Ihrer Schwachstellen ist das Letzte, was Sie bei einem Anbieter liegen haben wollen, dessen Vertrag Sie nicht gelesen haben.

Von außen sieht man nur, was außen liegt

Der dritte Punkt ist der unscheinbarste. Als teuersten Fund nennt die Vorführung den Hinweis, Kontingente und Zahlungsdaten müssten auf dem Server abgesichert sein. Das stimmt. Nur ist es kein Fund. Der Check hat den Server nie von innen gesehen. Er kann nicht wissen, ob dort etwas fehlt. Er gibt einen allgemeinen Rat und zeigt ihn in der Farbe eines Befunds.

Den Unterschied sollten Sie in jedem Bericht suchen. Ein Befund hat eine Stelle, einen Beleg und eine Gegenprobe: Diese Adresse antwortet mit jenem Inhalt, hier ist der Abruf, nach der Korrektur antwortet sie anders. Ein Rat hat nichts davon. Er passt auf jede Website der Welt. Zwei Paare als Muster, frei formuliert:

  • Schwach: „Stellen Sie sicher, dass Ihre Anfragegrenzen serverseitig greifen.“
  • Belastbar: „Die Anfragegrenze hängt an einem Kopffeld, das der Absender selbst setzt. Mit einem geänderten Feld greift die Grenze nicht mehr, der Abruf dazu liegt bei.“
  • Schwach: „Zahlungsdaten sollten geschützt sein.“
  • Belastbar: „Der Abruf einer Rechnung prüft die Anmeldung, aber nicht, ob die Rechnung zum angemeldeten Konto gehört.“

Das zweite Beispiel in der Liste ist kein Zufall. Lücken dieser Art sitzen in der Logik hinter der Anmeldung. Wer darf was sehen? Woran hängt eine Grenze? Was passiert, wenn zwei Anfragen gleichzeitig kommen? Solche Fragen beantwortet nur, wer den Code liest, mit einem Testkonto arbeitet oder gezielt versucht, die Regeln zu brechen. Genau das ist die Arbeit eines Penetrationstests. Ein Außencheck findet die offene Tür. Ob der Tresor dahinter abgeschlossen ist, erfährt er nicht.

Ein sauberer Außencheck ist deshalb eine gute Nachricht mit kleiner Reichweite. Null kritische Punkte heißt: Die Dinge, die jeder von außen sieht, sind in Ordnung. Mehr heißt es nicht. Wer daraus „wir sind sicher“ macht, hat die Hälfte der Prüfung ausgelassen und es nicht gemerkt.

Was ein Sprachmodell bei der Prüfung trotzdem leistet

Ich arbeite selbst mit Sprachmodellen an Sicherheitsthemen. Sie sind dort stark, wo ein Mensch gegenliest und wo das Ergebnis ein Vorschlag bleibt.

  • Ergebnisse erklären: Ein Skript meldet einen fehlenden Header. Das Modell erklärt, was er bewirkt und wie er für Ihren Server gesetzt wird.
  • Code gegenlesen: Im eigenen Quelltext nach Mustern suchen, die oft schiefgehen. Jeder Treffer ist ein Verdacht, den ein Test bestätigen muss.
  • Testfälle vorschlagen: Welche Eingaben sollte ein Formular aushalten? Die Liste des Modells ist länger als die eigene. Ausgeführt wird sie von einem festen Test.
  • Berichte verständlich machen: Aus einem technischen Befund eine Zusammenfassung für die Geschäftsführung schreiben, die den Befund selbst unverändert lässt.

Die Reihenfolge entscheidet. Das Skript misst, das Modell erklärt, der Mensch entscheidet. Dreht jemand das um und lässt das Modell messen, hat er die Wiederholbarkeit verschenkt und dafür Geschwindigkeit bekommen, die das Skript ohnehin schon hatte.

Ein Wort zum Recht, ohne Beratung im Einzelfall: Prüfen Sie nur eigene Systeme oder solche, für die Sie einen schriftlichen Auftrag haben. Wer sich unbefugt Zugang zu besonders gesicherten Daten verschafft und dabei die Zugangssicherung überwindet, macht sich strafbar (§ 202a StGB). Schon das Vorbereiten ist erfasst (§ 202c StGB). Ein Werkzeug, das auf Zuruf jede beliebige Adresse untersucht, nimmt Ihnen diese Prüfung nicht ab. Es macht den Fehltritt nur bequemer.

Wo das in ISO/IEC 27001 andockt

Die Norm verlangt keinen bestimmten Scanner und keinen Penetrationstest in festem Abstand. Sie verlangt einen Prozess, der trägt. Vier Maßnahmen aus Anhang A greifen hier ineinander.

  • A.8.8, Umgang mit technischen Schwachstellen: Informationen über Schwachstellen einholen, die eigene Betroffenheit bewerten, handeln. Das setzt Befunde voraus, die sich nachvollziehen lassen.
  • A.8.29, Sicherheitstests in Entwicklung und Abnahme: Tests sind im Entwicklungsablauf festgelegt und werden durchgeführt. Ein Test, der bei jedem Lauf etwas anderes prüft, lässt sich nicht festlegen.
  • A.8.2, privilegierte Zugriffsrechte: Auch ein Prüfwerkzeug bekommt nur die Rechte, die es für seine Aufgabe braucht.
  • A.5.19, Informationssicherheit in Lieferantenbeziehungen: Der Betreiber des Modells ist ein Lieferant, der Ihre Befunde sieht.

Im Audit frage ich nach dem letzten Sicherheitstest und lasse mir drei Dinge zeigen. Erstens den Umfang: Was wurde geprüft, was ausdrücklich nicht? Zweitens die Befunde mit Beleg. Drittens die Nachprüfung, also den Lauf nach der Korrektur. Ein Bildschirmfoto mit grüner Ampel beantwortet keine der drei Fragen. Ein Skriptprotokoll mit Datum, Prüfpunkten und Ergebnis beantwortet die erste und die dritte. Der Bericht eines Penetrationstests beantwortet alle drei, wenn er gut ist.

Was Sie am Montag tun

Fangen Sie mit dem an, was nichts kostet. Lassen Sie Ihre Website durch die beiden festen Prüfungen für Header und Verschlüsselung laufen und heben Sie das Ergebnis mit Datum auf. Das dauert zehn Minuten und ist beim nächsten Mal vergleichbar.

Schreiben Sie danach auf, was von außen niemand sehen kann: Anmeldung, Rollen, Zahlungsabläufe, Schnittstellen, Anfragegrenzen. Das ist die Liste für die Prüfung von innen. Bei einer kleinen Anwendung kann das ein Entwickler übernehmen, der den Code nicht geschrieben hat. Verarbeiten Sie Geld oder personenbezogene Daten in größerem Umfang, gehört ein Penetrationstest mit klarem Auftrag dazu. Ein öffentlicher Prüfleitfaden wie der Web Security Testing Guide von OWASP zeigt, was ein solcher Test abdecken sollte, und hilft beim Vergleich von Angeboten.

Bietet Ihnen jemand einen KI-Sicherheitscheck an, reichen vier Fragen. Liefert er bei drei Läufen dieselbe Liste? Welche Rechte hat das Werkzeug technisch? Wo laufen meine Ergebnisse hin? Und welche Punkte im Bericht sind Befunde mit Beleg, welche allgemeiner Rat? Wer darauf klare Antworten bekommt, hat ein brauchbares Werkzeug vor sich. Wer hört, das regle der Prompt, kennt jetzt die Schwachstelle des Angebots.

Teilen: LinkedIn E-Mail

Häufige Fragen

Kann ein Sprachmodell einen Penetrationstest ersetzen?+

Nein. Ein Penetrationstest prüft gezielt die Logik hinter der Anmeldung, mit Testkonten, Code-Einsicht oder Angriffsversuchen im vereinbarten Rahmen. Ein Sprachmodell, das von außen auf eine Website schaut, sieht davon nichts. Es kann Ergebnisse erklären und Testfälle vorschlagen, die Prüfung selbst ersetzt es nicht.

Warum ist Wiederholbarkeit bei einem Sicherheitscheck so wichtig?+

Weil Sie nach einer Korrektur belegen müssen, dass die Lücke geschlossen ist. Das geht nur, wenn derselbe Test vorher rot und nachher grün meldet. Ändert sich das Ergebnis schon ohne Korrektur von Lauf zu Lauf, lässt sich aus einem grünen Ergebnis nichts ableiten.

Reichen kostenlose Prüfungen für Header und TLS aus?+

Für die Punkte, die sie messen, ja. Sie zeigen zuverlässig, ob die Konfiguration nach außen stimmt. Über Anmeldung, Rollen, Zahlungsabläufe und Schnittstellen sagen sie nichts. Dafür braucht es eine Prüfung von innen.

Darf ich fremde Websites mit einem solchen Werkzeug prüfen?+

Prüfen Sie nur eigene Systeme oder solche, für die ein schriftlicher Auftrag vorliegt. Das unbefugte Verschaffen von Zugang zu besonders gesicherten Daten ist nach § 202a StGB strafbar, das Vorbereiten nach § 202c StGB. Im Zweifel klärt das eine Rechtsanwältin oder ein Rechtsanwalt, bevor der Test läuft.

Verlangt ISO/IEC 27001 einen Penetrationstest?+

Nicht ausdrücklich und nicht in festem Abstand. Die Norm verlangt den Umgang mit technischen Schwachstellen (A.8.8) und festgelegte Sicherheitstests in Entwicklung und Abnahme (A.8.29). Wie Sie das erfüllen, richtet sich nach Ihrem Risiko. Für Anwendungen mit Geld oder vielen Personendaten ist ein Penetrationstest in der Praxis der übliche Nachweis.

Autor & fachliche Prüfung: Lars Zimmermann · ISO/IEC 42001 Senior Lead Auditor & Senior Lead Implementer · ISO/IEC 27001 Lead Auditor & Lead Implementer (PECB)

Auditor mit Stallgeruch, Geschäftsführer eines produzierenden Mittelständlers, der KI-Managementsysteme und Informationssicherheit prüft und aufbaut. Autor von „Stallgeruch“. Qualifikation auf Credly verifizieren · Mehr über mich.

Stand: 13. November 2026. Inhalt nach bestem Wissen recherchiert und fachlich geprüft; ersetzt keine Rechtsberatung im Einzelfall.

Konkrete Fragen zu Ihrem Fall?

Im kostenlosen 15-Minuten-Erstgespräch ordnen wir Ihren Stand zu ISO 42001, ISO 27001 und dem EU AI Act ein, ehrlich und ohne Verkaufsdruck.

Weiterlesen