Eine KI schreibt in Ihre SPS: Wer gibt die Änderung frei?
KI-Agenten schreiben in Steuerungsprojekte und erzeugen CAD-Teile. Kompilieren ist kein Test. Ein Freigabeablauf in sechs Schritten für die Fertigung.
Kurz gesagt
Schreibt ein KI-Agent in ein SPS-Projekt, belegt ein fehlerfreier Übersetzungslauf nur Syntax und Datentypen, nicht das Verhalten der Maschine. Der Agent gehört in eine Kopie ohne Recht zum Laden. Freigegeben wird in sechs Schritten: Entwurf in Kopie, Auftrag und Grenzen, Vier-Augen-Prüfung, Test, dokumentierte Freigabe, Rückfallstand. Sicherheitsprogramm und Sicherheitsparameter bleiben für den Agenten gesperrt.
Read in English: English version
In öffentlichen Vorführungen ist Folgendes zu sehen: Ein KI-Agent bekommt einen Auftrag in normaler Sprache. Über eine Schnittstelle, einen sogenannten MCP-Server, greift er auf die Engineering-Software des Steuerungsherstellers zu. Er legt Variablen an, erzeugt Datenbausteine und schreibt Programmcode. In einer zweiten Art von Vorführung erzeugt er auf demselben Weg ein Bauteil im CAD-System. Am Ende steht jedes Mal dieselbe Prüfung: Das Projekt lässt sich übersetzen, das Modell baut sich auf. Fertig.
Ich führe einen Fertigungsbetrieb, auditiere Managementsysteme und helfe Betrieben dabei, sie aufzubauen oder auch selbst Software zu entwickeln. Aus dieser Erfahrung sage ich: Die Technik ist beeindruckend, und sie wird in die Betriebe kommen. Mich interessiert der Weg, auf dem der Code des Agenten an die Maschine gelangt. Über diesen Weg sagen die Vorführungen nichts.
Kompilieren ist kein Test
Ein fehlerfreier Übersetzungslauf sagt genau eines: Die Syntax stimmt und die Datentypen passen. Ob die Achse in die richtige Richtung fährt, ob eine Verriegelung an der richtigen Stelle greift und ob eine Zeit zum Prozess passt, sagt er nicht.
Beim CAD-Teil ist es dasselbe. Ein Modell, das sich fehlerfrei aufbaut, ist ein Körper mit Maßen. Ob es sich spannen lässt, ob die Toleranzen zur Funktion passen und ob die Wandstärke hält, hat niemand geprüft.
Ein Muster zur Veranschaulichung, frei gewählt: Der Agent soll eine Haltezeit von zwei auf fünf Sekunden ändern. Er findet die Variable, ändert den Wert, das Projekt übersetzt ohne Fehler. Dieselbe Variable dient an einer zweiten Stelle als Überwachungszeit. Der Übersetzer meldet das nicht. Ein Mensch, der die Anlage kennt, hätte nachgesehen.
Fünf Fragen vor dem ersten Einsatz
Bevor ein Agent in ein Steuerungsprojekt schreiben darf, will ich fünf Antworten sehen.
- Wer ändert? Der Agent arbeitet unter einem Benutzerkonto. Im Projekt steht dann der Name eines Mitarbeiters, der die Zeile nie geschrieben hat. Legen Sie fest, wie Änderungen des Agenten gekennzeichnet werden.
- Wer gibt frei? Eine Fachkraft, die die Anlage kennt. Der Agent, der den Code schreibt, nimmt ihn nicht selbst ab.
- Was steht im Änderungsprotokoll? Der Auftrag im Wortlaut, die geänderten Bausteine, der Stand vorher und nachher, der Prüfer, das Datum.
- Wie wird getestet? In der Simulation oder an einer Teststeuerung, bevor der Stand an die Maschine geht. Die Testfälle stehen vor dem Lauf fest.
- Wer darf Code im CAD-Konto ausführen? Über solche Schnittstellen können nach meinem Verständnis Skripte mit den Rechten des angemeldeten Kontos laufen. Der Agent kann dann alles, was der Konstrukteur kann, auch Dateien überschreiben oder löschen. Geben Sie ihm ein eigenes Konto mit Zugriff auf einen Arbeitsordner und sonst nichts.
Welche Rechte und Grenzen ein Agent braucht, bevor er selbstständig arbeitet:
KI-Agenten absichernWann aus einer Änderung eine wesentliche Veränderung wird
Bis zum 20. Januar 2027 gilt die Maschinenrichtlinie 2006/42/EG. An diesem Tag wird sie aufgehoben (Art. 51 Abs. 2 der Verordnung (EU) 2023/1230), und die Maschinenverordnung gilt (Art. 54). Im Text der Richtlinie kommt der Begriff der wesentlichen Veränderung nicht vor. Die Verordnung definiert ihn in Art. 3 Nr. 16 und nennt dabei ausdrücklich auch digitale Veränderungen.
Sinngemäß: Gemeint ist eine Veränderung nach dem Inverkehrbringen oder der Inbetriebnahme, die der Hersteller weder vorgesehen noch geplant hat und die die Sicherheit beeinträchtigt, weil eine neue Gefährdung entsteht oder ein bestehendes Risiko steigt. Dazu kommt eine zweite Bedingung. Es werden Schutzeinrichtungen nötig, deren Einbindung das Sicherheitssteuerungssystem verändert, oder zusätzliche Schutzmaßnahmen für Stabilität oder Festigkeit.
Die Folge steht in Art. 18: Wer eine wesentliche Veränderung vornimmt, gilt als Hersteller. Er trägt die Herstellerpflichten nach Art. 10 und muss das Konformitätsbewertungsverfahren anwenden.
Für die Praxis lese ich das so: Eine geänderte Haltezeit im Prozessablauf erreicht diese Schwelle in aller Regel nicht. Kritisch wird es, wenn eine Änderung Geschwindigkeiten, Kräfte, Bewegungsbereiche, Verriegelungen oder Betriebsarten berührt. Diese Einschätzung gehört in eine dokumentierte Bewertung durch eine Fachkraft, und zwar vor der Änderung. Sicherheitsprogramm und Sicherheitsparameter sind für den Agenten gesperrt. Punkt. Und im Zweifel bestätigt eine Fachstelle für Maschinensicherheit die Einstufung.
Noch ein Detail aus Anhang III der Verordnung. Nach Nr. 1.1.9 müssen Maschinen Nachweise über Eingriffe in ihre Software und deren Konfiguration sammeln. Nr. 1.2.1 Buchstabe f verlangt ein Rückverfolgungsprotokoll zu den Versionen der Sicherheitssoftware. Bei neuen Maschinen wird das Änderungsprotokoll damit Teil der Konstruktion. In Ihrem Betrieb sollten Sie es schon heute führen.
Welche Pflichten Hersteller von Produkten mit digitalen Elementen zusätzlich treffen:
Cyber Resilience Act für HerstellerUnd die KI-Verordnung?
Der Agent, der am Schreibtisch Code entwirft, ist ein Werkzeug der Entwicklung. Nach meinem Verständnis wird er dadurch kein Bauteil der Maschine. Die KI-Verordnung (EU) 2024/1689 setzt an anderer Stelle an. Nach Art. 6 Abs. 1 ist ein KI-System hochriskant, wenn es als Sicherheitsbauteil eines Produkts aus Anhang I dient oder selbst ein solches Produkt ist und dieses Produkt eine Konformitätsbewertung durch Dritte braucht. Die Maschinenverordnung steht in Anhang I Abschnitt B unter Nr. 21. Sie selbst nennt in ihrem Anhang I Teil A Nr. 5 und 6 Sicherheitsbauteile und eingebettete Systeme mit selbstentwickelndem Verhalten auf Basis maschinellen Lernens, die Sicherheitsfunktionen gewährleisten.
Welche Fertigungs-KI als Hochrisiko gilt und welche nicht:
KI in der CNC-Fertigung und der EU AI ActArt. 6 Abs. 1a zieht die Grenze: KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte wie Automatisierung, Leistungsoptimierung oder Qualitätskontrolle verwendet werden, gelten nicht als Sicherheitsbauteile.
Art. 25 Abs. 1 regelt, wann Betreiber oder Dritte zum Anbieter eines Hochrisiko-KI-Systems werden. Das gilt etwa bei einer wesentlichen Veränderung eines solchen Systems (Buchstabe b) oder wenn jemand die Zweckbestimmung eines KI-Systems so ändert, dass es hochriskant wird (Buchstabe c). Für Maschinen gibt es eine Besonderheit. Nach Art. 2 Abs. 2 gelten für Hochrisiko-KI im Bereich von Anhang I Abschnitt B nur Art. 6 Abs. 1, Art. 60a und Art. 102 bis 112. Die inhaltlichen Anforderungen kommen über delegierte Rechtsakte zu Anhang III der Maschinenverordnung, die ab dem 2. August 2028 gelten (Art. 8 Abs. 3 und 4 der Maschinenverordnung). Wer eine lernende Komponente in eine Sicherheitsfunktion einbaut, landet also zuerst bei Art. 18 der Maschinenverordnung.
Das ist meine Lesart als Praktiker. Bei juristischen Fragen sollte immer ein Fachmann draufschauen, bevor Sie danach entscheiden.
Der Freigabeablauf in sechs Schritten
- Entwurf in Kopie. Der Agent arbeitet in einer Kopie des Projekts oder in der Simulation. Er hat keine Verbindung zur laufenden Steuerung und kein Recht zum Laden.
- Auftrag und Grenzen festhalten. Was soll geändert werden, welche Bausteine sind tabu? Sicherheitsprogramm und Sicherheitsparameter sind immer ausgenommen.
- Vier-Augen-Prüfung. Eine Fachkraft liest den Vergleich zwischen altem und neuem Stand Zeile für Zeile. Sie bewertet, ob die Änderung Sicherheit oder Bewegungsbereich berührt und ob eine wesentliche Veränderung in Betracht kommt.
- Test. Vorher festgelegte Testfälle laufen in der Simulation oder an der Teststeuerung, danach an der Maschine im Einrichtbetrieb. Das Ergebnis wird mit Datum abgelegt.
- Dokumentierte Freigabe. Name, Datum, Stand, Ergebnis der Bewertung. Erst danach wird geladen, und das Laden macht ein Mensch.
- Rückfallstand. Der letzte freigegebene Stand liegt gesichert bereit. Jemand hat das Zurückspielen schon einmal geübt.
Für CAD-Teile gilt derselbe Ablauf in kleiner Form: Entwurf im Arbeitsordner, Prüfung durch den Konstrukteur, Freigabe über den normalen Zeichnungsprozess.
Wie Anhalten und Wiederanlauf geregelt sein müssen, passend zum Rückfallstand:
Not-Aus für KI: Anhalten und WiederanlaufWo das in ISO/IEC 42001 andockt
Die Norm kennt die Bausteine dieses Ablaufs. Ich übertrage sie auf den Agenten als eingesetztes KI-System.
- A.6.2.4: Die Organisation legt fest und dokumentiert, wie sie verifiziert und validiert und nach welchen Kriterien. Kompilieren allein ist kein Kriterium.
- A.6.2.5: Es gibt einen Einsatzplan, und die Anforderungen sind vor dem Einsatz erfüllt.
- A.6.2.8: Die Organisation bestimmt, in welchen Phasen Ereignisse protokolliert werden.
- A.3.2: Rollen und Zuständigkeiten sind zugewiesen. Wer beauftragt, wer prüft, wer lädt.
Im Audit lasse ich mir die letzte Änderung zeigen, an der ein Agent beteiligt war: Auftrag, Vergleich, Testprotokoll, Freigabe, Rückfallstand. Fehlt eines davon, ist der Ablauf noch nicht fertig. Netzabsicherung und sicherheitsgerichtete Steuerungen haben eigene Regelwerke, Stichwort IEC 62443 und funktionale Sicherheit.
Was Sie am Montag tun
Fragen Sie in Instandhaltung und Konstruktion, wer schon mit solchen Schnittstellen experimentiert. Legen Sie fest, dass Agenten nur in Kopien arbeiten und dass niemand einen Stand lädt, der die sechs Schritte nicht durchlaufen hat. Hoffnung ist keine Strategie. Ein Ablauf auf einer Seite schon.
So meine Interpretation aus der Praxis. Für Rechtsberatung bitte an entsprechende Stellen wenden.
Primärquellen
- Verordnung (EU) 2023/1230 (Maschinenverordnung), konsolidierte Fassung vom 27.07.2026, Art. 3 Nr. 16, Art. 8 Abs. 3 und 4, Art. 18, Art. 51, Art. 54, Anhang I Teil A Nr. 5 und 6, Anhang III Nr. 1.1.9 und 1.2.1 (EUR-Lex, abgerufen am 19.11.2026)
- Richtlinie 2006/42/EG (Maschinenrichtlinie) (EUR-Lex, abgerufen am 19.11.2026)
- Verordnung (EU) 2024/1689 (KI-Verordnung), konsolidierte Fassung vom 27.07.2026, Art. 2 Abs. 2, Art. 6 Abs. 1 und 1a, Art. 25, Anhang I Abschnitt B Nr. 21 (EUR-Lex, abgerufen am 19.11.2026)
- ISO/IEC 42001:2023, Anhang A, Maßnahmen A.3.2, A.6.2.4, A.6.2.5 und A.6.2.8 (iso.org)
Freigabeablauf für Änderungen eines KI-Agenten an einem Steuerungsprojekt
Entwurf in Kopie
Der Agent arbeitet in einer Kopie des Projekts oder in der Simulation. Er hat keine Verbindung zur laufenden Steuerung und kein Recht zum Laden.
Auftrag und Grenzen festhalten
Was soll geändert werden, welche Bausteine sind tabu? Sicherheitsprogramm und Sicherheitsparameter sind immer ausgenommen.
Vier-Augen-Prüfung
Eine Fachkraft liest den Vergleich zwischen altem und neuem Stand Zeile für Zeile. Sie bewertet, ob die Änderung Sicherheit oder Bewegungsbereich berührt und ob eine wesentliche Veränderung in Betracht kommt.
Test
Vorher festgelegte Testfälle laufen in der Simulation oder an der Teststeuerung, danach an der Maschine im Einrichtbetrieb. Das Ergebnis wird mit Datum abgelegt.
Dokumentierte Freigabe
Name, Datum, Stand, Ergebnis der Bewertung. Erst danach wird geladen, und das Laden macht ein Mensch.
Rückfallstand
Der letzte freigegebene Stand liegt gesichert bereit. Jemand hat das Zurückspielen schon einmal geübt.
Häufige Fragen
Darf ein KI-Agent direkt in die laufende Steuerung schreiben?+
Technisch lässt sich das einrichten. Ich rate davon ab. Der Agent gehört in eine Kopie des Projekts oder in die Simulation, ohne Verbindung zur Maschine und ohne Recht zum Laden. Geladen wird ein geprüfter und freigegebener Stand von einem Menschen.
Reicht es, wenn das Projekt fehlerfrei kompiliert?+
Nein. Der Übersetzungslauf prüft Syntax und Datentypen. Über das Verhalten der Maschine sagt er nichts. Dafür braucht es Testfälle, die vor der Änderung feststehen, und eine Fachkraft, die den Vergleich zwischen altem und neuem Stand liest.
Ab wann gilt die Maschinenverordnung, und was bedeutet sie für Softwareänderungen?+
Die Verordnung (EU) 2023/1230 gilt ab dem 20. Januar 2027 (Art. 54). Sie definiert die wesentliche Veränderung in Art. 3 Nr. 16 und schließt digitale Veränderungen ausdrücklich ein. Wer eine wesentliche Veränderung vornimmt, gilt nach Art. 18 als Hersteller.
Wird unser Betrieb durch eine Änderung des Agenten zum Hersteller?+
Das hängt an der Änderung. Welches Werkzeug sie geschrieben hat, spielt dafür keine Rolle. Entscheidend ist nach Art. 3 Nr. 16, ob eine neue Gefährdung entsteht oder ein Risiko steigt und deshalb zusätzliche Schutzmaßnahmen nötig werden. Das bewertet eine Fachkraft vor der Änderung und hält es schriftlich fest.
Autor & fachliche Prüfung: Lars Zimmermann · ISO/IEC 42001 Senior Lead Auditor & Senior Lead Implementer · ISO/IEC 27001 Lead Auditor & Lead Implementer (PECB)
Auditor mit Stallgeruch, Geschäftsführer eines produzierenden Mittelständlers, der KI-Managementsysteme und Informationssicherheit prüft und aufbaut. Autor von „Stallgeruch“. Qualifikation auf Credly verifizieren · Mehr über mich.
Stand: 19. November 2026. Inhalt nach bestem Wissen recherchiert und fachlich geprüft; ersetzt keine Rechtsberatung im Einzelfall.
Konkrete Fragen zu Ihrem Fall?
Im kostenlosen 15-Minuten-Erstgespräch ordnen wir Ihren Stand zu ISO 42001, ISO 27001 und dem EU AI Act ein, ehrlich und ohne Verkaufsdruck.