KI-Entscheidungen: Wer in Ihrem Betrieb dafür geradesteht

Am 17. September 2026 saß Palantir-Chef Alex Karp bei CNBC und sagte einen Satz, der seitdem durch die ganze KI-Debatte läuft: Wer KI baut und damit Schaden anrichtet, soll zivil- und strafrechtlich dafür geradestehen. Die erste Verteidigungslinie sei Haftung: Unternehmen und ihre Chefs sollen für ihr eigenes Handeln einstehen. Vernünftige Leitlinien wären ihm recht, durchsetzen lasse sich so etwas aber nicht. Den Labs, die nach Regulierung rufen, unterstellt er, dass sie sich damit vor den Klagen ihrer eigenen Kunden schützen wollen.

Seitdem stehen sich drei Lager gegenüber. Die einen wollen die Entwicklung bremsen. Die anderen halten den Markt für Aufsicht genug. Und Karp will die Hersteller vor Gericht sehen. Alle drei reden über dieselbe Frage: Was schulden die, die Modelle bauen?

Die Frage, die ein Geschäftsführer im Mittelstand heute beantworten muss, stellt in dieser Debatte niemand. Ihre KI hat heute Morgen ein Angebot kalkuliert, eine Reklamation vorsortiert, eine Bestellung ausgelöst. Wer in Ihrem Betrieb steht dafür gerade? Nicht vor einem US-Gericht. Bei Ihnen, am Dienstag, wenn der Kunde anruft.

Wer nach außen haftet, habe ich in einem eigenen Text auseinandergenommen. Hier geht es um die Innenseite: wer im Haus zuständig ist, wie man das so zuweist, dass es hält, und was ein Auditor sehen will, wenn er danach fragt. Das ist meine Einordnung als Auditor, keine Rechtsberatung.

Die Herstellerhaftung endet vor Ihrer Bürotür

Ausgerechnet in Deutschland ist die Herstellerseite gerade sehr konkret geworden. Der Bundestag hat am 8. Oktober 2026 das Gesetz zur Modernisierung des Produkthaftungsrechts beschlossen, nachzulesen als Bundesrats-Drucksache 584/26. Es setzt die Richtlinie (EU) 2024/2853 um, zählt Software ausdrücklich zu den Produkten und soll am 9. Dezember 2026 in Kraft treten. Der Bundesrat berät es gerade im zweiten Durchgang.

Wer daraus schließt, die Haftungsfrage sei damit beim Anbieter gelandet, sollte Paragraf 1 Absatz 1 des neuen Produkthaftungsgesetzes lesen. Ersatz bekommt dort eine natürliche Person, und zwar für drei Arten von Schaden: an Körper und Gesundheit, an einer Sache, die nicht ausschließlich beruflich genutzt wird, und an Daten, die nicht beruflichen Zwecken dienen.

Legen Sie daneben, was Ihre KI im Betrieb tatsächlich entscheidet. Ein Angebot mit falschem Materialpreis. Eine berechtigte Reklamation, die als unbegründet aussortiert wird. Ein Lieferant, der in der Bewertung abrutscht, obwohl er pünktlich liefert. Das alles sind Vermögensschäden im Geschäftsverkehr. Für keinen davon hält das neue Gesetz einen Anspruch bereit, weder für Ihren Betrieb noch für Ihren Geschäftskunden.

Selbst wenn Karp morgen jeden Hersteller vor Gericht bekäme: Die Entscheidung, die Ihre KI heute im Angebotswesen getroffen hat, wäre davon nicht berührt.

Ob Sie den Anbieter für so einen Schaden in Anspruch nehmen können, entscheidet allein Ihr Vertrag mit ihm. Lesen Sie den Abschnitt zur Haftungsbegrenzung, bevor Sie sich darauf verlassen. Eine zweite Stelle im neuen Gesetz gehört in jede Einführungsplanung. Wer ein Produkt ohne Einverständnis des Herstellers wesentlich verändert und danach in Betrieb nimmt, ist nach Paragraf 5 selbst Hersteller des veränderten Produkts. Nachtrainieren, tief umbauen, unter eigenem Namen an Kunden weitergeben. Das ist genau die Kante, an der im Mittelstand gerade viel gebastelt wird.

Für Produkte, die bis einschließlich 8. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden, bleibt es nach Paragraf 23 beim alten Gesetz von 1989. Wer in diesen Wochen ein System einführt, sollte das Datum deshalb im Einführungsprotokoll festhalten. In drei Jahren fragt danach sonst jemand, und keiner weiß es mehr.

Drinnen gibt es keine Lücke, nur eine Unschärfe

Nach innen ist die Rechtslage schlichter, als die meisten denken. Paragraf 43 Absatz 1 GmbHG verlangt von Geschäftsführern die Sorgfalt eines ordentlichen Geschäftsmannes. Absatz 2 lässt sie bei einer Pflichtverletzung gegenüber der Gesellschaft haften. Eine eigene Regel für KI braucht es dafür nicht. Was der Betrieb einsetzt, fällt in die Sorgfalt derer, die ihn führen, und zwar so lange, bis sie die Aufgabe erkennbar verteilt haben.

Das Problem im Alltag ist deshalb selten eine Lücke im Recht. Es ist eine Unschärfe im Haus. So oder ähnlich läuft das Gespräch nach einem Fehler:

• Der Einkauf sagt: Die IT hat das System eingerichtet.
• Die IT sagt: Den Schwellenwert hat der Fachbereich vorgegeben.
• Der Fachbereich sagt: Entschieden hat das Modell, wir haben nur freigegeben, was es vorgeschlagen hat.
• Die Geschäftsführung sagt: Ich dachte, die IT kümmert sich darum.

Jeder dieser Sätze ist wahr. Zusammen ergeben sie niemanden. Böser Wille steckt selten dahinter. Ein KI-System arbeitet quer durch drei Abteilungen und gehört keiner davon.

Wie man so etwas sauber verteilt, hat der Bundesgerichtshof für einen verwandten Fall schon 2018 beschrieben. Im Urteil vom 6. November 2018 (II ZR 11/17) ging es um die Aufteilung von Aufgaben zwischen mehreren Geschäftsführern. Eine solche Ressortverteilung entlastet nur, wenn sie die Aufgaben klar und eindeutig abgrenzt, von allen mitgetragen wird und die Erledigung durch fachlich und persönlich geeignete Personen sicherstellt. Was nicht delegierbar ist, bleibt beim Gesamtorgan. Für die übrigen Geschäftsführer wandelt sich die Pflicht in eine Überwachungspflicht. Eine schriftliche Dokumentation verlangt der Senat nicht zwingend.

Das Urteil betrifft die Ebene der Geschäftsführung. Über die Delegation an Mitarbeiter hat der Senat dort nicht entschieden. Als Prüfmaßstab für jede Zuweisung im Haus taugt es trotzdem, weil es die drei Dinge benennt, an denen Zuständigkeit im Ernstfall scheitert: eine unscharfe Grenze, eine ungeeignete Person und eine Aufsicht, die nach der Zuweisung einschläft. Dass keine Schriftform nötig ist, sollte Sie übrigens nicht beruhigen. Wer im Streit beweisen muss, wie die Aufgaben verteilt waren, ist mit einem Blatt Papier besser dran als mit einer Erinnerung.

Vier Wörter aus Artikel 26, die für jede KI taugen

Die KI-Verordnung hat für dieselbe Frage eine Formulierung gefunden, die ich für die brauchbarste im ganzen Text halte. Artikel 26 Absatz 2 verpflichtet Betreiber von Hochrisiko-KI-Systemen, die menschliche Aufsicht natürlichen Personen zu übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen, und ihnen die erforderliche Unterstützung zukommen zu lassen.

Rechtlich gilt das nur für Hochrisiko-Systeme, und auch dort erst ab dem 2. Dezember 2027 für die Fälle aus Anhang III und ab dem 2. August 2028 für Anhang I. So steht es in Artikel 113 in der Fassung der Verordnung (EU) 2026/1744. Die meisten KI-Anwendungen im Mittelstand fallen gar nicht darunter. Als Test für jede einzelne taugen die vier Wörter trotzdem:

• Kompetenz: Versteht die Person, was das System tut, und erkennt sie einen falschen Vorschlag, bevor er rausgeht?
• Ausbildung: Hat sie gelernt, wie dieses konkrete System versagt, oder nur, wie man es bedient?
• Befugnis: Darf sie das System anhalten, ohne vorher jemanden zu fragen?
• Unterstützung: Hat sie dafür Zeit im Arbeitsplan, einen Vertreter im Urlaub und Rückendeckung, wenn das Anhalten einen Auftrag kostet?

Am dritten Wort kippt es in der Praxis. Artikel 26 Absatz 5 verlangt von Betreibern, die Verwendung auszusetzen, sobald sie Grund zu der Annahme haben, dass das System ein Risiko birgt. Aussetzen kann aber nur, wer es darf. Die beste Prüffrage dazu passt in eine Zeile: Wer darf Ihre KI heute um 14 Uhr abschalten, ohne vorher jemanden anzurufen?

Kommt die Antwort mit Namen und ohne Zögern, ist die Verantwortung zugewiesen. Steckt in der Antwort ein ‚eigentlich‘, ist sie es nicht. Und lautet die Antwort ‚die Geschäftsführung‘, haben Sie die Zuständigkeit dorthin zurückgegeben, wo sie ohnehin lag. Gewonnen ist damit nichts, denn die Geschäftsführung sitzt um 14 Uhr selten vor dem Bildschirm, auf dem der Fehler gerade entsteht.

Was ein Auditor sehen will, wenn er nach Verantwortung fragt

ISO/IEC 42001 macht aus derselben Frage vier prüfbare Stellen. Klausel 5.3 legt die Zuweisung von Rollen, Verantwortlichkeiten und Befugnissen ausdrücklich in die Hand der obersten Leitung. Vorbereiten kann die Zuweisung jeder. Sicherstellen, dass sie steht und bekannt ist, muss nach der Norm die Leitung.

Die drei anderen Stellen stehen in Anhang A, und zu jeder gibt es eine typische Abweichung:

• A.3.2, KI-Rollen und -Verantwortlichkeiten. Typisch ist eine Matrix, die einen KI-Beauftragten und die IT-Leitung nennt und sonst nichts. Wer die menschliche Aufsicht führt, wer die Datenqualität verantwortet und wer den Anbieter steuert, steht nirgends. Damit fehlt für ein halbes Dutzend weiterer Maßnahmen der Zuständige.
• A.10.2, Zuweisung von Zuständigkeiten zwischen Ihnen, Ihren Lieferanten und Ihren Kunden. Typisch ist ein Vertrag mit dem Modellanbieter, der Verfügbarkeit und Preis regelt, aber nicht, wer für Modellqualität und Verzerrungen einsteht. Beim ersten Fehlverhalten des Systems ist die Zuständigkeit dann strittig.
• A.3.3, Melden von Bedenken. Typisch ist der Verweis auf das bestehende Hinweisgebersystem. Das ist auf Rechtsverstöße ausgelegt. Eine Mitarbeiterin, die merkt, dass die Reklamations-KI seit zwei Wochen jeden Fall eines bestimmten Kunden ablehnt, findet dort keine Kategorie dafür.

Die dritte Stelle halte ich für die unterschätzteste. Verantwortung heißt auch, dass die Leute, die einen Fehler zuerst sehen, ihn loswerden können. Das sind selten die Benannten. Es ist die Sachbearbeiterin, der Meister, die Werkstudentin, die die Ausgaben jeden Tag vor sich haben. Ohne Meldeweg bleibt deren Beobachtung ein Gefühl, und die benannte Person erfährt vom Problem erst durch den Kunden. Die Anleitung zur Norm verlangt für diesen Weg unter anderem vertrauliche Meldung, qualifizierte Bearbeiter, Schutz vor Nachteilen und eine Eskalation bis zur Geschäftsführung in angemessener Zeit.

Im Audit unterscheiden sich die Antworten auf die Frage nach Verantwortung meist schon im ersten Satz:

• Schwach: Für KI ist bei uns die IT zuständig. Belastbar: Für das Angebotsmodul ist die Leiterin des Vertriebsinnendienstes zuständig, ihr Stellvertreter vertritt sie, und beide dürfen es abschalten.
• Schwach: Wir haben einen KI-Beauftragten. Belastbar: Der KI-Beauftragte führt die Übersicht, die Aufsicht über die drei Systeme liegt bei den drei Fachbereichen, und hier ist die Liste mit Namen.
• Schwach: Bedenken kann bei uns jeder jederzeit äußern. Belastbar: Hier ist der Meldeweg, hier sind die Meldungen aus diesem Jahr, und hier steht, was aus jeder einzelnen geworden ist.

Was eine saubere Zuweisung zu Ihren Gunsten leistet

Bis hierher klingt das alles nach Pflicht. Die Rückseite ist mindestens so wichtig. Eine wirksame Zuweisung schützt den Betrieb, und sie schützt Sie. Nach der Logik des BGH-Urteils schrumpft die Pflicht der übrigen Geschäftsführer bei einer wirksamen Aufteilung auf die Überwachung. Wer sauber zugewiesen hat und die Aufsicht nachweislich führt, steht im Streit anders da als jemand, der alles selbst getragen und nichts davon belegt hat.

Der zweite Gewinn ist Tempo. Ein System, das jemand anhalten darf, wird früher angehalten, und ein früh angehaltenes System kostet weniger als ein spät angehaltenes. Wer erst die Geschäftsführung erreichen muss, verliert im Zweifel einen Nachmittag. Die KI arbeitet in diesem Nachmittag weiter.

Der dritte Gewinn ist der leiseste. Mitarbeiter, die wissen, dass sie stoppen dürfen, schauen genauer hin. Wer dagegen glaubt, dass ohnehin jemand anderes zuständig ist, hört auf, die Ausgaben zu lesen. Genau dort entsteht der Fehler, über den gerade die halbe Welt auf Herstellerebene streitet, nur ohne Fernsehstudio und mit Ihrem Namen darunter.

Was Sie am Montag damit anfangen, passt auf eine halbe Seite. Nehmen Sie das eine KI-System, das in Ihrem Betrieb die meisten Entscheidungen trifft, und schreiben Sie fünf Zeilen auf:

• Welche Entscheidung trifft oder bereitet das System vor, und wo endet sie?
• Welche Person verantwortet sie, mit Namen und nicht mit Abteilung?
• Darf diese Person das System anhalten, und wer vertritt sie?
• Wo meldet sich jemand, dem etwas komisch vorkommt, und wer liest das?
• Was regelt der Vertrag mit dem Anbieter zu Fehlern des Modells?

Danach gehen Sie zu der Person aus der zweiten Zeile und fragen sie, ob sie das System heute abschalten dürfte. Zögert sie, ist die Zuweisung noch Papier. Antwortet sie sofort, haben Sie in einer halben Stunde mehr geklärt als die ganze Debatte seit September.

Karp hat einen Punkt, wenn er Haftung die erste Verteidigungslinie nennt. Im eigenen Betrieb beginnt sie trotzdem nicht beim Hersteller, sondern bei einer Frage, die Sie heute beantworten können: Wer bei Ihnen darf die KI anhalten, und weiß diese Person das?