Wenn die KI Schaden anrichtet: Wer haftet und wer zahlt

Die Frage kommt in jedem Seminar, und sie kommt fast immer in derselben Form. Jemand aus der zweiten Reihe hebt die Hand und sagt: Und wenn das Ding Mist baut, wer ist dann dran? Meistens lachen ein paar, weil die Frage so einfach klingt. Sie ist es nicht. Die Antwort ist trotzdem kürzer, als die meisten erwarten.

Arbeit können Sie an eine KI abgeben. Verantwortung nicht. Das ist kein Moralsatz für die Kaffeeküche, sondern die Beschreibung der geltenden Rechtslage, und daran ändert sich auch am 9. Dezember 2026 nichts, wenn das neue Produkthaftungsrecht greift. Was sich ändert, ist etwas anderes: Wer Ihnen künftig etwas vorwerfen will, muss weniger beweisen. Und Ihr Versicherer liest seine Bedingungen gerade neu.

Eine Maschine ist kein Erfüllungsgehilfe

Das deutsche Zivilrecht hat für die Frage, wer für fremdes Fehlverhalten einsteht, einen eingespielten Weg. § 278 BGB sagt sinngemäß: Wer sich zur Erfüllung seiner Pflichten eines anderen bedient, muss dessen Verschulden wie eigenes vertreten. Der Lehrling verrechnet sich, der Betrieb haftet. So weit kennt das jeder.

Bei einer KI läuft dieser Weg ins Leere, und zwar aus einem banalen Grund: Die Vorschrift setzt eine Person voraus. Eine Software kann nicht schuldhaft handeln, weil sie im Sinne des Rechts überhaupt nicht handelt. Für § 831 BGB, den Verrichtungsgehilfen, gilt dasselbe. Auch der ist ein Mensch.

Daraus ziehen manche den falschen Schluss, es gebe eine Lücke. Die gibt es nicht. Wenn die Zurechnung über den Gehilfen ausfällt, bleibt die Haftung dort, wo sie ohnehin schon war: bei Ihnen. Sie schulden Ihrem Kunden eine mangelfreie Leistung. Womit Sie die erbringen, ist Ihre Sache. Ein Werkzeug entlastet Sie nicht, es ist Ihr Werkzeug.

Der Maßstab ist dann Ihre eigene Sorgfalt, und die zerfällt im Betrieb in drei sehr konkrete Pflichten: Sie müssen das Werkzeug sorgfältig auswählen, Sie müssen die Leute einweisen, die damit arbeiten, und Sie müssen den Einsatz überwachen. Das ist exakt die Struktur, die jeder Betrieb von seinen Maschinen kennt. Niemand käme auf die Idee, nach einem Unfall an der Fräse zu sagen, die Maschine sei schuld gewesen.

Die Haftung wandert nicht zur Maschine. Sie bleibt bei dem, der die Maschine angeschafft und in den Prozess gestellt hat.

Die Richtlinie, auf die viele warten, kommt nicht

Es gab einen Plan, das KI-spezifisch zu regeln. Die EU-Kommission hatte im September 2022 eine KI-Haftungsrichtlinie vorgeschlagen, die den AI Act ergänzen sollte. Kern war eine Beweiserleichterung: Wer als Geschädigter nicht in die Blackbox hineinsehen kann, sollte sich unter bestimmten Bedingungen auf eine Vermutung stützen dürfen.

Daraus wird nichts. Am 11. Februar 2025 hat die Kommission den Vorschlag in ihrem Arbeitsprogramm auf die Liste der zurückgezogenen Vorhaben gesetzt, mit der Begründung, eine Einigung sei nicht absehbar. Seitdem ist kein KI-Haftungsrecht in Arbeit, und es ist auch keines angekündigt.

Für Sie heißt das zweierlei, und nur eines davon ist gut. Gut ist: Es kommt keine weitere Pflichtenschicht obendrauf. Weniger gut ist: Es bleibt beim allgemeinen Recht, und das allgemeine Recht kennt Ihre Blackbox nicht. Wer Ihnen einen Fehler nachweisen will, muss ihn nach den normalen Regeln nachweisen. Wer sich umgekehrt verteidigen will, muss nach den normalen Regeln zeigen, dass er sorgfältig war. Beides geht nur mit Unterlagen. Wer keine hat, steht nicht neutral da, sondern schlecht.

Was am 9. Dezember 2026 wirklich passiert

Die Lücke, die die KI-Haftungsrichtlinie schließen sollte, wird an anderer Stelle kleiner. Die Richtlinie (EU) 2024/2853 vom 23. Oktober 2024 ersetzt das europäische Produkthaftungsrecht aus den Achtzigerjahren vollständig. Und sie tut etwas, das lange umstritten war: Artikel 4 Nummer 1 zählt Software ausdrücklich zum Produkt, unabhängig davon, wie sie bereitgestellt oder genutzt wird.

Der Stichtag wird dabei ständig falsch zitiert. Artikel 2 Absatz 1 sagt: Die Richtlinie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Nicht für Schäden ab diesem Tag, sondern für Produkte ab diesem Tag. Was Sie heute einkaufen, bleibt im alten Recht, auch wenn der Schaden erst in drei Jahren eintritt. Wer jetzt einführt, sollte das Datum also nicht als Frist lesen, sondern als Trennlinie durch den eigenen Systembestand.

In Deutschland läuft die Umsetzung sichtbar. Die Bundesregierung hat einen Entwurf für ein Gesetz zur Modernisierung des Produkthaftungsrechts vorgelegt, Bundestagsdrucksache 21/4297 vom 25. Februar 2026. Das Kabinett hat ihn am 17. Dezember 2025 beschlossen, die erste Lesung war am 4. März 2026, die Anhörung im Rechtsausschuss am 13. April 2026. Zweite und dritte Lesung stehen zum Zeitpunkt dieses Textes noch aus. Das Produkthaftungsgesetz von 1989 wird nicht geändert, sondern ersetzt.

Jetzt die Einschränkung, die in den meisten Beiträgen dazu fehlt: Produkthaftung trifft den Hersteller, nicht jeden Anwender. Wenn Sie ein zugekauftes System nur einsetzen, ist Ihr Lieferant der Adressat, nicht Sie. Interessant wird es an der Kante. Wer unter eigenem Namen vertreibt, wer ein Modell so verändert, dass daraus etwas wesentlich anderes wird, wer also nachtrainiert oder tief umbaut, kann selbst in die Herstellerrolle rutschen. Genau das passiert im Mittelstand gerade häufiger, als den Beteiligten bewusst ist.

Der Teil mit der größten praktischen Wirkung ist aber weder die Software noch der Stichtag. Es ist die Offenlegung. Die Richtlinie gibt Geschädigten einen Anspruch darauf, dass ihnen relevante Beweismittel vorgelegt werden, und knüpft an eine Weigerung Vermutungen zulasten der Gegenseite. Übersetzt in den Betriebsalltag: Wer nicht zeigen kann, wie sein System zu einer Entscheidung kam, verliert nicht bloß ein Argument. Er verliert die Vermutung.

Und dann kommt der Brief vom Versicherer

Die schnellste Veränderung kommt gar nicht vom Gesetzgeber. Sie kommt von den Versicherern, und sie kommt leise.

In den USA ist das inzwischen offen sichtbar. Die Stelle, die dort die Standardklauseln für die Betriebshaftpflicht herausgibt, hat im Januar 2026 einen Ausschluss für generative KI eingeführt: kein Versicherungsschutz für Personen- und Sachschäden sowie bestimmte weitere Schäden, die auf generative KI zurückgehen. Mehrere Versicherer haben zusätzlich pauschale KI-Ausschlüsse in Policen für Organhaftung und Beschäftigungsrisiken aufgenommen. In der Branche heißt das Ende des stillschweigenden Mitversicherns von KI.

Für den deutschen Markt lässt sich das nicht eins zu eins übertragen, und ich tue das ausdrücklich nicht. Hier läuft dieselbe Bewegung subtiler und gerade deshalb unangenehmer. Es steht selten das Wort KI im Ausschlusskatalog. Es steht in den Obliegenheiten. Wenn Ihr Vertrag verlangt, dass Sie anerkannte Regeln der Technik einhalten und Ihre internen Vorgaben befolgen, und Sie haben für den KI-Einsatz gar keine Vorgabe, dann ist der Weg zum Vorwurf der groben Fahrlässigkeit kurz.

Was Sie dagegen tun können, ist unspektakulär und kostet eine halbe Stunde. Nehmen Sie die aktuelle Fassung Ihrer Haftpflicht- und Cyberbedingungen und suchen Sie nach den Wörtern künstliche Intelligenz, automatisiert, algorithmisch und maschinelles Lernen. Vergleichen Sie das mit der Fassung, die Sie tatsächlich unterschrieben haben. Der Ausschluss kommt nämlich nicht als Brief mit Betreffzeile. Er kommt als neue Bedingungsfassung zur nächsten Verlängerung.

Alle drei Wege enden bei derselben Frage

Vertragshaftung, Produkthaftung, Versicherungsschutz. Drei Rechtsgebiete, drei verschiedene Gegenüber, und am Ende liegt in allen drei Fällen dieselbe Frage auf dem Tisch: Was können Sie zeigen? Ich habe das in Audits oft genug erlebt, um die beiden Antworttypen auswendig zu kennen.

• Schwach: Wir prüfen die Ausgaben natürlich. Belastbar: Hier ist die Freigaberegel, hier sind die Protokolle der letzten drei Monate, und hier sind die vier Fälle, in denen jemand widersprochen hat.
• Schwach: Der Anbieter ist zertifiziert. Belastbar: Hier ist unsere Auswahlentscheidung mit den Kriterien, hier sind seine Antworten auf unsere Fragen, und hier steht im Vertrag, was mit unseren Eingaben passiert.
• Schwach: Die Leute sind geschult. Belastbar: Hier ist der Inhalt, hier ist die Teilnehmerliste, und die Kollegin dort drüben erklärt Ihnen den Ablauf, ohne vorher nachzusehen.
• Schwach: Das System läuft stabil. Belastbar: Hier ist die Kennzahl, die wir monatlich messen, hier ist der Schwellenwert, und hier ist der Fall, in dem wir ihn gerissen und abgeschaltet haben.

Ein Beispiel, an dem das kippt, begegnet mir regelmäßig im Einkauf. Irgendwer legt fest: Alles unter fünf Euro darf das System selbst freigeben, das spart die Freizeichnung. Klingt vernünftig. Am nächsten Tag laufen zehn Bestellungen über 4,99 Euro durch. Wer es darauf anlegt, nimmt 4,95, 4,96, 4,97. Und der wirklich Gewitzte nimmt 4,99 in einer anderen Währung, weil die Prüfung nur die Zahl vergleicht und nicht den Betrag.

Der Punkt daran ist nicht die Lücke in der Regel. Der Punkt ist, dass jede dieser Bestellungen ein wirksamer Geschäftsvorgang ist. Der Lieferant hat einen Vertrag in der Hand. Das war die KI ist kein Rücktrittsgrund, den das Gesetz kennt. Sie haben das System eingesetzt, Sie haben die Grenze gezogen, und Sie haben die Grenze falsch gezogen. Alle drei Sätze stehen hinterher in Ihrer Verantwortung, nicht in der des Modells.

Wo die Norm das längst vorgedacht hat

ISO/IEC 42001 ist kein Haftungsrecht, und wer sie zertifizieren lässt, bekommt keinen Freibrief. Was die Norm liefert, ist die Ordnung für genau die Unterlagen, nach denen im Ernstfall gefragt wird. Das ist weniger, als manche versprechen, und deutlich mehr, als es im ersten Moment klingt.

Vier Stellen tragen dabei die Hauptlast. Anhang A.3.2 verlangt, dass KI-Rollen und Verantwortlichkeiten zugewiesen und bekannt sind, also die Antwort auf die Frage, wer unterschrieben hat. A.6.2.6 verlangt Betrieb und Überwachung des Systems, A.6.2.8 die Aufzeichnung von Ereignisprotokollen, und A.9.4 verlangt, die bestimmungsgemäße Nutzung festzulegen. Das ist die Stelle, an der die Grenze aus dem 4,99-Beispiel hingehört. Dazu kommt Klausel 6.1.4 mit der Folgenabschätzung, die als einzige nach außen fragt: Wen trifft es eigentlich, wenn das System danebenliegt?

Das Bemerkenswerte daran ist der Zeitpunkt. Diese Unterlagen sind wertlos, wenn sie nach dem Schaden entstehen. Ein Protokoll, das erst auf Nachfrage geschrieben wird, ist kein Protokoll, sondern eine Erinnerung. Genau deshalb rate ich Betrieben, die Nachweisseite vor der Zertifizierungsfrage zu klären. Der Zertifizierer kommt nach Termin. Der Schaden nicht.

Zurück zu der Hand in der zweiten Reihe. Die Antwort auf die Frage, wer dann dran ist, lautet: Sie. Genau wie vorher, als es noch keine KI im Haus gab. Der Unterschied ist nur, dass Sie es künftig belegen müssen, und dass Ihnen dafür noch knapp drei Monate bleiben, bevor das neue Produkthaftungsrecht die Trennlinie zieht. Wer trägt bei Ihnen die Verantwortung, wenn die KI falsch liegt, und in welchem Dokument steht das?