Unternehmen haftet für falsche Chatbot-Auskunft
Was passierte
Der Chatbot der Airline stellte einem Kunden im Trauerfall rückwirkende Trauer-Tarife in Aussicht, die es nicht gab. Das B.C. Civil Resolution Tribunal entschied in „Moffatt v. Air Canada“, dass das Unternehmen für die Auskunft seines Chatbots haftet, und sprach Schadenersatz zu (rund 812 CAD).
Fachliche Einordnung
Das Argument „die KI war's, nicht wir“ zog nicht. Wer KI kundenwirksam einsetzt, haftet für ihren Output. ISO/IEC 42001 verlangt klare Verantwortlichkeiten, Eingriffsmöglichkeiten und Protokollierung, damit eine Fehlauskunft erkannt und korrigiert werden kann.
Mehrere Blickwinkel: Norm- & Regulierungs-Bezug
Transparenzpflicht (Nutzer müssen wissen, dass sie mit KI sprechen) und menschliche Aufsicht über die ausgegebenen Auskünfte.
Betrieb und Überwachung, verantwortungsvolle Nutzung sowie klar benannte Rollen und Verantwortlichkeiten für das, was der Bot sagt.
Verantwortlichkeiten festlegen und KI-Verhalten im Betrieb steuerbar halten.
Solche Fälle im eigenen Betrieb verhindern
Ich helfe Ihnen, ein KI-Vorfall- und Beinahe-Vorfall-Verfahren nach ISO/IEC 42001 aufzubauen, das im Alltag trägt, mit klarer Aufsicht, Verantwortung und Lerneffekt statt Schuldzuweisung.
Unverbindliches ErstgesprächBeruht auf öffentlich zugänglicher Berichterstattung (Quellen oben). Die Einordnung ist fachliche Meinung, keine Rechtsberatung.