Anwälte reichen sechs von ChatGPT erfundene Urteile ein
Was passierte
In einem Verfahren vor dem Bundesgericht in New York stützten Anwälte einen Schriftsatz auf sechs Gerichtsentscheidungen, die ChatGPT frei erfunden hatte, und verteidigten sie zunächst sogar. Das Gericht verhängte eine Sanktion von 5.000 US$ und ordnete Korrekturbriefe an.
Fachliche Einordnung
Klassischer „theoretisch ja, praktisch nein“-Fall: das Werkzeug ist mächtig, die Sorgfaltspflicht bleibt beim Menschen. ISO/IEC 42001 und die AI-Literacy-Pflicht (Art. 4 EU AI Act) verlangen, dass Anwender die Grenzen ihrer KI kennen und Ergebnisse prüfen.
Mehrere Blickwinkel: Norm- & Regulierungs-Bezug
KI-Kompetenz (AI Literacy) und menschliche Aufsicht: Anwender müssen die Grenzen ihrer KI kennen und Ergebnisse prüfen.
Personal- und Kompetenzanforderungen sowie Verifikation und Validierung des KI-Outputs.
Einsatzkontext und Grenzen verstehen, bevor man sich auf den Output verlässt.
Solche Fälle im eigenen Betrieb verhindern
Ich helfe Ihnen, ein KI-Vorfall- und Beinahe-Vorfall-Verfahren nach ISO/IEC 42001 aufzubauen, das im Alltag trägt, mit klarer Aufsicht, Verantwortung und Lerneffekt statt Schuldzuweisung.
Unverbindliches ErstgesprächVerwandte Fälle
Beruht auf öffentlich zugänglicher Berichterstattung (Quellen oben). Die Einordnung ist fachliche Meinung, keine Rechtsberatung.