KI-Beratungsreport voller erfundener Quellen
Was passierte
In KPMGs Report „Total Experience: Redefining Excellence in the Age of Agentic AI“ fand eine Analyse von GPTZero, dass nur 5 von 45 Quellenangaben korrekt auf die zitierte Quelle zeigten; der Rest war verstümmelt, irreführend oder erfunden („vibe citing“). KPMG zog den Report zurück.
Fachliche Einordnung
Ausgerechnet ein KI-Beratungs-Output ohne menschliche Endprüfung. Der Kern: KI darf entwerfen, aber ein Mensch muss freigeben. ISO/IEC 42001 verlangt genau diese menschliche Aufsicht und eine dokumentierte Kontrolle des Outputs vor der Auslieferung.
Mehrere Blickwinkel: Norm- & Regulierungs-Bezug
Menschliche Aufsicht und Genauigkeit: KI-Output muss vor Verwendung kontrolliert werden, nicht ungeprüft veröffentlicht.
Verifikation und Validierung sowie Betrieb und Überwachung des KI-Systems: Richtigkeit des Outputs als nachweisbarer Schritt vor der Auslieferung.
Risiken generativer KI (Konfabulation) messen und im Einsatz aktiv steuern.
Solche Fälle im eigenen Betrieb verhindern
Ich helfe Ihnen, ein KI-Vorfall- und Beinahe-Vorfall-Verfahren nach ISO/IEC 42001 aufzubauen, das im Alltag trägt, mit klarer Aufsicht, Verantwortung und Lerneffekt statt Schuldzuweisung.
Unverbindliches ErstgesprächVerwandte Fälle
Beruht auf öffentlich zugänglicher Berichterstattung (Quellen oben). Die Einordnung ist fachliche Meinung, keine Rechtsberatung.