KI-Coach bewertet Mitarbeiter: Training oder Leistungskontrolle?

Ein KI-Dienstleister verkauft einen Übungscoach für den Vertrieb. Der Mitarbeiter führt ein Verkaufsgespräch mit einer simulierten Kundin. Macht er einen Fehler, unterbricht ihn die KI und erklärt, was besser gewesen wäre. Am Ende steht eine Bewertung nach festen Kriterien, etwa Bedarf erfragt, Einwand behandelt, Abschluss versucht. Punkte je Kriterium, dazu eine Gesamtnote.

Ich finde die Idee gut. Üben ohne echten Kunden ist billig, und niemand blamiert sich vor den Kollegen. Ich habe bis in die Oberliga Bremen Fußball gespielt. Training funktioniert nur, solange man dort Fehler machen darf. Genau an dieser Stelle hat der Coach ein Problem. Er sieht aus wie Training. Rechtlich ist er eine Leistungsbewertung, und dafür gelten andere Regeln.

Derselbe Anbieter sagt öffentlich, Human in the Loop sei überholt. Man müsse einen Agenten zwischenschalten, der prüft, ob die Arbeit des Menschen richtig ist. Damit dreht er die Aufsicht um. Was das für den Coach bedeutet, kommt weiter unten. Vorher die Frage, die jeder Geschäftsführer zuerst stellen sollte: Was macht das Ding eigentlich mit den Daten?

Was der Coach mit jedem Gespräch macht

Technisch läuft so ein Coach im Kern gleich ab. Er nimmt die Stimme auf, schreibt das Gespräch mit, vergleicht es mit den Kriterien und vergibt Punkte. Die Punkte hängen an einem Benutzerkonto. Das Konto hängt an einem Namen. Nach drei Monaten liegt für jeden Mitarbeiter eine Reihe von Noten vor, sauber nach Datum sortiert.

Damit ist der Coach ein Fall von Profiling. Art. 4 Nr. 4 DSGVO versteht darunter jede automatisierte Verarbeitung, die persönliche Aspekte einer Person bewertet. Als Beispiele stehen dort ausdrücklich Arbeitsleistung und Verhalten. Die KI-Verordnung übernimmt genau diesen Begriff (Art. 3 Nr. 52 KI-VO). Ob die Kundin echt ist oder simuliert, spielt dafür keine Rolle. Bewertet wird die Person, die spricht.

Heikel wird es in den Verwaltungseinstellungen. Gibt es dort eine Teamansicht für Führungskräfte, steht darin, wer wie oft geübt hat und wer bei welchem Kriterium schwach ist. Prüfen Sie, ob sich diese Ansicht abschalten lässt. Wer sie einschaltet, hat aus einem Trainingswerkzeug ein Leistungsregister gemacht, ob er das wollte oder nicht.

Eine Funktion gehört sofort abgeschaltet. Bietet der Coach an, aus dem Tonfall Nervosität oder fehlende Begeisterung herauszulesen, ist das keine Frage der Mitbestimmung mehr. Art. 5 Abs. 1 Buchst. f KI-VO verbietet seit dem 2. Februar 2025 KI-Systeme, die Emotionen einer Person am Arbeitsplatz ableiten. Ausnahmen gibt es nur aus medizinischen Gründen oder Sicherheitsgründen. Ein Verkaufstraining ist beides nicht. Mehr zu diesem Verbot steht in meinem Beitrag über heimliches Mitarbeiter-Profiling.

Der Betriebsrat redet schon heute mit

§ 87 Abs. 1 Nr. 6 BetrVG gibt dem Betriebsrat ein Mitbestimmungsrecht bei technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Das Wort „bestimmt“ verleitet zu einem Fehlschluss. Viele lesen es so: Unser Coach ist zum Üben bestimmt, also ist er nicht betroffen. Das Bundesarbeitsgericht legt die Vorschrift seit Jahrzehnten anders aus. Es reicht, dass die Einrichtung objektiv geeignet ist, Leistung oder Verhalten zu überwachen. Was der Arbeitgeber damit vorhat, ist für diese Frage egal.

Ein Coach, der Punkte je Person speichert, ist der Lehrbuchfall. Ohne Zustimmung des Betriebsrats oder einen Spruch der Einigungsstelle darf er nicht eingeführt werden. In der Praxis heißt das: eine Betriebsvereinbarung, bevor der erste Mitarbeiter übt. Der Pilot mit fünf Freiwilligen aus dem Vertrieb läuft ebenfalls mit echten Beschäftigten und echten Noten. Ich würde ihn nicht ohne Betriebsrat starten.

Mit oder ohne Betriebsrat gilt die DSGVO. Art. 5 Abs. 1 Buchst. b verlangt festgelegte, eindeutige und legitime Zwecke. Ein Coach, dessen Zweck niemand aufgeschrieben hat, hat keinen festgelegten Zweck. Wer die Punkte später doch im Jahresgespräch nutzt, verarbeitet sie für einen neuen Zweck. Der muss mit dem alten vereinbar sein. Aus meiner Sicht passt eine Beurteilung selten zu einem Zweck, der vorher Üben hieß.

Ab Dezember 2027: Hochrisiko auch ohne Personalentscheidung?

Die KI-Verordnung führt in Anhang III Nr. 4 die Beschäftigung als Hochrisikobereich. Buchstabe b nennt drei Fälle. Der erste betrifft Entscheidungen über Arbeitsbedingungen, Beförderungen und Kündigungen. Der zweite die Zuweisung von Aufgaben nach Verhalten oder persönlichen Merkmalen. Der dritte steht für sich.

„… für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen …“ Verordnung (EU) 2024/1689, Anhang III Nr. 4 Buchst. b

Eine Personalentscheidung verlangt dieser dritte Fall nicht. Nach dem Wortlaut reicht die Bewertung der Leistung. Offen ist, ob eine reine Übungsrückmeldung darunter fällt, die außer dem Mitarbeiter niemand sieht. Mir ist dazu kein Urteil bekannt. Ich würde mich nicht darauf verlassen, dass sie herausfällt.

Den Ausweg aus Art. 6 Abs. 3 KI-VO kennen viele. Ein System aus Anhang III gilt danach nicht als hochriskant, wenn es kein erhebliches Risiko birgt, etwa weil es nur eine eng gefasste Verfahrensaufgabe erledigt oder eine Bewertung bloß vorbereitet. Für den Coach ist diese Tür zu. Derselbe Absatz sagt in seinem letzten Unterabsatz: Ein System aus Anhang III, das ein Profiling natürlicher Personen vornimmt, gilt immer als hochriskant. Ein Coach, der benannte Mitarbeiter benotet, betreibt Profiling. Siehe oben.

Wann das greift, regelt Art. 113 Buchst. c Ziff. i in der Fassung der Verordnung (EU) 2026/1744. Die Pflichten für Hochrisiko-Systeme aus Anhang III gelten ab dem 2. Dezember 2027. Das klingt weit weg. Ein Coach, der heute eingeführt wird, sammelt bis dahin aber gut 13 Monate Noten. Die Betriebsvereinbarung von heute muss die Lage von morgen aushalten.

Entscheidend ist dabei, wofür der Anbieter den Coach bestimmt hat. Art. 3 Nr. 12 KI-VO zählt zur Zweckbestimmung ausdrücklich auch das Werbe- und Verkaufsmaterial. Steht im Prospekt ein Satz wie „bewertet Ihre Mitarbeiter nach festen Kriterien“, ist das die Zweckbestimmung. Lesen Sie den Prospekt also so, wie ihn eine Aufsichtsbehörde lesen würde.

Wer den Coach umwidmet, wird selbst Anbieter

Die heikelste Stelle liegt im eigenen Haus. Angenommen, der Anbieter hat sauber gearbeitet und den Coach als reines Trainingswerkzeug ohne Teamansicht gebaut und nicht als hochriskant eingestuft. Der Vertriebsleiter exportiert trotzdem jeden Monat die Punkte in eine Tabelle und bespricht sie im Jahresgespräch. Ab diesem Moment wird das Werkzeug für etwas verwendet, für das es nicht gebaut wurde.

Art. 25 Abs. 1 Buchst. c KI-VO hat für diesen Fall eine klare Folge. Wer die Zweckbestimmung eines KI-Systems, das nicht als hochriskant eingestuft war, so verändert, dass es zum Hochrisiko-System wird, gilt selbst als Anbieter. Er trägt dann die Anbieterpflichten aus Art. 16. Die reichen vom Qualitätsmanagementsystem über die Konformitätsbewertung bis zur CE-Kennzeichnung und Registrierung. Für einen Mittelständler, der nur üben wollte, ist das ein Projekt, das niemand budgetiert hat.

Die Tabelle ist der Moment, auf den es ankommt. Kein Anbieter sieht sie. Kein Vertrag verbietet sie. Im Audit frage ich deshalb zuerst gar nicht nach dem Coach. Ich frage, wohin seine Zahlen fließen.

Der Agent, der den Menschen prüft

Zurück zum Satz des Anbieters, Human in the Loop sei überholt. Ein zweiter Agent soll prüfen, ob die Arbeit des Menschen richtig ist. Für Hochrisiko-Systeme sieht die KI-Verordnung die umgekehrte Richtung vor. Art. 14 Abs. 1 verlangt, dass solche Systeme von natürlichen Personen wirksam beaufsichtigt werden können. Art. 26 Abs. 2 verpflichtet den Betreiber, diese Aufsicht Menschen mit der nötigen Kompetenz, Ausbildung und Befugnis zu übertragen. Der Mensch steht über dem System. Ein Agent, der den Menschen kontrolliert, ersetzt diese Aufsicht nicht. Er ist ein weiteres System, das selbst beaufsichtigt werden muss.

Beim Coach heißt das ganz praktisch: Wer prüft, ob die KI richtig bewertet? Ein Beispiel. Ein Mitarbeiter lehnt im Übungsgespräch einen Rabatt ab, weil die Marge es nicht hergibt. Der Coach wertet das als „Einwand nicht behandelt“. Fachlich war die Antwort richtig. Gibt es keinen Weg, die Bewertung anzufechten, lernt der Mitarbeiter das Falsche. Und zwar mit Note.

Richtig gebaut, ist genau das die Stärke des Werkzeugs. Ein Coach, dessen Kriterien der Vertriebsleiter festlegt und regelmäßig an echten Gesprächen prüft, macht ein Team besser. Die Leute üben öfter, weil es nichts kostet und niemand zusieht. Diese zweite Bedingung ist der Kern. Fällt sie weg, üben die Leute für die Note und nicht mehr für den Kunden.

Vier Regeln, mit denen der Coach bleiben darf

Steuern statt blockieren heißt hier: vier Regeln, die vor dem ersten Gespräch schriftlich stehen.

• Die Bewertung bleibt beim Mitarbeiter. Führungskräfte sehen höchstens, ob geübt wurde, und Teamwerte nur in Gruppen, in denen sich niemand herausrechnen lässt.
• Sie geht nicht ins Personalsystem. Kein Export, keine Schnittstelle zur Personalakte, Aufnahmen und Punkte werden nach einer festen Frist gelöscht.
• Der Zweck steht schriftlich fest. Training, sonst nichts. Das ist die Zweckbindung aus Art. 5 Abs. 1 Buchst. b DSGVO und die bestimmungsgemäße Nutzung nach ISO/IEC 42001, A.9.4.
• Der Betriebsrat ist vorher eingebunden. Die Betriebsvereinbarung steht, bevor der erste Mitarbeiter übt (§ 87 Abs. 1 Nr. 6 BetrVG). Ab dem 2. Dezember 2027 kommt für Hochrisiko-Systeme die Informationspflicht aus Art. 26 Abs. 7 KI-VO dazu.

Die vier Regeln machen das Werkzeug nicht frei. Sie machen es verhandelbar. Ein Betriebsrat, dem man zeigt, dass die Punkte das Training nicht verlassen, hat einen Grund zuzustimmen. Ein Betriebsrat, dem man eine Teamansicht mit Rangliste zeigt, hat keinen.

Als Auditor will ich dazu Nachweise sehen, keine Absichtserklärungen. Die Rechteeinstellung, die zeigt, dass Führungskräfte keine Einzelwerte sehen. Den abgeschalteten Export. Das Löschprotokoll. Und eine Folgenabschätzung für die Beschäftigten nach ISO/IEC 42001, A.5.4: Welche Folgen hat der Coach für die Person, die bewertet wird? Druck, Angst vor Fehlern, Noten, die doch irgendwo auftauchen. Wer A.5.4 aus der Erklärung zur Anwendbarkeit streicht, muss das begründen (ISO/IEC 42001, 6.1.3). Bei einem System, das Menschen benotet, fällt mir keine gute Begründung ein.

Drei Fragen an den Anbieter, bevor Sie unterschreiben. Wo liegen die Punkte, und wer sieht sie? Lässt sich die Teamansicht abschalten, und wird protokolliert, wenn jemand sie wieder einschaltet? Und was steht in Ihrem Werbematerial über den Zweck? Die Antwort auf die dritte Frage entscheidet über die Einstufung mit.

Bleibt eine Frage, die nur Sie beantworten können: Wer in Ihrem Haus würde merken, wenn die Punkte aus dem Training im Jahresgespräch auftauchen?