AI-Act-Hochrisiko-Selbstcheck: Ist meine KI wirklich hochriskant?

In fast jedem Erstgespräch kommt die gleiche Sorge auf den Tisch: „Lars, wir nutzen jetzt KI in der Qualitätskontrolle und einen Chatbot im Service. Sind wir damit Hochrisiko und müssen den ganzen Compliance-Apparat auffahren?" Meine Antwort beruhigt fast immer: In aller Regel nein. Hochrisiko ist nicht der Normalfall, sondern die klar definierte Ausnahme.

Der AI Act denkt in vier Risikoklassen

Die KI-Verordnung (Verordnung (EU) 2024/1689) verfolgt einen risikobasierten Ansatz. Sie reguliert nicht „KI" pauschal, sondern fragt: Was kann diese Anwendung im schlimmsten Fall anrichten? Daraus ergeben sich vier Stufen.

• Verbotene Praktiken (Art. 5): einige wenige, klar benannte Anwendungen wie Social Scoring, manipulatives Verhalten oder bestimmte biometrische Praktiken. Diese sind untersagt.
• Hochrisiko-KI: eng umrissene Einsatzfelder mit erheblichen Pflichten. Hier liegt der eigentliche Schwerpunkt der Verordnung.
• Begrenztes Risiko (Art. 50): Transparenzpflichten. Wer einen Chatbot betreibt oder KI-generierte Inhalte und Deepfakes erzeugt, muss das in der Regel kennzeichnen.
• Minimales Risiko: alles Übrige. Keine besonderen Pflichten aus dem AI Act.

Der entscheidende Punkt für den Mittelstand: Die große Mehrheit alltäglicher KI-Anwendungen landet in den unteren beiden Stufen. Hochrisiko muss man sich quasi „verdienen", und zwar über einen von zwei klar beschriebenen Wegen.

Hochrisiko entsteht nur über zwei Wege

Eine KI ist nicht hochriskant, weil sie „wichtig" oder „mächtig" ist. Sie ist es nur, wenn sie einen der beiden gesetzlich festgelegten Pfade trifft. Wer beide kennt, kann seine eigene Anwendung in wenigen Minuten grob einordnen.

Weg A: Anhang III, die acht Einsatzbereiche

Anhang III listet acht Bereiche auf, in denen KI als hochriskant gilt, weil sie unmittelbar auf Grundrechte, Sicherheit oder Lebenschancen von Menschen wirkt. Prüfen Sie ehrlich, ob Ihre Anwendung in einen davon fällt:

• Biometrie (z. B. biometrische Identifizierung)
• Kritische Infrastruktur (z. B. Steuerung von Strom-, Wasser- oder Verkehrsnetzen)
• Allgemeine und berufliche Bildung (z. B. Bewertung von Prüfungsleistungen, Zugang zu Bildung)
• Beschäftigung und Personalmanagement (z. B. KI für Bewerberauswahl oder Mitarbeiterbewertung)
• Zugang zu wesentlichen privaten und öffentlichen Diensten (z. B. Kreditwürdigkeitsprüfung, Risikobewertung in der Lebens- oder Krankenversicherung)
• Strafverfolgung
• Migration, Asyl und Grenzkontrolle
• Justiz und demokratische Prozesse

Sehen Sie sich hier nicht? Dann ist Weg A für Sie in aller Regel bereits erledigt. Genau hier liegt die Entwarnung für viele Industrie- und Dienstleistungsbetriebe: Eine Maschine, die per Kamera Ausschuss erkennt, oder ein Modell, das den Materialbedarf prognostiziert, gehört in keinen dieser acht Bereiche.

Weg B: Anhang I, KI als Sicherheitsbauteil in Produkten

Der zweite Weg betrifft KI, die als Sicherheitsbauteil in einem bereits regulierten Produkt steckt und einer Konformitätsbewertung unterliegt. Gemeint sind etwa Maschinen, Medizinprodukte, Aufzüge oder Spielzeug. Wenn die KI dort sicherheitsrelevante Funktionen übernimmt, wird sie über die jeweilige Produktregulierung mit erfasst.

Für viele Hersteller ist das vertrautes Terrain: Sie durchlaufen ohnehin schon eine Konformitätsbewertung. Der AI Act hängt sich an diese bestehende Logik an, statt eine völlig neue Welt zu erschaffen. Für reine Anwender, die solche Produkte nur einsetzen, ist Weg B meist nicht einschlägig.

Hochrisiko ist kein Bauchgefühl. Entweder Ihre KI trifft einen der acht Anhang-III-Bereiche, oder sie steckt als Sicherheitsbauteil in einem regulierten Produkt nach Anhang I. Beides nicht? Dann ist sie es in aller Regel nicht.

Die wichtigste Ausnahme: Anhang III heißt nicht automatisch Hochrisiko

Jetzt kommt die Regel, die in der Praxis am meisten Entlastung bringt und die viele übersehen. Selbst wenn eine KI nominell in einen Anhang-III-Bereich fällt, kann sie als nicht hochriskant gelten. Die Verordnung sieht dafür in Art. 6 Abs. 3 eine Ausnahme vor.

Sie greift, wenn die KI nur eine vorbereitende oder eng begrenzte Hilfsaufgabe erfüllt und kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt. Ein System, das etwa nur eingehende Dokumente vorsortiert oder eine rein unterstützende Nebenfunktion liefert, ohne die eigentliche Entscheidung zu treffen, kann trotz Anhang-III-Bezug aus der Hochrisiko-Klasse herausfallen. Eine Ausnahme von dieser Ausnahme gibt es allerdings: Sobald die KI ein Profiling natürlicher Personen vornimmt, bleibt sie nach Art. 6 Abs. 3 immer hochriskant.

Wichtig: Diese Einordnung müssen Sie sauber begründen und dokumentieren können. Sie ist kein Freifahrtschein, sondern eine bewusste, nachvollziehbare Bewertung. Genau das ist der Übergang von der Frage „Sind wir hochriskant?" zur Frage „Können wir unsere Antwort belegen?".

Typische Mittelstands-KI und wo sie wirklich landet

Schauen wir auf die Anwendungen, die mir am häufigsten begegnen. Die Einordnung fällt fast immer beruhigend aus.

• Predictive Maintenance (vorausschauende Wartung): in aller Regel minimales Risiko.
• Qualitätskontrolle per Kamera und Bildverarbeitung in der Fertigung: in aller Regel minimales Risiko.
• Nachfrage- und Bedarfsprognose: in aller Regel minimales Risiko.
• Interner Chatbot oder Service-Chatbot: meist begrenztes Risiko, also Transparenz- bzw. Kennzeichnungspflicht, nicht Hochrisiko.
• Textgenerierung und KI-Assistenten: meist begrenztes Risiko mit Kennzeichnung von KI-generierten Inhalten.

Hochrisiko wird daraus erst, wenn dieselbe Technik in einen der sensiblen Bereiche wandert. Dieselbe Textanalyse ist harmlos, wenn sie Service-Tickets sortiert, und potenziell hochriskant, wenn sie über Bewerbungen entscheidet. Es kommt nicht auf die Technologie an, sondern auf den Zweck und den Kontext.

Wann gilt was? Die Fristen im Überblick

Der AI Act tritt nicht auf einen Schlag in Kraft, sondern gestaffelt. Das gibt Ihnen Zeit zum Sortieren, statt in Hektik zu verfallen.

• 02.02.2025: Verbote (Art. 5) und die Pflicht zur KI-Kompetenz / AI Literacy (Art. 4) gelten.
• 02.08.2025: Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) sowie Governance- und Behördenstruktur.
• 02.08.2026: Hochrisiko-Pflichten nach Anhang III.
• 02.08.2027: Hochrisiko-Pflichten für Produkte nach Anhang I.

Beachten Sie: Die Pflicht zur KI-Kompetenz nach Art. 4 trifft alle, die KI einsetzen, unabhängig von der Risikoklasse. Ihre Mitarbeiter sollten verstehen, womit sie arbeiten. Das ist keine Hochrisiko-Frage, sondern gesunder Menschenverstand mit Rechtsgrundlage.

Der Selbstcheck in vier Fragen

Wenn Sie für eine konkrete Anwendung schnell eine erste Einschätzung brauchen, arbeiten Sie diese vier Fragen der Reihe nach ab. Sie ersetzen keine vollständige rechtliche Bewertung des Einzelfalls, sortieren aber die meisten Fälle sauber vor.

• 1. Ist es eine verbotene Praktik nach Art. 5 (z. B. Social Scoring)? Wenn ja, ist die Anwendung untersagt. Für die typische Mittelstands-KI fast nie der Fall.
• 2. Fällt die Anwendung in einen der acht Anhang-III-Bereiche oder ist sie Sicherheitsbauteil nach Anhang I? Wenn nein, ist sie in aller Regel nicht hochriskant.
• 3. Falls Anhang III: Greift die Ausnahme nach Art. 6 Abs. 3, weil die KI nur eine vorbereitende oder eng begrenzte Aufgabe erfüllt? Dann kann sie trotzdem aus Hochrisiko herausfallen, sauber dokumentiert.
• 4. Sonst prüfen: Brauchen Sie Transparenz nach Art. 50 (Chatbot, KI-Inhalte kennzeichnen)? Wenn ja, begrenztes Risiko. Wenn nein, minimales Risiko.

Die richtige Frage lautet nicht „Nutzen wir KI?", sondern „Wofür genau und mit welcher Wirkung auf Menschen?". Daraus ergibt sich die Risikoklasse fast von selbst.

Warum ein KI-Managementsystem hier den Unterschied macht

Unabhängig davon, in welche Klasse Ihre KI fällt, brauchen Sie eine belastbare Antwort, wenn ein Kunde, ein Versicherer oder eine Behörde nachfragt. Genau dafür ist ISO/IEC 42001 gebaut. Die Norm gibt Ihnen eine Struktur, um Ihre KI-Anwendungen systematisch zu erfassen, zu bewerten und zu steuern.

Der Selbstcheck oben ist die Momentaufnahme. Ein KI-Managementsystem nach ISO/IEC 42001 macht daraus einen dauerhaften, nachvollziehbaren Prozess: Sie dokumentieren, warum eine Anwendung in welche Klasse fällt, halten das aktuell und können es auf Nachfrage vorlegen. Das ist in der Praxis oft mehr wert als die Klasse selbst, denn es zeigt: Hier wird KI bewusst und kontrolliert eingesetzt.

Ein Hinweis zur Einordnung: Diese Übersicht ersetzt keine rechtliche Prüfung des Einzelfalls. Sie hilft Ihnen, die richtigen Fragen zu stellen und mit klarem Kopf statt mit Bauchschmerzen an das Thema heranzugehen. In den allermeisten Mittelstandsfällen ist die ehrliche Antwort am Ende: kein Hochrisiko, aber gut, dass Sie hingeschaut haben.