Als das Europäische Parlament im März 2024 mit großer Mehrheit für den AI Act stimmte, war die Reaktion gespalten. Technologieunternehmen sprachen von überbordender Bürokratie, Bürgerrechtsorganisationen feierten den Beschluss als historischen Durchbruch. Beides ist, auf seine Art, zutreffend. Denn der AI Act ist kein einfaches Regelwerk – er ist ein komplexes, in seiner Reichweite beispielloses Gesetz, das die Art und Weise, wie Künstliche Intelligenz in Europa entwickelt, vermarktet und eingesetzt werden darf, grundlegend neu ordnet.
Offiziell in Kraft getreten am 1. August 2024, gilt der AI Act als erste umfassende gesetzliche Regulierung Künstlicher Intelligenz weltweit. Seine Umsetzung erfolgt gestaffelt über mehrere Jahre. Wer heute KI-Systeme entwickelt oder einsetzt, muss verstehen, was dieses Gesetz konkret fordert – und was es nicht fordert.
Ein risikobasierter Ansatz: Das Herzstück des AI Act
Das Grundprinzip des AI Act ist so elegant wie anspruchsvoll: Nicht jede KI-Anwendung trägt dasselbe Risikopotenzial. Deshalb staffelt das Gesetz seine Anforderungen nach vier Risikoklassen. Je höher das potenzielle Risiko für Grundrechte, Sicherheit oder gesellschaftliche Stabilität, desto strenger die Vorschriften.
Die vier Kategorien umfassen inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko. KI-Systeme der ersten Kategorie – etwa Social Scoring durch staatliche Stellen oder biometrische Echtzeitüberwachung im öffentlichen Raum – sind schlicht verboten. Systeme mit hohem Risiko, zum Beispiel in der medizinischen Diagnostik, bei Kreditentscheidungen oder im Bewerbungsverfahren, unterliegen umfangreichen Transparenz-, Dokumentations- und Auditpflichten. Für Systeme mit begrenztem Risiko wie Chatbots gilt im Wesentlichen eine Kennzeichnungspflicht.
Was zunächst übersichtlich klingt, entpuppt sich in der Praxis als deutlich komplexer. Die genaue Einstufung eines Systems hängt von seinem konkreten Verwendungszweck, dem Kontext und dem Grad der Automatisierung ab. Ein KI-gestütztes Textanalyse-Tool kann je nach Einsatzfeld einmal als geringfügig, einmal als hochriskant eingestuft werden.
Was gilt als Hochrisiko-KI – und warum ist das so wichtig?
Für Unternehmen ist die Frage, ob ihr KI-System als Hochrisiko-System gilt, von unmittelbarer wirtschaftlicher Bedeutung. Denn damit verbunden sind erhebliche Compliance-Aufwände: technische Dokumentation, Risikomanagement, Datenverwaltung, menschliche Aufsicht und eine Konformitätsbewertung vor Markteinführung. Für viele mittelständische Entwickler stellen diese Anforderungen eine erhebliche Herausforderung dar.
Anhang III des AI Act listet die betroffenen Anwendungsbereiche konkret auf:
- Biometrische Identifizierung und Kategorisierung natürlicher Personen
- KI in kritischer Infrastruktur (Strom, Wasser, Verkehr)
- Bildung und Berufsausbildung (z. B. automatisierte Prüfungsbewertung)
- Beschäftigung und Personalverwaltung (z. B. Bewerberscreening, Leistungsbewertung)
- Zugang zu wesentlichen privaten und öffentlichen Diensten (z. B. Kreditwürdigkeitsprüfung)
- Strafverfolgung und Migration
- Rechtspflege und demokratische Prozesse
Gerade der Bereich Personalwesen sorgt in der Praxis für Diskussionen. Viele Unternehmen setzen bereits heute KI-gestützte Tools für die Vorauswahl von Bewerbungen ein – oft ohne zu wissen, dass sie damit möglicherweise unter die Hochrisiko-Kategorie fallen. Wer hier nicht rechtzeitig prüft und handelt, riskiert nach Ablauf der Übergangsfrist erhebliche Sanktionen.
Verbotene KI-Praktiken: Was Europa kategorisch ablehnt
Unabhängig von Risikoklassen definiert der AI Act einen harten Kern an Verboten. Diese gelten für alle Akteure – unabhängig davon, ob sie Entwickler, Importeure oder bloße Nutzer eines Systems sind. Verboten sind unter anderem:
- Unterschwellige Manipulation, die Menschen unbewusst beeinflusst
- Ausnutzung von Schwächen bestimmter Bevölkerungsgruppen (z. B. Kinder, ältere Menschen)
- Social Scoring durch staatliche oder halbstaatliche Behörden
- Biometrische Echtzeit-Fernidentifikation in öffentlichen Räumen durch Strafverfolgungsbehörden (mit engen Ausnahmen)
- Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen
- KI-gestützte Erstellung von Gesichtsdatenbanken durch unkontrolliertes Scraping aus dem Internet
„Der AI Act definiert keine Technologie-Verbote, sondern Anwendungsverbote. Die Frage ist nicht, was eine KI kann – sondern wozu sie eingesetzt wird."
— Sinngemäß aus den begleitenden Stellungnahmen des Ausschusses für bürgerliche Freiheiten, Justiz und Inneres (LIBE) des Europäischen Parlaments
Diese Verbote traten bereits sechs Monate nach Inkrafttreten des Gesetzes, also im Februar 2025, in Kraft. Unternehmen, die entsprechende Systeme einsetzen, mussten bis dahin reagieren – oder riskieren Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.
Transparenz, Rechenschaftspflicht und menschliche Aufsicht
Neben den Risikoklassen und Verboten zieht sich ein weiteres zentrales Prinzip durch den gesamten AI Act: Transparenz. Nutzerinnen und Nutzer müssen wissen, wenn sie mit einem KI-System interagieren. Das gilt besonders für sogenannte General Purpose AI Models (GPAI), also Allzweck-KI-Modelle wie große Sprachmodelle.
Anbieter solcher Modelle – dazu zählen auch Unternehmen wie OpenAI, Google oder Anthropic, sofern ihre Produkte in Europa verfügbar sind – müssen technische Dokumentation bereitstellen, Urheberrechtsvorgaben einhalten und für hinreichende Transparenz bezüglich der Trainingsdaten sorgen. Für besonders leistungsstarke Modelle (ab einem Rechenaufwand von mehr als 10²⁵ FLOP im Training) gelten darüber hinaus systemische Risikobewertungen und erweiterte Meldepflichten.
Der Grundsatz der menschlichen Aufsicht ist ein weiteres Kernelement. Hochrisiko-KI-Systeme dürfen nur so konzipiert sein, dass eine natürliche Person in der Lage ist, ihre Funktionsweise zu überwachen, zu verstehen und im Zweifelsfall zu übersteuern. Das stellt Entwickler vor nicht triviale technische Anforderungen – insbesondere bei tief vernetzten und selbstlernenden Systemen.
Eng damit verknüpft ist die Frage der digitalen Souveränität Europas. Das Streben, eigene technologische Infrastrukturen aufzubauen und zu kontrollieren, verbindet den AI Act konzeptionell mit anderen europäischen Digitalvorhaben. Unser Beitrag GAIA-X: Europas Cloud-Projekt zwischen Anspruch und Wirklichkeit beleuchtet, wie ambitioniert – und wie schwierig – dieser Weg in der Praxis ist.
Fristen, Übergangszeiträume und was jetzt zu tun ist
Der AI Act folgt einem gestaffelten Zeitplan, der Unternehmen zumindest etwas Spielraum zur Anpassung lässt. Die wichtigsten Meilensteine im Überblick:
- August 2024: Inkrafttreten des Gesetzes
- Februar 2025: Verbote für inakzeptable Risiken werden anwendbar
- August 2025: Regelungen für GPAI-Modelle und Governance-Strukturen greifen
- August 2026: Anforderungen für Hochrisiko-Systeme (Anhang III) werden vollständig anwendbar
- August 2027: Vollständige Geltung des AI Act, einschließlich aller produktsicherheitsbezogenen KI-Systeme
Was bedeutet das konkret für Unternehmen? Zunächst: Eine vollständige Bestandsaufnahme aller eingesetzten KI-Systeme ist unumgänglich. Viele Unternehmen – gerade im Mittelstand – haben schlicht keinen Überblick darüber, welche KI-Tools in welchen Abteilungen zu welchem Zweck genutzt werden. Shadow-IT, also unregistrierte Softwarenutzung, ist hier ein ernsthaftes Problem.
Sodann gilt es, eine Risikoklassifizierung vorzunehmen, Verantwortlichkeiten zu benennen und – wo nötig – technische Anpassungen einzuleiten. Für Unternehmen, die gleichzeitig mit Cyberrisiken und regulatorischen Anforderungen aus anderen EU-Rechtsakten konfrontiert sind, empfiehlt sich ein integrierter Ansatz. Wer sich mit der Absicherung digitaler Infrastrukturen befasst, findet in unserem Beitrag NIS2-Richtlinie: Was Unternehmen jetzt wissen müssen weiterführende Informationen zu verwandten Compliance-Pflichten.
Kritik und offene Fragen: Ist der AI Act wirklich praxistauglich?
Kein Gesetz dieser Komplexität ist frei von Kritik. Und beim AI Act gibt es durchaus substanzielle Einwände – jenseits reflexhafter Regulierungsfeindlichkeit.
Befürworter des Gesetzes argumentieren:
- Europa setzt globale Standards und verhindert einen „Race to the Bottom" bei KI-Sicherheit
- Klare Regeln schaffen langfristig Planungssicherheit für Unternehmen
- Grundrechte werden in digitalen Räumen gestärkt
- Vertrauen in KI-Systeme wird gefördert – ein Wettbewerbsvorteil in sensiblen Branchen
Kritiker hingegen bemängeln:
- Übermäßiger Bürokratieaufwand benachteiligt europäische Start-ups gegenüber US- oder chinesischen Wettbewerbern
- Unklare Definitionen bei der Risikoklassifizierung führen zu Rechtsunsicherheit
- Nationale Aufsichtsbehörden sind personell und technisch häufig nicht ausreichend ausgestattet
- Der AI Act entstand in einer Phase, als Generative KI noch nicht dominant war – Anpassungen sind absehbar nötig
Letzterer Punkt ist besonders heikel. Die rasante Entwicklung großer Sprachmodelle und multimodaler KI-Systeme hat die politische Debatte während der Entstehung des Gesetzes erheblich beeinflusst. Teile des finalen Texts wurden buchstäblich im letzten Moment überarbeitet, um GPAI-Modelle überhaupt adäquat zu erfassen. Ob diese Anpassungen ausreichen, wird sich in der Anwendungspraxis zeigen.
Festhalten lässt sich: Der AI Act ist kein technisches Handbuch, sondern ein Rechtsrahmen. Er legt Grenzen und Pflichten fest, lässt aber erhebliche Interpretationsspielräume. Die Auslegung durch nationale Behörden, Urteile des Europäischen Gerichtshofs und begleitende Leitlinien der EU-KI-Behörde werden in den kommenden Jahren die tatsächliche Reichweite des Gesetzes bestimmen. Wer jetzt wartet, bis alle Details geklärt sind, wird zu spät handeln.