Der EU AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von KI-Systemen. Er ist am 1. August 2024 in Kraft getreten und wird schrittweise bis 2027 vollständig anwendbar.
Aber: Was bedeutet das konkret für Ihr Unternehmen? Müssen Sie ChatGPT registrieren? Sind Sie von Verboten betroffen? Welche Pflichten gelten?
Dieser Guide erklärt den AI Act verständlich – ohne Juristendeutsch. Sie erfahren, welche KI-Systeme reguliert werden, welche Risikostufen es gibt und wie Sie Compliance herstellen.
Was ist der EU AI Act?
Der EU AI Act ist eine EU-Verordnung, die den Einsatz von künstlicher Intelligenz (KI) in der Europäischen Union reguliert. Ziel: Schutz von Grundrechten und Sicherheit bei gleichzeitiger Förderung von Innovation.
Kernprinzipien:
- Risikobasierter Ansatz: Je höher das Risiko, desto strenger die Regeln
- Verbote: Bestimmte KI-Anwendungen sind komplett untersagt
- Transparenz: Nutzer müssen wissen, wenn sie mit KI interagieren
- Menschliche Aufsicht: Hochrisiko-KI muss von Menschen überwacht werden
Zeitplan des AI Act (Stand 2026)
Die Verordnung (EU) 2024/1689 tritt stufenweise in Kraft:
- 1. August 2024: Inkrafttreten der Verordnung
- 2. Februar 2025: Verbote gelten! Inakzeptable KI-Praktiken sind untersagt
- 2. August 2025: GPAI-Pflichten (General Purpose AI wie ChatGPT, Gemini)
- 2. August 2026: Allgemeine Anwendbarkeit – u. a. Transparenzpflichten (Art. 50)
- 2. August 2027: Pflichten für Hochrisiko-KI nach Annex III (Art. 6 Abs. 1) – per Digital Omnibus voraussichtlich verschoben auf 2. Dezember 2027
Zuständige Behörden
Jeder Mitgliedstaat muss eine nationale KI-Behörde benennen:
- Deutschland: Am 11. Februar 2026 hat das Bundeskabinett das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) beschlossen (BR-Drs. 97/26), das die Bundesnetzagentur als zentrale Marktüberwachungsbehörde vorsieht. Das parlamentarische Verfahren steht noch aus.
- Österreich: RTR (Rundfunk und Telekom Regulierungs-GmbH) als KI-Servicestelle / BMK (Bundesministerium für Klimaschutz) für die politische Koordination
- EU-Ebene: European AI Office (Europäische Kommission)
Schweiz: Die Schweiz arbeitet an einer eigenen KI-Regulierung (Stand 2026: Entwurfsphase). Schweizer Unternehmen, die KI in der EU anbieten, müssen den EU AI Act dennoch einhalten.
Wer ist vom AI Act betroffen?
Kurz: Vom Anwendungsbereich des AI Act ist nahezu jedes Unternehmen erfasst, das KI entwickelt oder nutzt. Materielle Pflichten treffen Sie aber nur, wenn Ihr KI-Einsatz in eine regulierte Risikostufe fällt – die große Mehrheit der Anwendungen liegt im Bereich „minimales Risiko" und unterliegt allein der KI-Kompetenz-Pflicht (Art. 4).
Rollen im AI Act
- Provider (Anbieter): Entwickelt/trainiert das KI-System und bringt es in Verkehr
- Deployer (Betreiber): Nutzt das KI-System im eigenen Geschäftsbetrieb
- Importer: Bringt KI-Systeme aus Drittländern in die EU
- Distributor: Vertreibt KI-Systeme in der EU
Sie sind betroffen, wenn mindestens EINE Bedingung zutrifft:
- Sie entwickeln KI-Systeme für den EU-Markt (z.B. KI-Software, Chatbots, Empfehlungsalgorithmen)
- Sie stellen KI-Systeme in der EU bereit (z.B. als SaaS-Anbieter, Plattformbetreiber)
- Sie nutzen KI-Systeme in der EU (z.B. für HR, Kreditvergabe, Kundenservice)
- Sie importieren KI-Systeme in die EU (z.B. US-Software mit KI-Komponenten)
Beispiele:
- Deutsches SaaS-Unternehmen mit KI-Kundensegmentierung → im Anwendungsbereich; meist minimales/begrenztes Risiko – keine materiellen Pflichten außer ggf. Transparenz + Art. 4
- Österreichische Bank mit KI-Kredit-Scoring → im Anwendungsbereich; Hochrisiko (Annex III) – volle Pflichten
- Schweizer Firma, die KI-Tool an EU-Kunden verkauft → im Anwendungsbereich; Pflichten je nach Risikostufe des Tools
- Startup, das ChatGPT für Kundenservice nutzt → im Anwendungsbereich; begrenztes Risiko – Transparenzpflicht (Kennzeichnung) + Art. 4
- Rein private Nutzung (z.B. ChatGPT für persönliche To-Do-Listen) → nicht im Anwendungsbereich (Art. 2 Abs. 10)
Was ist ein KI-System im Sinne des AI Act?
Der AI Act definiert KI-System in Art. 3 Abs. 1:
„Ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und das nach seiner Betriebsaufnahme Anpassungsfähigkeit zeigen kann und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet (inferiert), wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können."
Die zentralen Merkmale – tragend sind Autonomie und Inferenz:
- Autonomie: Das System operiert mit unterschiedlichem Grad an Selbstständigkeit (erforderlich)
- Anpassungsfähigkeit: Das System kann nach der Bereitstellung dazulernen – ein mögliches, aber kein zwingendes Merkmal
- Inferenz: Es leitet aus Eingaben ab, wie Ausgaben erzeugt werden sollen (das maßgebliche Abgrenzungskriterium)
Das umfasst Machine-Learning-Modelle, Expertensysteme und logikbasierte Ansätze – aber nicht einfache Regel- oder Filtersysteme ohne Inferenzfähigkeit.
Die 4 Risikostufen des AI Act
Das Herzstück des AI Act ist die Einteilung in vier Risikoklassen:
1. Inakzeptables Risiko (Verboten)
Diese KI-Systeme sind komplett verboten, weil sie gegen EU-Grundwerte verstoßen:
- Social Scoring: Bewertung von Personen durch staatliche Stellen oder private Akteure auf Basis ihres Sozialverhaltens, wenn dies zu ungerechtfertigter Benachteiligung führt.
- Biometrische Echtzeit-Fernidentifizierung: Gesichtserkennung im öffentlichen Raum (mit eng begrenzten Ausnahmen für Strafverfolgung).
- Ungezieltes Scraping von Gesichtsbildern: Aufbau von Gesichtserkennungs-Datenbanken durch wahlloses Sammeln aus dem Internet oder Überwachungskameras.
- Predictive Policing auf Personenebene: KI-Systeme, die individuelle Straftaten allein auf Basis von Profiling oder Persönlichkeitsmerkmalen vorhersagen.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Ableitung von Emotionen von Beschäftigten oder Schülern (mit Ausnahmen für Sicherheits- oder medizinische Zwecke).
- Manipulative KI: Systeme, die menschliches Verhalten gezielt und schädlich beeinflussen (unterschwellige Techniken).
- Ausnutzung schutzbedürftiger Personen: KI, die gezielt Schwächen (Alter, Behinderung) ausnutzt.
- Biometrische Kategorisierung nach sensiblen Merkmalen: Systeme, die Personen anhand biometrischer Daten nach Rasse, politischer Meinung, Gewerkschaftszugehörigkeit, Religion, Sexualleben oder sexueller Orientierung kategorisieren.
2. Hohes Risiko (Streng reguliert)
Diese KI-Systeme sind erlaubt, unterliegen aber strengen Auflagen. Sie betreffen kritische Bereiche:
- Kritische Infrastrukturen: KI zur Steuerung von Wasser, Gas, Strom.
- Bildung: KI-Systeme zur Bewertung von Prüfungen oder Zulassungen.
- Personalwesen: KI zur Bewerber-Sortierung oder Leistungsbewertung.
- Justiz & Demokratie: KI zur richterlichen Entscheidungsunterstützung oder Wahlbeeinflussung.
- Biometrische Identifizierung (nicht in Echtzeit).
- Medizinprodukte & sicherheitskritische Komponenten (z.B. im Fahrzeugbau).
Pflichten für Hochrisiko-KI:
- Umfassendes Risikomanagementsystem
- Hohe Datenqualität und -sicherheit
- Detaillierte technische Dokumentation
- Menschliche Aufsicht
- Hohe Robustheit, Genauigkeit und Cybersicherheit
- Registrierung in einer EU-Datenbank
3. Begrenztes Risiko (Transparenzpflichten)
Hierunter fallen KI-Systeme, bei denen Nutzer wissen müssen, dass sie mit einer KI interagieren:
- Chatbots: Nutzer müssen informiert werden, dass sie mit einer KI sprechen.
- Deepfakes: Audio-, Video- und Bildinhalte, die durch KI erzeugt oder manipuliert wurden, müssen als solche gekennzeichnet werden.
- Emotionserkennung & biometrische Kategorisierung: Nutzer müssen informiert werden.
4. Minimales Risiko (keine risikospezifischen Pflichten)
Die große Mehrheit aller KI-Anwendungen fällt hierunter.
Beispiele: Spamfilter, KI-gestützte Videospiele, Übersetzungstools, Empfehlungsalgorithmen (z.B. auf Netflix).
Hier gibt es keine risikospezifischen Pflichten aus dem AI Act. Es gilt aber – wie für jede Risikostufe – die KI-Kompetenz-Pflicht (Art. 4); ergänzend werden freiwillige Verhaltenskodizes empfohlen.
Sonderfall: General-Purpose AI (GPAI)
Modelle wie ChatGPT (OpenAI), Gemini (Google) oder Llama (Meta) fallen unter besondere Regeln. Anbieter dieser Basismodelle müssen (seit 2. August 2025):
- Technische Dokumentation bereitstellen
- EU-Urheberrecht beachten
- Eine öffentlich zugängliche Zusammenfassung der Trainingsdaten veröffentlichen (Art. 53 Abs. 1 lit. d)
GPAI mit systemischem Risiko
Für GPAI-Modelle mit systemischem Risiko (Trainingsaufwand >10²⁵ FLOPs, z.B. GPT-4-Klasse) gelten zusätzliche Pflichten:
- Adversarial Testing (Red-Teaming): Vor dem Deployment durchführen
- Incident Reporting: Schwerwiegende Vorfälle an das EU AI Office melden
- Cybersicherheitsmaßnahmen: Angemessene Schutzmaßnahmen implementieren
- Modell-Evaluierung: Regelmäßige Bewertung systemischer Risiken
Pflichten für Unternehmen
Ihre Pflichten hängen von Ihrer Rolle ab:
- Anbieter von Hochrisiko-KI: Müssen alle strengen Auflagen erfüllen (siehe oben).
- Nutzer von Hochrisiko-KI: Müssen die Gebrauchsanweisung befolgen und menschliche Aufsicht sicherstellen.
- Anbieter/Nutzer von KI mit begrenztem Risiko: Müssen Transparenzpflichten erfüllen (Kennzeichnung).
Strafen und Bußgelder
Die höchste Bußgeldstufe liegt sogar über dem DSGVO-Rahmen:
- Verstoß gegen Verbote: Bis zu €35 Millionen oder 7% des weltweiten Jahresumsatzes.
- Verstoß bei Hochrisiko-KI: Bis zu €15 Millionen oder 3% des weltweiten Jahresumsatzes.
- Falsche oder unvollständige Informationen: Bis zu €7.5 Millionen oder 1% des weltweiten Jahresumsatzes.
Sonderregelung für KMU und Start-ups (Art. 99 Abs. 6): Für kleine und mittlere Unternehmen sowie Start-ups gilt jeweils die niedrigere der beiden Obergrenzen (Festbetrag oder Umsatzprozentsatz) – nicht die höhere wie bei Großunternehmen.
Erste Schritte zur AI-Act-Compliance
- KI-Inventur: Welche KI-Systeme setzen Sie ein oder entwickeln Sie?
- Risikoklassifizierung: Ordnen Sie jedes System den 4 Risikostufen zu.
- Gap-Analyse: Welche Pflichten erfüllen Sie bereits, wo gibt es Lücken?
- Transparenz umsetzen: Kennzeichnen Sie Chatbots und Deepfakes.
- Dokumentation für Hochrisiko-KI: Beginnen Sie frühzeitig mit der Erstellung der technischen Dokumentation.
FAQ zum EU AI Act
Ist ChatGPT jetzt verboten?
Nein. Die Nutzung von ChatGPT fällt meist unter minimales oder begrenztes Risiko. Wenn Sie es im Kundenservice einsetzen, müssen Sie es als Chatbot kennzeichnen.
Welche Behörde ist zuständig?
National: Jeder EU-Mitgliedstaat benennt eine zentrale Aufsichts- und Marktüberwachungsbehörde. In Deutschland soll diese Rolle nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) die Bundesnetzagentur übernehmen (mit einer Koordinierungs- und Kompetenzstelle); sektorale Fachbehörden bleiben in ihren Bereichen zuständig (z.B. die BaFin für den Finanzsektor). Das parlamentarische Verfahren war Mitte 2026 noch nicht abgeschlossen – Stand bitte prüfen.
EU-weit: Das European AI Office koordiniert die Aufsicht.
Gilt der AI Act auch für KI aus den USA/China?
Ja! Sobald KI-Systeme in der EU bereitgestellt oder genutzt werden, gilt der AI Act – egal wo der Anbieter sitzt.
Gilt der AI Act auch in Österreich und der Schweiz?
Österreich: Ja, als EU-Mitgliedstaat gilt der AI Act direkt. Zuständige Behörde für die Umsetzung ist das Bundesministerium für Klimaschutz, Umwelt, Energie, Mobilität, Innovation und Technologie (BMK).
Schweiz: Der AI Act gilt nicht direkt (kein EU-Mitglied), ABER:
- Schweizer Unternehmen, die KI-Systeme in der EU bereitstellen, müssen den AI Act beachten
- Die Schweiz entwickelt eigene KI-Regulierung (noch in Diskussion, Stand März 2026)
- Viele Schweizer Unternehmen orientieren sich freiwillig am AI Act (Best Practice, Marktzugang EU)