Zum Inhalt springen

Sicherheit und Recht

KI-Verordnung (EU AI Act)

Die KI-Verordnung, Verordnung (EU) 2024/1689, ist das EU-Gesetz für künstliche Intelligenz. Sie verbietet einzelne Praktiken, stellt Hochrisiko-Systeme unter strenge Auflagen, verlangt Transparenz bei Chatbots und KI-Inhalten und gilt unmittelbar in allen Mitgliedstaaten.

Auch: AI Act, EU AI Act, KI-VO, Verordnung (EU) 2024/1689, Gesetz über künstliche Intelligenz

Die KI-Verordnung der EU ist am 1. August 2024 in Kraft getreten und wird seitdem schrittweise anwendbar. Sie ist eine Verordnung, keine Richtlinie: Sie gilt in jedem Mitgliedstaat unmittelbar, ohne dass ein nationales Gesetz sie erst umsetzen müsste. Deutschland hat mit dem Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) vor allem die Zuständigkeiten geregelt. Seit dem 29. Juli 2026 ist es in Kraft, und die Bundesnetzagentur ist die zentrale Marktüberwachungsbehörde.

Der Grundgedanke ist einfach: Je größer das Risiko eines KI-Einsatzes für Gesundheit, Sicherheit und Grundrechte, desto strenger die Regeln. Viele typische Anwendungen in Unternehmen fallen in die unteren Stufen. Wer das weiß, kann gelassen bleiben, muss aber trotzdem prüfen, wo die eigenen Systeme stehen. Dieser Eintrag gibt einen Überblick und ersetzt keine Rechtsberatung im Einzelfall.

Vier Stufen nach Risiko

Verbotene Praktiken (Art. 5). Einige Anwendungen sind schlicht untersagt, etwa manipulative Techniken, die Menschen erheblichen Schaden zufügen, das Ausnutzen von Schutzbedürftigkeit, Social Scoring und Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (mit engen Ausnahmen). Für ein mittelständisches Unternehmen sind diese Verbote selten einschlägig, aber man sollte sie kennen, gerade bei Werkzeugen zur Mitarbeiterbewertung.

Hochrisiko-Systeme (Art. 6 mit Anhang I und III). Hochriskant ist ein KI-System entweder als Sicherheitsbauteil eines regulierten Produkts, etwa einer Maschine oder eines Medizinprodukts, oder weil es in einem der Bereiche des Anhangs III eingesetzt wird. Für Unternehmen zählen dort vor allem: Auswahl von Bewerbern, Entscheidungen über Beförderung, Kündigung und Aufgabenzuweisung, die Bewertung von Leistung und Verhalten von Beschäftigten, die Kreditwürdigkeitsprüfung natürlicher Personen sowie Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen. Art. 6 Abs. 3 nimmt Systeme aus, die nur eine eng gefasste Verfahrensaufgabe erledigen oder eine menschliche Bewertung bloß vorbereiten. Ein System, das Profiling natürlicher Personen vornimmt, bleibt aber immer hochriskant.

Transparenzpflichten (Art. 50). Wer mit einem Chatbot spricht, muss erkennen können, dass er mit einer Maschine interagiert, sofern das nicht offensichtlich ist. Synthetische Inhalte müssen maschinenlesbar als künstlich erzeugt markiert sein. Wer Deepfakes verbreitet oder KI-Texte veröffentlicht, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, muss das offenlegen, es sei denn, ein Mensch hat den Text redaktionell geprüft und verantwortet.

Alles andere. Viele Anwendungen, von der Rechnungserkennung bis zur Ticketsortierung, haben außerhalb der Transparenzregeln keine besonderen Pflichten nach der Verordnung. Eine Pflicht gilt aber für alle: Anbieter und Betreiber müssen sich um die KI-Kompetenz ihres Personals kümmern (Art. 4).

Anbieter oder Betreiber: die Rolle entscheidet

Die Verordnung verteilt Pflichten nach Rollen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3 Nr. 4). Ein Unternehmen, das ein Sprachmodell eines großen Herstellers in seinen Rechnungseingang einbaut, ist in aller Regel Betreiber. Es kann aber zum Anbieter werden, etwa wenn es ein System unter eigenem Namen anbietet oder ein Hochrisiko-System wesentlich verändert. Diese Zuordnung lohnt eine sorgfältige Prüfung, denn die Anbieterpflichten sind weit umfangreicher.

Für Betreiber von Hochrisiko-Systemen nennt Art. 26 unter anderem: das System nach der Betriebsanleitung verwenden, die menschliche Aufsicht Personen mit der nötigen Kompetenz und Befugnis übertragen, für passende Eingabedaten sorgen, den Betrieb überwachen, die automatisch erzeugten Protokolle mindestens sechs Monate aufbewahren und Beschäftigte sowie ihre Vertretung vor dem Einsatz am Arbeitsplatz informieren. Wie das in der Praxis aussieht, beschreiben die Einträge Human in the Loop und Audit-Trail.

Die Fristen nach dem Digital-Omnibus

Im November 2025 hat die EU-Kommission vorgeschlagen, die Hochrisiko-Fristen zu verschieben, weil Normen und Leitlinien verspätet verfügbar wurden und nationale Behörden noch nicht eingerichtet waren. Dieser Teil des Pakets ist inzwischen beschlossen: Die Verordnung (EU) 2026/1744, die Digital-Omnibus-Verordnung zur KI, wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist am 27. Juli 2026 in Kraft getreten. Stand Oktober 2026 gelten damit diese Termine:

Ab Was gilt
2. Februar 2025 Begriffsbestimmungen, KI-Kompetenz (Art. 4), Verbote (Art. 5)
2. August 2025 Regeln für KI-Modelle mit allgemeinem Verwendungszweck, Governance, Sanktionen
2. August 2026 Allgemeiner Geltungsbeginn, darunter die Transparenzpflichten nach Art. 50
2. Dezember 2026 Kennzeichnung nach Art. 50 Abs. 2 für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren; neue Verbote für sexualisierte Deepfakes ohne Einwilligung und für Darstellungen sexuellen Kindesmissbrauchs
2. Dezember 2027 Pflichten für Hochrisiko-Systeme nach Anhang III
2. August 2028 Pflichten für Hochrisiko-Systeme in Produkten nach Anhang I

Die Verschiebung betrifft nur die Hochrisiko-Pflichten. Die Transparenzpflichten sind nicht verschoben. Der Omnibus hat außerdem Art. 4 zur KI-Kompetenz neu gefasst, Erleichterungen bei Sanktionen auf kleine Midcap-Unternehmen ausgedehnt und weitere technische Änderungen vorgenommen. Wer ältere Darstellungen liest, die von August 2026 als Stichtag für Hochrisiko-Systeme sprechen, hat einen überholten Stand vor sich.

Was Verstöße kosten können

Art. 99 sieht Geldbußen bis 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes für verbotene Praktiken vor, bis 15 Millionen Euro oder 3 Prozent für Verstöße unter anderem gegen Betreiberpflichten und Transparenzpflichten, und bis 7,5 Millionen Euro oder 1 Prozent für falsche Angaben gegenüber Behörden. Maßgeblich ist jeweils der höhere Betrag. Für KMU und, seit dem Omnibus, für kleine Midcap-Unternehmen gilt der niedrigere. Diese Werte sind Obergrenzen. Bei der Bemessung zählen Art, Schwere und Dauer des Verstoßes, und die Mitgliedstaaten sollen das wirtschaftliche Überleben kleinerer Unternehmen berücksichtigen.

Wo sich die KI-Verordnung und die DSGVO berühren

Die KI-Verordnung lässt die DSGVO unberührt. Beide gelten nebeneinander, und für viele Unternehmen ist die DSGVO im Alltag die strengere Schranke. Eine Entscheidung, die ausschließlich automatisiert fällt und Menschen erheblich betrifft, ist nach Art. 22 DSGVO grundsätzlich unzulässig, unabhängig davon, ob das System nach der KI-Verordnung hochriskant ist. Mehr dazu unter Automatisierte Einzelentscheidung. Art. 26 Abs. 9 der KI-Verordnung verweist Betreiber von Hochrisiko-Systemen zudem ausdrücklich auf die Datenschutz-Folgenabschätzung und darauf, die Informationen des Anbieters dafür zu nutzen.

Eine pragmatische Bestandsaufnahme

Für die meisten Unternehmen beginnt die Arbeit mit einer Liste: Welche KI-Systeme setzen wir ein, von welchem Anbieter, in welchem Prozess, mit welchen Daten? Dann folgt für jedes System die Einordnung. Fällt es unter Anhang III? Spricht es direkt mit Kunden oder erzeugt es veröffentlichte Inhalte? Sind wir Betreiber oder werden wir durch eigene Anpassungen zum Anbieter? Für Hochrisiko-Fälle sollte man die Zeit bis Dezember 2027 nutzen, statt auf den letzten Monat zu warten. Für alles andere genügen meist eine dokumentierte Einordnung, klare Regeln zur Nutzung und eine Schulung, die zur Aufgabe passt. Die Bundesnetzagentur bietet dafür mit ihrem KI-Service-Desk eine Orientierung, unter anderem ein Online-Werkzeug zur Risikoeinstufung.

Quellen

  1. Verordnung (EU) 2024/1689 (Verordnung über künstliche Intelligenz), Amtsblatt der Europäischen Union, EUR-Lex, 2024
  2. Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), Amtsblatt der Europäischen Union, EUR-Lex, 2026
  3. AI Act: Regulatory framework for AI, Europäische Kommission, 2026
  4. Bundesnetzagentur übernimmt zentrale Rolle bei der Umsetzung der KI-Verordnung, Bundesnetzagentur, 2026

Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

Welcher Prozess kostet Ihr Team jeden Tag unnötig Zeit?

Bringen Sie einen konkreten Ablauf mit. In 45 Minuten klären wir, ob sich seine Automatisierung rechnet und was der nächste Schritt wäre.

Direkt mit einem Gründer · unverbindlich · ohne Verkaufsshow

Erst ein Prozess.
Dann der nächste.