Am 2. August treten wichtige neue Bestimmungen des EU-KI-Gesetzes in Kraft. Anders als man auf den ersten Blick annehmen könnte, betreffen diese Bestimmungen nicht nur die Branchenriesen hinter den großen Sprachmodellen. Die EU definiert die Betreiber von KI-Systemen wesentlich weiter gefasst: „Der in dieser Verordnung verwendete Begriff ‚Betreiber‘ ist als jede natürliche oder juristische Person, einschließlich einer Behörde, einer Stelle oder einer anderen Einrichtung, zu verstehen, die ein KI-System unter ihrer Aufsicht nutzt, es sei denn, das KI-System wird im Rahmen einer persönlichen, nichtberuflichen Tätigkeit genutzt.“ KI-Gesetz, Erwägungsgrund (13). Jedes Unternehmen, das KI einsetzt, sollte sich daher gründlich mit der neuen Verordnung auseinandersetzen und prüfen, ob es davon betroffen sein könnte – zumal Geldbußen von bis zu 35 Millionen Euro verhängt werden können.
Wir haben einige wichtige Erkenntnisse zur neuen Verordnung zusammengestellt.
Das EU-KI-Gesetz (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende KI-Gesetz, das darauf abzielt, Innovation und Regulierung in Einklang zu bringen. Europäische Entscheidungsträger sind der Ansicht, dass diese revolutionäre Technologie neue Herausforderungen mit sich bringt, die von bestehenden Gesetzen nicht abgedeckt werden, darunter negative Auswirkungen auf Persönlichkeitsrechte und die öffentliche Sicherheit. Um solche Folgen zu verhindern, hat die EU bestimmte KI-Anwendungen als mit einem inakzeptablen Risiko behaftet definiert und deren Nutzung ausdrücklich verboten. Darüber hinaus wurden die Kategorien „Hohes Risiko“, „Begrenztes Risiko“ und „Minimales Risiko“ definiert, die jeweils unterschiedlichen Stufen der Compliance-Anforderungen entsprechen. Mit der neuen Rahmenverordnung soll das Vertrauen der Bürger in die Technologie gestärkt werden. Darüber hinaus soll ein einheitlicher EU-Binnenmarkt für KI-Produkte und -Dienstleistungen geschaffen werden, um fairen Wettbewerb sowie die Einhaltung geltender EU-Standards zu gewährleisten.
.
Um festzustellen, ob und inwieweit ein Unternehmen vom KI-Gesetz betroffen ist, ist es hilfreich, zunächst die vier Risikokategorien zu betrachten:
|
Beschreibung |
Beispiele |
|
| Inakzeptables Risiko |
KI-Systeme, die eine inakzeptable Gefahr für die Sicherheit oder die Grundrechte darstellen. Diese sind grundsätzlich verboten.
|
|
| Hohes Risiko |
KI, die in Bereichen eingesetzt wird, in denen Fehler oder Voreingenommenheit das Leben von Menschen erheblich beeinträchtigen könnten. Diese Systeme sind zulässig, müssen jedoch strenge Anforderungen erfüllen.
|
|
| Mittleres Risiko |
KI-Systeme, bei denen vor allem Transparenz erforderlich ist, damit die Nutzer wissen, dass sie mit KI interagieren.
|
|
| Geringes Risiko |
KI-Anwendungen mit geringen oder keinen Auswirkungen auf die Sicherheit oder die Grundrechte. Für diese gelten im Rahmen des KI-Gesetzes, wenn überhaupt, nur wenige zusätzliche Verpflichtungen.
|
|
Unternehmen, deren Angebote in die ersten beiden Kategorien fallen, sind entweder bereits vom KI-Gesetz betroffen – da Beschränkungen für verbotene KI bereits seit Anfang 2025 in Kraft sind – oder sie sind in Branchen tätig, die bereits streng reguliert sind.
Die meisten Unternehmen der Privatwirtschaft werden wahrscheinlich in die Kategorien 3 und 4 fallen, wobei Kategorie 4 am wenigsten problematisch ist und praktisch keine zusätzlichen Anforderungen mit sich bringt (bestehende Vorschriften wie die DSGVO oder spezifische Branchenrichtlinien gelten natürlich weiterhin).
Derzeit stellen die in Art. 50 der im KI-Gesetz festgelegten Transparenzanforderungen für Kategorie 3 stellen eine große Herausforderung für viele KI-Anwendungsfälle dar. Es ist jedoch unklar, wie diese in der Praxis umgesetzt werden sollen. Aus diesem Grund hat das EU-KI-Büro einen Verhaltenskodex (Code of Practice, CoP)veröffentlicht. Dieses Dokument wurde von berechtigten Interessengruppen verfasst, die auf einen öffentlichen Aufruf reagiert hatten, und am 10. Juni 2026 veröffentlicht. Derzeit durchläuft der Kodex eine abschließende Bewertung durch die EU-Kommission und den KI-Rat.
👉 Eine Übersicht über die verschiedenen Transparenzanforderungen finden Sie in unserem kostenlosen Whitepaper.
Die Nichteinhaltung des KI-Gesetzes kann zu hohen Geldbußen führen. Die Verordnung räumt den Strafverfolgungsbehörden bei bestimmten verbotenen KI-Verstößen einen Ermessensspielraum von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes ein.