Das EU-KI-Gesetz ist derzeit eines der meistdiskutierten und – seien wir ehrlich – auch eines der am heftigsten kritisierten Gesetze weltweit. Seine Kritiker werfen ihm gleichzeitig vor, zu streng zu sein, und am anderen Ende des Spektrums wiederum, nicht streng genug zu sein. Das ist zumindest ein Beweis dafür, dass es ernsthaft versucht, ein sehr schwieriges Problem zu lösen: die Regulierung einer sich rasch weiterentwickelnden, komplexen und weltweit eingesetzten Technologie, die fast jeden Aspekt unseres Lebens berührt.

Angesichts der derzeitigen Aufregung hielt ich es für sinnvoll, mich damit auseinanderzusetzen und selbst nachzusehen, was in diesem Gesetzestext tatsächlich steht. Nachdem ich die Kapitel und Artikel durchforstet, einige Abschnitte sorgfältig gelesen und andere überflogen habe, ist meine Auswahl zwangsläufig subjektiv. Das Gesetz ist ein dichter und komplexer Text, und vernünftige Menschen werden seine Bestimmungen je nach ihrem Hintergrund, ihren Werten und ihrer beruflichen Perspektive unterschiedlich bewerten.

Die fünf wichtigsten Punkte, die ich hier vorstelle, sind die Bestimmungen, die ich für besonders wichtig hielt – und ich versuche zu erklären, warum gerade diese in die Auswahl gekommen sind.

Wenn Sie sich selbst ein Bild machen möchten, finden Sie den vollständigen Text des KI-Gesetzes unter https://artificialintelligenceact.eu oder auf EUR-Lex (der offiziellen Rechtsdatenbank der EU).

Kommen wir also ohne Umschweife zur Sache:

#1 Das EU-KI-Gesetz stuft KI-Systeme nach ihrem Risiko ein

Das bedeutet, dass nicht alle KI-Systeme als gleichermaßen „gefährlich“ eingestuft werden – wenn überhaupt. Das EU-Recht unterteilt sie in vier Kategorien: minimales Risiko (z. B. Spamfilter), begrenztes Risiko (z. B. Chatbots, Deepfakes), hohes Risiko (z. B. biometrische Identifizierung, KI in kritischen Infrastrukturen) und inakzeptables Risiko (z. B. unterschwellige Manipulation, Emotionserkennung). Je höher das Risiko, desto strenger die Vorschriften – von Transparenzpflichten bis hin zu einem vollständigen Verbot. (Chapter II – Prohibited, III – High Risk, IV – Limited Risk)

Warum ist es wichtig, KI-Systeme nach ihrem Risikopotenzial einzustufen? Der Bereich der KI ist riesig und komplex, sodass es keinen einheitlichen Ansatz für alle Fälle geben kann. Auf diese Weise können Schutzmaßnahmen dort ansetzen, wo sie am dringendsten benötigt werden, während gleichzeitig Raum für Innovationen bleibt.

#2 Vollständiges Verbot bestimmter Anwendungen von KI

Einige Anwendungsfälle der KI sind in Europa gänzlich verboten, da sie als zu gefährlich für den Menschen und seine Rechte angesehen werden. Dazu gehören beispielsweise die Gesichtserkennung in Echtzeit im öffentlichen Raum, der Einsatz KI-gestützter unterschwelliger Techniken zur Verhaltensmanipulation sowie KI-basierte Sozialbewertungen usw. (Article 5)

Warum ist dieses Kapitel wichtig? Im Gegensatz zu Manipulationen durch Menschen unterliegt Manipulation in großem Maßstab keinen natürlichen Grenzen. Daher wird ein Risiko, das aus menschlicher Sicht „kalkulierbar“ und beherrschbar ist, zu einer Waffe der Massenpsychologie, wenn es von einem KI-System abgeleitet wird. Diese Risiken können zu irreversiblen Schäden führen (z. B. kann ein einmal vergebener negativer Sozialscore einer Person auf unbestimmte Zeit den gleichberechtigten Zugang zum Arbeitsmarkt, zu Gesundheitsdienstleistungen oder zu Versicherungen verwehren und einer Verurteilung ohne Gerichtsverfahren gleichkommen). Diese Risiken schaffen eine Machtasymmetrie, die so groß ist, dass sie zu schwerwiegenden gesellschaftlichen Ungleichgewichten führen kann und mit den Grundwerten einer demokratischen Gesellschaft unvereinbar ist.

#3 Strenge Vorschriften für KI-Systeme mit hohem Risiko

KI-Systeme, die in sensiblen Bereichen – Medizin, Recht, Personalwesen, Bildung oder kritische Infrastruktur – eingesetzt werden, müssen transparent sein, gründlich getestet und von Menschen überwacht werden. Kurz gesagt: Keine Maschine darf wichtige Entscheidungen über Menschenleben eigenständig treffen. (Article 6)

Warum ist das wichtig? Hier treffen KI-Systeme auf institutionelle Macht. Die risikoreichen Systeme kommen in Banken, Krankenhäusern, großen Unternehmen, bei der Polizei, vor Gerichten und bei Einwanderungsbehörden zum Einsatz – also genau dort, wo man keine Möglichkeit hat, sich dem zu entziehen. Diese Institutionen üben bereits enormen Einfluss auf unser Leben aus. Kommt nun noch KI hinzu, wird diese Macht noch asymmetrischer und schwerer anzufechten.

Die ergänzenden Vorschriften sehen eine Dokumentation und Prüfung vor der Inbetriebnahme, noch strengere Transparenzanforderungen (beispielsweise die Registrierung in einer öffentlichen EU-Datenbank), eine obligatorische menschliche Überwachung sowie ein lebenslanges Risikomanagement vor.

#4 Das Recht auf Information darüber, dass Sie mit KI interagieren

Wenn Sie mit einem Chatbot sprechen oder mit KI-generierten Inhalten (Bilder, Videos, Texte) interagieren, müssen Sie darüber informiert werden. Unternehmen dürfen Ihnen nicht vorgaukeln, Sie würden mit einem Menschen sprechen, wenn Sie in Wirklichkeit mit einem Bot interagieren. (Article 50)

Warum ist das wichtig? Dieser Artikel legt einen grundlegenden moralischen und rechtlichen Grundsatz fest: Menschen haben das Recht zu wissen, womit sie zu tun haben. Er stellt klar, dass eine informierte Einwilligung nicht optional ist.

#5 Besondere Vorschriften für allgemeine künstliche Intelligenz (GPAI)

Leistungsstarke KI-Modelle wie GPT oder Claude unterliegen strengeren Auflagen. Die Unternehmen, die diese Modelle entwickeln, müssen das Urheberrecht einhalten, Informationen darüber bereitstellen, wie die Modelle trainiert werden, und eine Risikobewertung ermöglichen, bevor sie der Öffentlichkeit zugänglich gemacht werden. (Chapter V)

Das EU-KI-Gesetz definiert zudem quantitativ, was unter GPAI zu verstehen ist. Der Schwellenwert ist auf 10^(25) festgelegt. Das bedeutet, dass ein KI-System als GPAI eingestuft wird, wenn die für sein Training aufgewendete kumulative Rechenleistung, gemessen in Gleitkommaoperationen*, größer ist als 10 gefolgt von 25 Nullen. Zum Vergleich: Ein moderner Laptop führt etwa 10^(12) (eine Billion) Gleitkommaoperationen pro Sekunde aus. Um 10^(25) zu erreichen, müsste er etwa 300.000 Jahre lang laufen.

Schätzungen zufolge wurde GPT-4 mit etwa 10²³ bis 10²⁴ FLOPs trainiert, was knapp unterhalb der Schwelle liegt.

*Eine „Gleitkommaoperation“ (FLOP) ist eine mathematische Berechnung (Addition, Multiplikation usw.), die von einem Computerchip ausgeführt wird.

Anmerkung zur natürlichen Person

Mir ist aufgefallen, dass der Begriff „natürliche Person(en)“ im gesamten EU-KI-Gesetz immer wieder vorkommt.

Ich vermute, dass die Europäische Kommission diesen Begriff einführt, um „echte Menschen“ im Gegensatz zu jeder anderen Art von Rechtsträger (juristische Person, Unternehmen, öffentliche Einrichtung, Nichtregierungsorganisation) eindeutig zu bezeichnen, aber auch, um sie von „KI-gestützten Personen“ oder „vollständig autonomen Rechtsträgern“ abzugrenzen.

Diese Unterscheidung ist gerade deshalb wichtig, weil gesetzliche Rechte, Schutzmaßnahmen und Pflichten je nachdem, mit wem oder was man es zu tun hat, unterschiedlich gelten.

Eine natürliche Person verfügt über eine Reihe einzigartiger Eigenschaften, die andere Rechtssubjekte nicht aufweisen (Grundrechte, Empathie, Urteilsvermögen, Gewissen). Eine natürliche Person kann ihre Einwilligung erteilen oder widerrufen, Opfer von Betrug oder Täuschung werden und unterliegt zudem moralischer und rechtlicher Rechenschaftspflicht, während ein KI-System über keine dieser Eigenschaften verfügt.

Was kann KI gleichzeitig leisten? Sie kann mit Einfühlungsvermögen und Herzlichkeit antworten, sie kann Antworten entsprechend Ihren emotionalen Bedürfnissen individuell anpassen, sie kann eine vertrauensvolle Beziehung vortäuschen und Ihnen das Gefühl geben, dass sie Ihre Gefühle versteht und sich um sie kümmert, während sie in Wirklichkeit kein Mensch ist, keine Rechte hat und keine moralische Verantwortung trägt. Mit anderen Worten: Es ist niemand „zu Hause“.

Das KI-Gesetz führt diesen Begriff gerade deshalb ein, weil KI zum ersten Mal in der Geschichte ein Wesen schafft, das eine natürliche Person überzeugend nachahmen kann – ohne tatsächlich eine zu sein.

Die großen Lücken

So wichtig die zuvor genannten fünf Bestimmungen auch sein mögen, mir ist aufgefallen, dass das KI-Gesetz einige andere wichtige gesellschaftliche Auswirkungen nicht ernsthaft berücksichtigt. Hier sind einige davon:

Weiterbildungsmaßnahmen, die den Mitarbeitern helfen sollen, wichtige KI-Kompetenzen zu erwerben.
Schutzmaßnahmen für Personen, die aufgrund der Einführung von KI ausdrücklich entlassen werden.
Vorschriften bezüglich großer Rechenzentren und deren Auswirkungen auf die Gemeinden (Umwelt, Gesundheit, Versorgungskosten, Wertverlust von Immobilien usw.)

Diese Auslassungen sind möglicherweise kein Zufall, sondern vielmehr eine bewusste politische Entscheidung, um den Gesetzentwurf fokussiert und verabschiedungsfähig zu halten. Ob diese Entscheidung gerechtfertigt ist oder einen grundlegenden Mangel an Weitsicht darstellt, ist vielleicht die wichtigste Debatte über das KI-Gesetz, die in der Öffentlichkeit noch aussteht.

Das Wichtigste

Ich hoffe, diese Auswahl weckt Ihre Neugier, mehr darüber zu erfahren, was weltweit unternommen wird, um KI-Risiken zu regulieren und zu mindern. Das EU-KI-Gesetz ist insofern einzigartig, als es unter allen KI-Rahmenwerken, die derzeit weltweit ausgearbeitet werden, das erste seiner Art ist, was Komplexität, Rechtsverbindlichkeit und Rechtsgrundlagen angeht.

Er entsteht in einem sich rasch wandelnden globalen Umfeld, in dem jede große Volkswirtschaft mit derselben grundlegenden Frage ringt: Wie regelt man eine Technologie, die alles verändert – schneller, als Gesetze verfasst werden können?

Meiner Ansicht nach enthält das KI-Gesetz klare Vorschriften dazu, wie KI mit Menschen interagiert, aber es enthält kaum oder gar keine Regelungen dazu, wie KI die Gesellschaft beeinflusst – Arbeitsplätze, Gemeinschaften, die Umwelt und die Verteilung wirtschaftlicher Macht.

Ob dies der Beginn einer umfassenderen, folgenreicheren Debatte ist oder lediglich ein Papiertiger, werden wir erst im Laufe der Zeit sehen.

Die 5 wichtigsten Bestimmungen des EU-KI-Gesetzes