Sogar für Spielzeug

EU setzt strenge Regeln für Umgang mit KI in Kraft

Auf der Verbotsliste stehen unter anderem KI-Systeme, die die Schwäche von Menschen oder Gruppen ausnutzen.

(Bild: stock.adobe.com/Leo (KI-generiert))

Ab Sonntag gelten neue Einschränkungen im Umgang mit Künstlicher Intelligenz (KI). Unterbunden wird etwa die Bewertung von sozialem Verhalten, wie sie in China umfassend zum Einsatz kommt. Während Befürworter von „unannehmbaren Risiken“ durch KI sprechen, fürchten Kritiker, dass Europa ins Abseits gerate.

Nach dem KI-Gesetz der EU (AI Act) sind von diesem Stichtag an KI-Systeme verboten, die „unannehmbare Risiken“ für die Sicherheit, Gesundheit oder Grundrechte darstellen, außer wenn es um die „nationale Sicherheit“ geht.

So untersagt die EU den Einsatz von KI-Programmen, die eine Bewertung nach sozialem Verhalten vornehmen. Bei dem sogenannten Social Scoring werden etwa die Bürger in der Ein-Parteien-Diktatur China in Verhaltenskategorien eingeteilt und belohnt oder bestraft. In der EU soll es auch keine Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen geben.

Lange Verbotsliste
Nicht erlaubt sind weiterhin manipulative KI-Systeme, die betrügerische Techniken anwenden, um das Verhalten von Menschen zu beeinflussen. In diese Gruppe fällt etwa sprachgesteuertes Spielzeug, das Kinder zu einem gefährlichen Verhalten verleitet.

Auf der Verbotsliste der EU stehen auch KI-Systeme, die die Schwäche von Menschen oder Gruppen ausnutzen. Dazu gehören auch automatisierte „Robo-Calls“, die zum Betrug älterer Menschen eingesetzt werden können.

Die Gesichtserkennung im öffentlichen Raum – zum Beispiel durch Videoüberwachung an öffentlichen Plätzen – soll ebenfalls grundsätzlich nicht erlaubt sein. Dabei gibt es jedoch Ausnahmen: Polizei und andere Sicherheitsbehörden sollen eine solche Gesichtserkennung nutzen dürfen, um bestimmte Straftaten wie Menschenhandel und Terrorismus verfolgen zu können.

Stichtag ist der 2. Februar
Mit dem Stichtag 2. Februar 2025 müssen Unternehmen, die KI entwickeln oder einsetzen, ihre Systeme nach dem Grad des Risikos bewerten und geeignete Maßnahmen ergreifen, um den gesetzlichen Anforderungen gerecht zu werden. Ziel der neuen Verordnung ist nach Darstellung der EU-Kommission nicht nur der Schutz der Rechte der Verbraucher. Man wolle auch sicherstellen, dass KI verantwortungsvoll eingesetzt werde.

Kritik aus der Wirtschaft
Der deutsche Branchenverband Bitkom etwa kritisiert das KI-Gesetz, weil es keine Rechtssicherheit biete. Es sei unklar, für welche Anwendungen das gesetzliche Verbot tatsächlich gelte, sagte Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung. „Die Politik hat beim AI Act hohe Anforderungen und enge Fristen für die Unternehmen aufgestellt, hat selbst aber ihre Hausaufgaben nicht gemacht.“ Das Risiko würden nun die Unternehmen tragen, die KI entwickeln oder einsetzen. „Während in den USA mit dreistelligen Milliardenbeträgen KI ausgebaut werden soll und in China extrem leistungsfähige Sprachmodelle veröffentlicht werden, werfen wir in Deutschland und Europa den KI-Unternehmen Knüppel zwischen die Beine.“

„Europa droht KI-Abseits“
Die Präsidentin der EU-Kommission, Ursula von der Leyen, und die Präsidentin der Europäischen Zentralbank (EZB), Christine Lagarde, räumten in einem gemeinsamen Blogeintrag ein, dass die Wettbewerbsfähigkeit Europas in Gefahr sei. „Während sich eine globale Revolution der künstlichen Intelligenz entfaltet, könnte die EU ins Abseits geraten.“

Europa verfüge jedoch auch über die notwendigen Voraussetzungen, um im technologischen Wettlauf aufzuholen, schrieben von der Leyen und Lagarde. In der EU gebe es pro eine Million Einwohner fast so viele Absolventen von MINT-Fächern (Mathematik, Informatik, Naturwissenschaften und Technik) wie in den Vereinigten Staaten. „Dieses Talent bringt eine Menge Ideen hervor: Der Anteil Europas an den weltweiten Patentanmeldungen liegt nahe bei dem der Vereinigten Staaten.“