„AI-Act“ angenommen

Regeln für KI nehmen Hürde im EU-Parlament

11.05.2023 11:43

Das Europäische Parlament hat eine europaweite Regelung über Richtlinien zur Anwendung von Künstlicher Intelligenz (KI) auf den Weg gebracht. Am Donnerstag nahmen der Binnenmarkt- und der Innenausschuss den in den vergangenen Monaten im Rahmen der Initiative „A Europe Fit for the Digital Age“ erarbeiteten „AI-Act“ mit großer Mehrheit an. Mitte Juni soll der Gesetzentwurf im Plenum behandelt werden, bis Jahresende sollen die Verhandlungen mit dem Rat abgeschlossen sein.

Das Thema liegt seit Februar 2020 auf dem Tisch, als die Kommission in einem White Paper zu Künstlicher Intelligenz erstmals die Erarbeitung von Regularien angeregt hatte. Es habe sich um lange und schwierige Verhandlungen über ein Thema von größter öffentlicher Aufmerksamkeit gehandelt, sagte der rumänische Ko-Berichterstatter Dragoş Tudorache von der Fraktion Renew Europe in Straßburg. „Es gibt darüber weltweit Diskussionen. Aber wir in Europa geben nun die Linie vor und beziehen Position.“

Diese war freilich lange keineswegs ausgemacht: Über 3000 Abänderungsanträge gab es im Vorfeld der Abstimmung am Donnerstag. „Damit halten wir einen neuen Rekord. Das beweist, wie groß das Interesse an der Materie ist. Das Wichtigste ist, dass wir eine Botschaft senden: Wir nehmen es ernst“, so Tudorache. Es gehe darum, die europäischen Bürger zu schützen, Vertrauen aufzubauen, aber auch, technologische Innovationen nicht zu verhindern, sagte sein italienischer Kollege Brando Benifei (S&D), der von einer „Leuchtturmgesetzgebung“ sprach.

Der erarbeitete Kompromiss, der den ursprünglichen Kommissionsvorschlag in vielen Bereichen ergänzt und verschärft, erzielte 84 Ja-Stimmen bei sieben Nein-Stimmen und zwölf Enthaltungen. So wurden etwa generativen Systeme wie ChatGPT zusätzliche Transparenzverpflichtungen auferlegt, wie etwa die Offenlegung, dass der Inhalt durch KI generiert wurde. Ausdrücklich ausgenommen von den Regelungen sind Forschungstätigkeiten oder KI-Komponenten, die unter Open-Source-Lizenzen bereitgestellt werden.

„Was es vor allem braucht, ist Klarheit. Das haben wir von allen Seiten gehört“, so Tudorache. Deshalb geht es im vorgeschlagenen Regelwerk, das in manchen Bereichen auch die Datenschutz-Grundverordnung ergänzen soll, zunächst um Definitionen und erst danach um Verbote. Kein KI-System solle von vornherein ausgeschlossen werden, hieß es.

Verbot für Hochrisiko-KIs
Verboten sollen vor allem KI-Anwendungen werden, die „manipulative, ausbeuterische und soziale Kontrollpraktiken“ darstellen und auf eine „vorausschauende Polizeiarbeit“ hinauslaufen, die den zentralen Grundsatz der Unschuldsvermutung zu unterlaufen drohen oder diskriminierende Kategorisierungen vornehmen. KI „sollte weder die menschliche Autonomie ersetzen noch den Verlust der individuellen Freiheit in Kauf nehmen und in erster Linie den Bedürfnissen der Menschen und dem Gemeinwohl dienen“, heißt es im Text.

Zu den Hochrisiko-KI-Systemen werden etwa Algorithmen gezählt, die zur Profilerstellung und individuellen Risikobewertung in der Polizeiarbeit, aber auch zur Einschätzung von Kreditwürdigkeit von Personen eingesetzt werden oder ihren Zugang zu Bildung, Arbeit oder Sozialsystem verwehren oder einschränken könnten, da diese KI-Systeme geeignet seien, historische Diskriminierungsmuster fortzuschreiben.

Verboten werden auch KI-Systeme zur Herstellung von Deepfakes, zur Erkennung von Emotionen bei Strafverfolgung, Grenzschutz oder am Arbeitsplatz, zum Auslesen biometrischer Daten aus sozialen Medien oder Überwachungskameras zur Erstellung von Gesichtserkennungsdatenbanken oder biometrische Echtzeit-Fernidentifizierung.

Debatte um Gesichtserkennung
Bei der Gesichtserkennungssoftware müsse man rasch handeln, da es von europäischen Innenministern, darunter dem italienischen, Begehrlichkeiten gebe, diese Anwendungen zu nutzen, sagte Benifel. Unter anderem deswegen würden die Verhandlungen mit den EU-Mitgliedsländern ziemlich sicher eine harte Angelegenheit, meinte der Ko-Berichterstatter, der sich aber stolz auf die in den vergangenen Monaten geleistete Arbeit zeigte. „Es war keine leichte Sache, aber das haben wir nicht erwartet. Wir versuchen, einen Rahmen zu geben, der vertrauensbildend wirkt, für die Entwicklungen der Zukunft aber flexibel genug ist.“

Österreichische KI-Behörde soll 2024 in Betrieb gehen
Digitalisierungs-Staatssekretär Florian Tursky (ÖVP) verwies in einem ersten Statement auf seine eigenen diesbezüglichen Pläne: „Wir werden nun mit der Einrichtung einer nationalen Behörde beginnen: Ausgehend von einer Geschäftsstelle wird die nationale Umsetzung sowie die rechtlichen Rahmenbedingungen vorbereitet. 2024 wird dann die österreichische KI-Behörde in Betrieb gehen.“ Die Ausschusseinigung im EU-Parlament bezeichnete er als „einen richtigen und wichtigen Schritt“.

„Es freut mich, dass nun endlich mehr Geschwindigkeit in den Prozess gekommen ist. Auch die Verschärfungen zugunsten des Konsumentenschutzes sind erfreulich.“ Die nun geforderte EU-weite KI-Behörde werde „ein gutes Dach“ für die österreichische Behörde sein. „Wir müssen künstliche Intelligenz schnell und vernünftig regulieren, mit einem starken Konsumentenschutz und Transparenz auf der einen Seite und Rechtssicherheit für die Unternehmen auf der anderen Seite.“

Potenziale nutzen, Gefahren ausschließen
Für die SPÖ-EU-Abgeordnete Theresa Bielowski hat die EU mit dem AI-Act „einen gesetzgeberischen Meilenstein“ gesetzt. „Es ist höchste Zeit, dass Regeln für die Anwendungen von Künstlicher Intelligenz in Europa festgelegt werden, damit uns die technische Entwicklung nicht überholt.“ Das Ziel müsse sein, „die Potenziale der Künstlichen Intelligenz in vollem Ausmaß für die Gesellschaft nutzbar zu machen. Gleichzeitig müssen wir alles dafür tun, um verantwortungsvoll mit der Technologie umzugehen und dabei Gefahren auszuschließen und Missbrauch zu vermeiden“, so Bielowski in einer Aussendung.

Auch die ÖVP-Europaabgeordneten Lukas Mandl und Barbara Thaler begrüßen das Gesetz grundsätzlich. „Generell würde ich im Rahmen der KI-Diskussion gerne sehen, dass wir uns nicht nur auf die Risiken und Regulierungen, sondern auch auf die Möglichkeiten und das Potenzial konzentrieren“, merkte jedoch Thaler kritisch an. „Das ist das Mindset, das wir brauchen, damit die EU mit den USA und China konkurrieren kann.“