Mit zunehmender Geschwindigkeit dringen selbstlernende Systeme in immer mehr Lebensbereiche vor. Um sicherzustellen, dass Grundrechte respektiert und Verbraucher geschützt werden, setzt die EU mit einer neuen Verordnung Grenzen.
Künstliche IntelligenzEU setzt ChatGPT und Co. endlich Grenzen
Von Katrin Pribyl
Lesezeit 4 Minuten
Ein Roboter interagiert mit einer Frau (Symbolbild)
Copyright: dpa
Applaus brandete auf im weiten Saalrund des Europäischen Parlaments in Straßburg, als es endlich geschafft war. Insgesamt 513 Europaabgeordnete hatten gerade für den sogenannten Artificial Intelligence Act gestimmt, nur 46 Parlamentarier dagegen: Damit stellte sich die überwältigende Mehrheit der EU-Abgeordneten am Mittwoch hinter den neuen Rahmen für Künstliche Intelligenz (KI) in der EU. Es war das finale Votum, nun kann das Gesetz in Kraft treten. Dementsprechend groß war auch die Erleichterung im Kreis der Verhandler.
Als „Quantensprung in Richtung einer ethischen und nachhaltigen KI-Regulierung“ pries der Grünen-Abgeordnete Sergey Lagodinsky das neue Gesetz, das zeige, „dass wir keinen Wilden Westen für KI in der EU wollen, sondern Innovation, die dynamisch bleibt und sich an Regeln hält“. Es handelte sich buchstäblich um Pionierarbeit, die die Europäer mit diesem Gesetz leisteten. Sie waren aufgefordert, Antworten zu liefern auf Fragen, die im Detail zur Zeit überhaupt noch nicht bekannt sind. Der SPD-Europaparlamentarier René Repasi etwa sprach denn auch von einem „bedeutenden Meilenstein in der Regulierung der Risiken, die KI für Arbeitnehmer und Verbraucher mit sich bringt“. Dieser ebne seinen Worten zufolge den Weg „für einen verantwortungsvollen Einsatz mit minimierten Risiken“.
Die Gesetzgeber hoffen, dass sie mit der Vorschrift über die europäischen Grenzen hinaus Wirkung erzielen. Das Phänomen, das durch die sanfte Macht des europäischen Binnenmarkts zustande kommt, wird auch „Brüssel-Effekt“ genannt. Werden sich andere Regionen in der Welt anschließen? Als Zauberformel gilt der risikobasierte Ansatz. So werden KI-Systeme künftig stufenweise in Risiko-Kategorien unterteilt. KI-gestützte Videospiele gelten beispielsweise als risikoarm und sind nicht der neuen Verordnung unterworfen. Dagegen soll die Nutzung bei einem untragbaren Risiko verboten oder durch Transparenzpflichten begrenzt werden, um die Grundrechte der Verbraucher zu schützen. „Inakzeptabel“ wären etwa Anwendungen zur sozialen Bewertung von Bürgern wie üblich in autoritären Systemen, etwa in China. Das heißt, in Europa sind keine KI-Systeme erlaubt, die Bürger nach Kriterien wie der sexuellen Orientierung, der Hautfarbe oder politischen und religiösen Ansichten einteilt.
Differenzierte Risikobewertungen
Wird eine KI als hochriskant klassifiziert und könnte damit potenzielle negative Auswirkungen auf individuelle Rechte und den Datenschutz haben oder Diskriminierung befördern, werden deren Anbieter und Nutzer, egal ob in der Bildung, Medizin oder Justiz, besonders in die Pflicht genommen. Sie müssen dann geeignete Schutzmaßnahmen für die entsprechende KI-Anwendung einführen, etwa wenn es um den Einsatz von KI bei Wahlen, kritischer Infrastruktur oder für die Prüfung der Kreditwürdigkeit von Privatpersonen oder Unternehmen geht. Hier soll es weiterhin ein Recht auf menschliche Überprüfung geben.
Gleichwohl sei „eine simple und unbedenkliche KI“, die in einem Hochrisiko-Bereich wie der Medizin eingesetzt wird, „nicht automatisch Hochrisiko“, sagte die FDP-Europaabgeordnete Svenja Hahn und nannte als ein Beispiel das Terminvergabesystem beim Arzt. Der christdemokratische EU-Parlamentarier Axel Voss erkannte in der Verordnung hingegen „Licht und Schatten“. So äußerte er etwa Zweifel, „ob das KI-Gesetz wirklich geeignet ist, eine sich ständig weiterentwickelnde Technologie zu regulieren“. Der Text sei „extrem vage, während das System aus europäischen und nationalen Aufsichtsbehörden viel zu kompliziert ist“, so seine Bedenken in dieser Hinsicht. Der CDU-Politiker appellierte deshalb an den öffentlichen und privaten Sektor, künftig „sehr gut“ in der Sache zusammenzuarbeiten.
Umstritten in den Verhandlungen war vor allem, inwieweit Künstliche Intelligenz zur Überwachung im öffentlichen Raum eingesetzt werden darf. Nachdem die Mitgliedstaaten – erfolgreich – auf weitreichende Maßnahmen, vor allem zur Strafverfolgung, gepocht hatten, zeigten sich einige EU-Parlamentarier in diesem Punkt enttäuscht über den finalen Kompromiss. „Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum wurde durch eine lange Liste von Ausnahmen praktisch gekippt“, kritisierte die Linken-Europaabgeordnete Cornelia Ernst. Sie befürchtet eine Massenüberwachung. „Ich hätte mir noch stärkeren Schutz von Bürgerrechten gewünscht“, sagte auch die Liberale Hahn.
So wird biometrische Gesichtserkennung in Echtzeit künftig an öffentlichen Plätzen in engen Grenzen erlaubt sein, etwa wenn es dabei um die Identifizierung von konkret gesuchten Personen geht, die im Zusammenhang mit schweren Straftaten wie etwa Entführung, Menschenhandel oder Vergewaltigung stehen oder falls eine akute Terrorgefahr besteht. Aufgezeichnetes Material darf außerdem zur Fahndung nach Verurteilten oder Verdächtigen genutzt werden – allerdings nur mit vorheriger richterlicher Genehmigung.