In EU-Kreisen erzählen sie sich sehr gerne stolz, dass die Union mit ihren Vorschriften über ihre Grenzen hinaus Wirkung erzielt. Das Phänomen, das durch die sanfte Macht des europäischen Binnenmarkts zustande kommt, hat sogar einen Namen: „Brüssel-Effekt“. Weniger gerne hören EU-Vertreter den Satz, der auch immer wieder durch die Institutionen schwirrt und weniger lustig gemeint ist: „Die Amerikaner erfinden, die Europäer regulieren.“

KI: Abstimmung am Mittwoch in Straßburg

Mit einem neuen Rahmen für Künstliche Intelligenz (KI), dem sogenannten Artificial Intelligence Act, erhoffen sich die Abgeordneten nun ersteres – und dass sie den Eindruck von letzterem verhindern können. Am Mittwoch stimmte das Parlament in Straßburg mehrheitlich für die Position, mit der das Hohe Haus Europas auf den Gesetzesvorschlag der EU-Kommission antwortet.

„Wir schreiben Geschichte“, lobte die Präsidentin des EU-Parlaments, Roberta Metsola, nach dem Votum. Es handele sich um „ausgewogene und auf den Menschen ausgerichtete Rechtsvorschriften, die in den kommenden Jahren weltweit Maßstäbe setzen werden“. Gleichwohl werde Europa weiterhin führend in Sachen Innovation sein. Auch für den Grünen-Europaabgeordneten Sergey Lagodinsky widerspiegelt der Kompromiss „ein vernünftiges Gleichgewicht zwischen verantwortungsvoller Regulierung und angemessenen Innovationsanreizen“.

Als erhoffte Zauberformel der europäischen Gesetzgeber gilt der risikobasierte Ansatz. So würden KI-Systeme künftig stufenweise in Risiko-Kategorien unterteilt werden. KI-gesteuerte Spielzeugautos oder KI-gestützte Videospiele gelten beispielsweise als risikoarm und wären nicht der neuen Verordnung, sondern nur bereits existierenden Regeln wie etwa dem Datenschutz- und Jugendschutzrecht unterworfen.

Grundrechte der Verbraucher schützen

Dagegen soll die Nutzung bei einem untragbaren Risiko verboten oder durch Transparenzpflichten begrenzt werden, um die Grundrechte der Verbraucher zu schützen. „Inakzeptabel“ wären etwa Anwendungen zur sozialen Bewertung von Bürgern – wie in autoritären Systemen bereits üblich. Wird eine KI als hochriskant klassifiziert und könnte damit potenzielle negative Auswirkungen auf individuelle Rechte, Datenschutz oder Diskriminierung haben, werden laut Entwurf deren Anbieter und Nutzer, ob in der Bildung, im Gesundheitssektor oder Justiz, besonders in die Pflicht genommen. Sie müssten dann geeignete Schutzmaßnahmen einführen. Beispiele wären der Einsatz von KI in der robotergestützten Chirurgie, beim Grenzkontroll-Management oder wenn Banken für die Prüfung der Kreditwürdigkeit von Privatpersonen oder Unternehmen KI einsetzen. Hier soll es ein Recht auf menschliche Überprüfung geben, wie der SPD-Europaabgeordnete René Repasi ausführte.

Über allem steht die Frage: Was ist Hochrisiko?

Die EU hat also keineswegs sämtliche Formen von KI im Verbotsblick, sondern will sich von der Frage leiten lassen: Was ist Hochrisiko? Und das liege laut Parlamentarier immer in der Art der Anwendung. Während die Gesichtserkennung zur Entsperrung des Smartphones etwa praktisch und harmlos für den Nutzer ist, wurde im aktuellen Entwurf dagegen ein Verbot der biometrischen Gesichtserkennung in Echtzeit in öffentlichen Räumen festgeschrieben.

Das sei „historisch und richtig“, lobte die EU-Parlamentarierin Cornelia Ernst (Linke), auch wenn ihrer Meinung nach in der Gesamtverordnung „viele Fragen und große Schlupflöcher“ blieben. Die SPD-Europaparlamentarierin Birgit Sippel lobte ebenfalls das Verbot. „Damit verhindern wir, dass wir durch Kameras jederzeit erkannt und dadurch de facto pausenlos überwacht werden.“

Nachträglich wäre die Verwendung nur nach gerichtlicher Genehmigung und im Falle schwerwiegender begangener Straftaten erlaubt. Zahlreichen Konservativen ging „dieses generelle Verbannen“ zu weit, wie der CDU-Europaabgeordnete Axel Voss im Vorfeld anführte. „Es geht nicht um Massenüberwachung, sondern darum, dass die Strafverfolgungsbehörden noch die Möglichkeit haben, mit den existierenden Techniken ihre Aufgabe zu erfüllen“.

Vielen Kritikern geht das zu weit

Doch die Christdemokraten konnten sich mit ihrem Widerstand nicht durchsetzen. Das fand Voss „bedauerlich“, beim Großteil der übrigen Parteien sorgten die Nein-Stimmen aus dem konservativen Lager für Ärger. Es sei „ein Bruch der Einigung zwischen uns allen, wenn eine Fraktion auf diese Art und Weise ausschert“, kritisierte der Grüne Lagodinsky.

Man habe „die Angriffe auf Bürgerrechte durch die Fraktion der Union“ abwehren können, sagte die FDP-Europaabgeordnete Svenja Hahn. „Gesichtserkennung zur Überwachung kennen wir aus China, diese Anwendung von Technologie hat in einer liberalen Demokratie nichts zu suchen.“

CDU-Mann Voss dagegen befand, man verpasse „eine wichtige Chance“. KI richtig angewandt könne bei der Strafverfolgung zu deutlich mehr Sicherheit für die Bevölkerung führen.

Seit eineinhalb Jahren arbeitet die EU bereits am weltweit bislang umfassendsten KI-Gesetz. Kann das EU-Recht mit dem technischen Fortschritt mithalten? Während im Bereich der KI die Entwicklungen im Rekordtempo voranschreiten, dauern Gesetzgebungsprozesse auf EU-Ebene traditionell lang. Nun soll es zügiger gehen. Nachdem das Parlament seine Linie abgesteckt hat, beginnen jetzt die Verhandlungen zwischen dem Rat, also dem Gremium der 27 Mitgliedstaaten, und der EU-Kommission. Die Optimisten in Brüssel prophezeien, dass noch vor Weihnachten ein Kompromiss steht.