Künstliche Intelligenz (KI) wird bereits jetzt in der Videoüberwachung, Spracherkennung oder bei der Auswertung von Finanzdaten genutzt. Am 1. August tritt das erste KI-Gesetz der Europäischen Union in Kraft, das mit bestimmten Übergangsfristen Regeln einzieht.

Wo wird der Einsatz von KI verboten?

Verboten sind künftig KI-Systeme, die Menschen nach Kriterien wie Hautfarbe, politischen und religiösen Ansichten oder sexueller Orientierung in Gruppen einteilen. Außerdem werden die in China üblichen „Sozialkredit“-Systeme verboten, mit denen die herrschende Kommunistische Partei Menschen per Massenüberwachung zu erwünschten Verhaltensweisen und politischer Loyalität „erziehen“ will. Unternehmen in der EU dürfen KI zudem künftig nicht einsetzen, um die Gefühle ihrer Beschäftigten zu erfassen. Die Technologie darf zudem nicht genutzt werden, um Menschen gegen ihren Willen zu beeinflussen. Betroffene dürfen durch die Nutzung auch nicht wegen ihres Alters, einer Behinderung oder ihrer finanziellen Situation benachteiligt werden.

Was gilt für Gesichtserkennung?

Die Polizei und andere Sicherheitsbehörden dürfen die KI-gesteuerte Gesichtserkennung an öffentlichen Orten nur dann nutzen, wenn eine richterliche Anordnung vorliegt. Solche Systeme wurden in Deutschland bereits getestet, etwa am Berliner Bahnhof Südkreuz. Bei aufgezeichnetem Videomaterial darf die Technologie für die Fahndung nach Verurteilten oder Verdächtigten schwerer Straftaten verwendet werden. Verfolgen die Beamten das Videomaterial in Echtzeit, sind KI-Systeme auch für die Suche nach Opfern von Menschenhandel und sexueller Gewalt erlaubt. Außerdem dürfen sie die Gesichtserkennung nutzen, um „eine konkrete und akute Terrorgefahr“ abzuwenden.

Welche Anwendungen stellen ein „hohes Risiko“ dar?

Bei der Nutzung Künstlicher Intelligenz in Sicherheitsbehörden sieht der Gesetzgeber grundsätzlich ein „hohes Risiko“ für Grundrechtsverstöße. Das gleiche gilt für Anwendungen etwa in der Personalverwaltung. Zu den sogenannten Hochrisiko-Anwendungen gehören zudem Systeme, die Wahlen beeinflussen können. In diesen Fällen soll deshalb in letzter Instanz ein Mensch die Kontrolle über die KI-Entscheidungen haben. Zudem schreibt das Gesetz eine technische Dokumentation und ein System zum Risikomanagement vor. Betroffene sollen bei den Behörden Beschwerde gegen die KI-Nutzung einlegen können.

Wie wird die Qualität der Systeme sichergestellt?

Entwickler müssen künftig klar kennzeichnen, wenn Texte, Bilder oder Videos auf Künstlicher Intelligenz beruhen. Online-Plattformen wie Facebook, Instagram oder X und nationale Behörden sollen dies überprüfen. Fachleute halten die Kontrolle jedoch für schwierig.

Was müssen Privatanwender tun?

Sie sind nach Kommissionsangaben vom Anwendungsbereich des KI-Gesetzes ausgenommen. So können etwa per Bildbearbeitung aufgehübschte Selfies oder künstlich erstellte Texte weiter online gepostet werden. Allerdings sind private Nutzer indirekt von anderen EU-Vorschriften betroffen. Seit Februar gilt das EU-Gesetz über digitale Dienste. Es verpflichtet Online-Plattformen, Falschinformationen, Aufrufe zum Hass oder Darstellungen sexueller Gewalt im Internet schneller zu löschen.Was befürchtet die Industrie?Industrieverbände befürchten, dass die neuen KI-Regeln zu hohe Hürden bei der Entwicklung neuer Anwendungen schaffen. EU-Unternehmen könnten dadurch Nachteile gegenüber der Konkurrenz aus den USA und aus China haben, warnte der Bundesverband der Deutschen Industrie.

Welche Strafen drohen den Unternehmen?

Bei Verstößen gegen das KI-Gesetz drohen Strafen in Millionenhöhe. Für den Einsatz einer verbotenen Technologie kann die EU-Kommission Zahlungen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes eines Unternehmens verlangen. Wer gegen andere Bestimmungen des Gesetzes verstößt, muss mit Strafen von bis zu 15 Millionen Euro oder drei Prozent des Jahresumsatzes rechnen. (afp)