Amnesty International hat vor zunehmenden Menschenrechtsverletzungen durch den Einsatz Künstlicher Intelligenz (KI) gewarnt. 'KI kann instrumentalisiert werden, um zu diskriminieren, zu desinformieren und zu spalten', sagte die Expertin Lena Rohrbach.
Amnesty International hat vor zunehmenden Menschenrechtsverletzungen durch den Einsatz Künstlicher Intelligenz (KI) gewarnt. "KI kann instrumentalisiert werden, um zu diskriminieren, zu desinformieren und zu spalten", sagte Lena Rohrbach, Expertin für Menschenrechte im digitalen Zeitalter, bei der Vorstellung des am Mittwoch veröffentlichten Jahresberichts der Menschenrechtsorganisation in Berlin. Software wie ChatGPT, die Texte erstellt, könne etwa Hassreden gegen Frauen und Homosexuelle am Fließband produzieren und verbreiten.
Amnesty prangerte insbesondere den Einsatz von Gesichtserkennung an. Die Bundesregierung habe ihr Versprechen noch nicht eingelöst, Gesichtserkennung im öffentlichen Raum zu verbieten, sagte Rohrbacher. Sowohl bei der Fußball-Europameisterschaft in Deutschland als auch bei den Olympischen Spielen in Paris werde derzeit über den Einsatz von KI debattiert. "Dabei besteht die Befürchtung, dass dies dauerhaft ausgeweitet wird", sagte Rohrbacher.
In Russland würden bereits Kameras mit Gesichtserkennung genutzt, um etwa Teilnehmer an regierungskritischen Demonstrationen zu identifizieren, erläuterte sie. Die iranischen Behörden kündigten im vergangenen Jahr an, mit entsprechender Software Frauen zu identifizieren, die sich dem Schleierzwang widersetzen. Und die New Yorker Polizei habe 2023 nach einer Klage von Amnesty International eingeräumt, Gesichtserkennung zur Überwachung von Black-Lives-Matter-Protesten benutzt zu haben.
KI werde zudem genutzt, um Deepfake-Pornographie herzustellen, sagte Rohrbach. Dies betreffe vor allem Frauen. Sie verwies auf das Beispiel einer 17 Jahre alten Ägypterin, die sich das Leben nahm, nachdem gefakte Nacktfotos von ihr verbreitet worden waren. Amnesty kritisierte auch Internettplattformen, die etwa Informationen zu Schwangerschaftsabbrüchen einschränkten.
Besonders problematisch sei der Einsatz von Spionagesoftware wie Pegasus oder Predator. "Sie ermöglichen ein ganz neues Level an transnationaler Repression", sagte Rohrbach. Im vergangenen Jahr hätten etwa Armenien, Indien und Serbien die Pegasus-Software genutzt, um Medien und die Zivilgesellschaft zu überwachen. Die Software Predator, die von einem europäischen Konsortium hergestellt werde, sei beispielsweise für einen Cyber-Angriff auf einen in Berlin lebenden vietnamesischen Journalisten eingesetzt worden.
Daneben komme es auch versehentlich zu Menschenrechtsverletzungen durch KI, etwa beim Einsatz von Algorithmen durch Behörden. In Serbien habe die Einführung eines automatisierten Systems dazu geführt, dass Tausende Familien zu Unrecht den Zugang zur Sozialhilfe verloren. "Eigentlich gibt es eine Frist, in der Menschen die Urteile überprüfen sollen, (...) aber de facto trifft die Entscheidung ein Algorithmus", erklärte Rohrbach.
Amnesty International fordert sowohl ein Verbot von besonders invasiver Spionagesoftware als auch ein Moratorium für den Handel mit anderen Überwachungstechnologien, bis es dazu internationale Regeln gebe. Die europäische KI-Verordnung sei ein Schritt in die richtige Richtung, biete aber zugleich ein "Einfallstor für Menschenrechtsverletzungen in den besonders grundrechtssensiblen Bereichen Migration und Sicherheit". Dort müsse die Bundesregierung "national gesetzlich nachschärfen", sagte Rohrbacher.
