presse

EU: KI-Verordnung in Gefahr, wenn europäisches Parlament missbräuchliche Technologien legitimiert

13. Juni 2023

Im Vorfeld zur morgigen Abstimmung über das Gesetz über Künstliche Intelligenz (KI-Verordnung oder AI Act) appelliert Amnesty International an das Europäische Parlament, seine endgültige Position in einer Plenarabstimmung zu festigen, und rassistische und diskriminierende Profiling-Systeme zu verbieten, die sich gegen Asylwerber*innen und andere Minderheiten richten.

Amnesty International fordert das Europäische Parlament auf, den Einsatz von Massenüberwachungstechnologien, wie z.B. biometrische Identifizierungsinstrumente in Echtzeit, in dem KI-Gesetz zu verbieten. "Es besteht die Gefahr, dass das Europäische Parlament die bei der Abstimmung im Ausschuss am 11. Mai erzielten beträchtlichen Menschenrechtsschutzmaßnahmen aufhebt und damit dem Einsatz von Technologien Tür und Tor öffnet, die in direktem Widerspruch zu den internationalen Menschenrechtsnormen stehen", so Mher Hakobyan, Beraterin für KI-Regulierung bei Amnesty International.

Untersuchungen von Amnesty International zeigen, dass invasive Gesichtserkennungstechnologien rassistische und diskriminierende Strafverfolgungsmaßnahmen gegen Minderheiten verstärken, einschließlich der Praktiken des Anhaltens und der Durchsuchung, von denen Schwarze Menschen und People of Color unverhältnismäßig stark betroffen sind. Sie werden auch eingesetzt, um die Bewegungsfreiheit von Geflüchteten und Asylwerber*innen einzuschränken.

Es ist wichtig, dass das Europäische Parlament die Gefahren rassistischer KI-Systeme nicht ignoriert. Der Gesetzgeber muss rassistische Profiling- und Risikobewertungssysteme verbieten, die Geflüchtete und Asylwerber*innen als 'Bedrohung' abstempeln, sowie Prognosetechnologien, die Grenzbewegungen vorhersagen und Menschen das Recht auf Asyl verweigern
Mher Hakobyan, Beraterin für KI-Regulierung bei Amnesty International

Das KI-Gesetz müsse auch den Export von Systemen verbieten, die in der EU nicht verwendet werden dürfen, wie z.B. Gesichtserkennung und andere Überwachungstechnologien.

Export von menschenrechtsfeindlichen Technologien

Untersuchungen von Amnesty International haben ergeben, dass Unternehmen mit Sitz in Frankreich, Schweden und den Niederlanden digitale Überwachungssysteme wie Gesichtserkennungstechnologie und Netzwerkkameras an wichtige Akteur*innen des chinesischen Massenüberwachungsapparats verkauft haben. In einigen Fällen wurde die von der EU exportierte Infrastruktur gegen Uigur*innen und andere überwiegend muslimische ethnische Gruppen im ganzen Land eingesetzt.

"Das Europäische Parlament hat die Pflicht, die Menschenrechte zu wahren. Alles andere als ein völliges Verbot von Technologien, die für Massenüberwachung, rassistische Polizeiarbeit und Profilerstellung eingesetzt werden, wäre ein Verstoß gegen diese Pflicht", sagte Mher Hakobyan.

Die EU-Gesetzgeber müssen auch sicherstellen, dass Technologien, die in der EU verboten sind, nicht exportiert werden, um anderswo Menschenrechtsverletzungen zu begehen. Diese Gesetzgebung muss die Menschenrechte aller Menschen schützen und fördern, nicht nur der Menschen in Europa.
Mher Hakobyan, Beraterin für KI-Regulierung bei Amnesty International

Hintergrund

Die Europäische Kommission hat am 21. April 2021 einen Vorschlag für eine Rechtsvorschrift über den Einsatz künstlicher Intelligenz vorgelegt. Der Rat der EU, der sich aus den nationalen Regierungen der EU-Mitgliedstaaten zusammensetzt, hat den Standpunkt im Dezember 2022 angenommen. Das Europäische Parlament will am 14. Juni endgültig über seinen offiziellen Standpunkt abstimmen. Danach müssen sich die beiden Institutionen zusammen mit der Europäischen Kommission auf einen gemeinsamen Text für die Verordnung einigen.

Amnesty International hat als Teil einer Koalition zivilgesellschaftlicher Organisationen unter der Leitung des European Digital Rights Network (EDRi) eine EU-Verordnung zur künstlichen Intelligenz gefordert, die die Menschenrechte schützt und fördert.