UN: Künstliche Intelligenz wird zur Gefahr | Aktuell Welt | DW | 15.09.2021
  1. Inhalt
  2. Navigation
  3. Weitere Inhalte
  4. Metanavigation
  5. Suche
  6. Choose from 30 Languages
Anzeige

Menschenrechte

UN: Künstliche Intelligenz wird zur Gefahr

Biometrische Überwachung an öffentlichen Orten könne dazu führen, dass wir alle uneingeschränkt kontrolliert werden, warnt die UN-Menschenrechtskommissarin.

Videoüberwachung

In vielen Großstädten weltweit wird das Netz der Kameraüberwachung immer dichter (Symbolbild)

Die Vereinten Nationen haben ein Moratorium für bestimmte Technologien aus dem Bereich der künstlichen Intelligenz (KI) gefordert. Zunächst müssten die Auswirkungen auf die Menschenrechte wie etwa das Recht auf Privatsphäre oder die Bewegungs- und Meinungsfreiheit untersucht werden, sagte die UN-Hochkommissarin für Menschenrechte, Michelle Bachelet. Einige biometrische Anwendungen, beispielsweise Gesichtserkennungssoftware, stellten eine Bedrohung dar, weil sich Menschen damit anhand ihrer körperlichen Merkmale uneingeschränkt identifizieren und fernüberwachen ließen.

"KI-Technologien können negative, sogar katastrophale Auswirkungen haben", warnte Bachelet. Sie forderte die Staaten auf, jene Technologien, die die größten Gefahren mit sich brächten, ganz zu verbieten oder ihre Verwendung streng zu regulieren. Bei der Vorstellung eines neuen Berichts über KI und Menschenrechte nannte Bachelet beispielhaft die Verwendung von Technologien zur Profilerstellung und Entscheidungsfindung.

"Menschenrechtsverstöße ohne Transparenz"

Zwar sei das positive Potenzial von künstlicher Intelligenz unbestreitbar. KI habe aber auch das Potenzial, "Menschenrechtsverstöße auf einer enormen Skala ohne jegliche Transparenz" zu ermöglichen. "Es braucht jetzt konkrete Schritte", sagte Bachelet - "zum Wohl von uns allen".

Pilotprojekt zur Gesichtserkennung

Schon 2017 gab es am Berliner Bahnhof Südkreuz ein Pilotprojekt zur Gesichtserkennung (Archivbild)

Künstliche Intelligenz bezeichnet Anwendungen, bei denen lernfähige Software oft riesige Datenmengen auswertet und daraus Entscheidungen ableitet. Sie wird nicht nur in der Medizin und für selbstfahrende Autos eingesetzt, sondern auch, um Jobbewerber zu bewerten, Sozialhilfebetrug aufzuspüren oder kriminelles Verhalten vorauszusagen. In der Überwachungstechnik wird KI mit Biometrie kombiniert - etwa über Gesichts- und Gangerkennung per Kameranetz im öffentlichen Raum -, aber auch mit Daten, die Menschen auf andere Weise erzeugen, etwa durch Übermittlung der wechselnden Standorte ihres Mobiltelefons.

"KI kann Menschen schädigen"

"Dass KI das Leben von Menschen verändert, definiert oder schädigt, ist schon jetzt ein echtes Risiko", sagte Bachelet in Genf. In dem UN-Bericht wird zudem auf Verfälschungen hingewiesen, die entstehen, wenn Daten mit Algorithmen verarbeitet werden, die bestimmte Gruppen wie Frauen oder ethnische Minderheiten benachteiligten. Solche Verzerrungen zeigten sich beispielsweise bei den Suchresultaten des Online-Riesen Google.

Schweiz Genf | Michelle Bachelet, Hohe Kommissarin für Menschenrechte der Vereinten Nationen

Im Visier der Kameras: UN-Menschenrechtskommissarin Michelle Bachelet (Mitte)

Die EU-Kommission hatte im April Regeln für künstliche Intelligenz vorgeschlagen. Je größer die Gefahren einer Anwendung, desto strenger sollen demnach die Regelungen sein. Das UN-Menschenrechtsbüro schlug vor, diesen Ansatz für künftige globale Standards zu übernehmen. Die Bürgerrechtsorganisation European Digital Rights (EDRi) hatte im Juli beklagt, biometrische Massenüberwachung im öffentlichen Raum sei "zunehmend und stillschweigend zu einer gängigen Methode geworden".

jj/wa (dpa, afp)