Grok wird nach Deepfake-Sexbildern minimal eingeschränkt

Nach weltweiter Kritik an sexualisierten Bildern auf der Online-Plattform X des Milliardärs Elon Musk will dessen KI-Unternehmen xAI die Nutzung seines Programms Grok zumindest geringfügig einschränken. xAI teilte den X-Nutzern mit, auf die Funktionen ‌zur Bildgenerierung und -bearbeitung hätten ab sofort nur noch zahlende Abonnenten Zugriff.

Die ⁠KI-Plattform Grok ‍steht Millionen Nutzern von Musks Kurznachrichtendienst X, dem früheren Twitter, zur Verfügung. Für Empörung hatte gesorgt, dass X-Nutzer Grok beauftragen konnten, Fotos von Personen ohne deren Zustimmung zu manipulieren - etwa Kleidungsstücke auf den Bildern zu ⁠entfernen oder die Personen in sexualisierter Pose zu zeigen.

Nach der Ankündigung, Bildbearbeitungsfunktionen an eine bezahlte Mitgliedschaft zu knüpfen, ließen sich mit einem entsprechenden Account weiterhin sexualisierte Darstellungen über X erzeugen. Auch die Grok-App lieferte wie schon zuvor solche Bilder. Auf eine Anfrage der Nachrichtenagentur Reuters gab xAI die offenbar automatisierte Antwort: "Etablierte Medien ‍lügen." X reagierte gar nicht.

"Industrialisierung der sexuellen Belästigung"

Aus Deutschland kam scharfe Kritik an dem US-Unternehmen. "Was wir bei X gerade beobachten, wirkt wie die Industrialisierung der sexuellen Belästigung", sagte Kulturstaatsminister Wolfram Weimer. Die EU-Kommission müsse mit der konsequenten Anwendung des Digital Services Act (DSA) dagegen vorgehen.

Das Bundesjustizministerium erklärte, das Strafrecht werde an neue Vergehen wie KI-manipulierte Bilder angepasst. Hierzu würden bald Vorschläge präsentiert. Die systematische Verletzung von Persönlichkeitsrechten sei nicht hinnehmbar. Daneben wolle man es Betroffenen erleichtern, gegen die Verletzung ihrer Rechte im Netz direkt vorzugehen.

Die EU-Kommission hatte X am Donnerstag angewiesen, alle Dokumente und Daten zu Grok bis zum Jahresende aufzubewahren. Auf X verbreitete Bilder von unbekleideten Frauen und Kindern seien rechtswidrig und empörend. Die jüngste Maßnahme von X ändere daran nichts. "Bezahlte Mitgliedschaft oder unbezahlte Mitgliedschaft - wir möchten solche Bilder nicht sehen", sagte ein Sprecher der Brüsseler Behörde.

Keir Starmer: "Widerlich"

Der britische Premierminister Keir Starmer bezeichnete die sogenannten Deepfake-Motive von Kindern als "widerlich". Deepfakes sind mit Hilfe Künstlicher Intelligenz (KI) erstellte Videos, Bilder oder Audio-Dateien, die täuschend echt wirken, es aber nicht sind.

Einem Bericht von NBC News zufolge forderten am Freitag ​drei demokratische Abgeordnete im US-Senat die Tech-Riesen Apple und Google auf, X und Grok wegen der Bilder aus ihren App-Stores zu entfernen. Apple und Googles Android dominieren den Weltmarkt für ⁠Smartphone-Betriebssysteme.

Der US-Milliardär Musk, der ​rechtspopulistische Parteien in Europa unterstützt, wehrt sich gegen die Regulierung seiner Dienste in der Europäischen Union. X ist ‌wie alle sozialen Plattformen ‌in der EU den hiesigen Gesetzen unterworfen; gegen die Plattform laufen auf Grundlage europäischer Digitalgesetze mehrere Verfahren. Musk wird bei seiner Kritik an der EU von der US-Regierung unterstützt. Beide werfen der Europäischen Union Zensur und Unterdrückung der Meinungsfreiheit vor.

In der Vergangenheit hatte der Chatbot Grok bereits mehrfach für Aufsehen gesorgt. Im Sommer veröffentlichte er zustimmende Äußerungen zu Adolf Hitler. Um den Jahreswechsel herum bat er um Entschuldigung dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X.

jj/wa (dpa, afp, rtr)

Redaktionsschluss 17.45 Uhr (MEZ) - dieser Artikel wird nicht weiter aktualisiert.