EU untersucht Musk’s X: Grok verbreitet sexuelle Deepfakes

Die Europäische Union hat offiziell eine Untersuchung gegen X, die Plattform von Elon Musk, eingeleitet. Anlass ist die Verbreitung von sexuellen Deepfakes durch seinen KI-Chatbot Grok. Die Europäische Kommission prüft, ob die Plattform bei der Begrenzung der mit dem Einsatz von Grok in der EU verbundenen Risiken schwerwiegend versagt hat.

Grok erstellt sexuelle Deepfakes von Frauen und Kindern

Im Mittelpunkt der Untersuchung stehen besorgniserregende Berichte, dass Grok, der KI-Chatbot von X, ohne Zustimmung sexuelle Deepfakes von Frauen und sogar Minderjährigen verbreitet. Laut Europäischer Kommission könnten einige Bilder so schwerwiegend sein, dass sie als Material des Kindesmissbrauchs gelten.

Das ist nicht nur schockierend, sondern auch strafbar. Genau das macht den Fall so brisant: Grok wird als Quelle digitaler Ausbeutung angesehen. EU-Technologiekommissarin Henna Virkkunen bezeichnet nicht einvernehmliche sexuelle Deepfakes als eine gewalttätige, unakzeptable Form der Entwürdigung.

Nicht nur Brüssel ist besorgt. Auch Aufsichtsbehörden im Vereinigten Königreich haben eine formale Untersuchung unter dem neuen Online Safety Act eingeleitet. Auch aus Frankreich und Indien kommt dieselbe Empörung: X tue nicht genug, um diese Bilder zu stoppen.

X droht Mega-Bußgeld nach Digital Services Act

X, die Plattform, die zu Musks KI-Unternehmen xAI gehört, behauptet, aktiv gegen illegale Inhalte wie Kinderpornografie vorzugehen. Laut dem Unternehmen werden verdächtige Konten gesperrt und es gibt eine Zusammenarbeit mit Strafverfolgungsbehörden. Dennoch zweifelt die Europäische Kommission daran, ob X ausreichend Vorsichtsmaßnahmen bei der Einführung von Grok in Europa getroffen hat.

Die Untersuchung kommt zu einem heiklen Zeitpunkt. Vor Kurzem erhielt X eine Geldstrafe von 120 Millionen Euro wegen Irreführung der Nutzer und mangelnder Transparenz. Diese Strafe betraf unter anderem das blaue Verifikationshäkchen und den Umgang mit Werbedaten. Nach dem Digital Services Act kann die Europäische Union Unternehmen mit bis zu sechs Prozent ihres weltweiten Jahresumsatzes bestrafen.

Musk und USA kritisieren europäische Vorgehensweise

Aus den Vereinigten Staaten kommt scharfe Kritik an der europäischen Vorgehensweise. Der amerikanische Vizepräsident JD Vance nannte die frühere Geldstrafe „einen Angriff auf die Meinungsfreiheit“ und meinte, die EU solle sich auf den Schutz der freien Meinungsäußerung konzentrieren, statt amerikanische Unternehmen anzugreifen.