EU untersucht Musks X wegen sexualisierter Bilder

(SeaPRwire) –   Der Grok-Chatbot der Plattform steht nach Berichten, dass er erotische Deepfakes erzeugt hat, darunter auch Bilder von Minderjährigen, unter Beobachtung

Die Europäische Kommission hat eine Untersuchung gegen Elon Musks Social-Media-Plattform X eingeleitet, nachdem Berichte auftauchten, dass ihr KI-Chatbot Grok sexualisierte Bilder erzeugt habe, darunter einige, die Minderjährige darstellen.

Grok, entwickelt von Musks KI-Unternehmen xAI und in X integriert, steht seit seinem Start im Jahr 2023 weltweit unter Beobachtung. Kritiker haben Bedenken hinsichtlich extremistischer Rhetorik, politischer Voreingenommenheit und sexuell expliziter Funktionen geäußert und davor gewarnt, dass schlecht moderierte KI-Tools Nutzer, insbesondere Teenager, schädlichen Inhalten aussetzen können.

In einer Erklärung am Montag teilte die Europäische Kommission mit, sie prüfe, ob X alle systemischen Risiken im Zusammenhang mit seinen Empfehlungssystemen, einschließlich der kürzlichen Integration von Grok, angemessen angegangen sei. Die Untersuchung ist Teil der breiteren Aufsicht der EU über große Online-Plattformen, und die Regulierungsbehörden sagten, dass vorläufige Maßnahmen verhängt werden könnten, wenn X keine sinnvollen Änderungen umsetzt.

„Das Teilen sexualisierter KI-generierter Bilder, insbesondere mit Minderjährigen, ist inakzeptabel und birgt ernste Risiken für die Nutzer“, sagte die Exekutiv-Vizepräsidentin der Kommission für technologische Souveränität, Sicherheit und Demokratie, Henna Virkkunen.

Der Untersuchung gehen frühere Durchsetzungsmaßnahmen der Kommission voraus, darunter eine Geldstrafe in Höhe von 150 Millionen Euro (178 Millionen US-Dollar) gegen X im Dezember wegen Verstoßes gegen Transparenzpflichten im Rahmen des Digital Services Act.

Als Reaktion auf die Untersuchung teilte X eine am 14. Januar veröffentlichte Erklärung mit, in der es sich verpflichtet, die Plattform „sicher“ zu halten und „null Toleranz“ gegenüber sexueller Ausbeutung von Kindern, nicht einvernehmlicher Nacktheit und unerwünschten sexuellen Inhalten walten zu lassen. Unabhängig davon postete Musk ein Bild auf X, das die Beschränkungen um Grok lächerlich zu machen schien.

Die Untersuchung der EU erfolgt, nachdem US-Beamte zuvor gewarnt hatten, dass ein Vorgehen gegen Big Tech eine Reaktion Washingtons auslösen könnte, einschließlich der möglichen Verhängung von Zöllen.

Forscher des Center for Countering Digital Hate sagten, Grok habe in weniger als zwei Wochen fast 3 Millionen sexualisierte Bilder erzeugt, von denen etwa 23.000 Kinder darzustellen schienen.

Anfang dieses Monats hat die britische Medienaufsichtsbehörde Ofcom ihre eigene Untersuchung eingeleitet, um festzustellen, ob X seinen Verpflichtungen zum Schutz der Nutzer online nachkommt.