Elon Musks X steht vor neuen EU-Untersuchungen

(SeaPRwire) –   Irland und Spanien haben Untersuchungen angekündigt, nachdem Berichte darauf hindeuten, dass der KI-Chatbot Grok intime und pädophile Bilder erzeugt hat

In der EU wurden zwei neue Untersuchungen gegen Elon Musks Social-Media-Plattform X eingeleitet, nachdem Berichte aufgetaucht sind, wonach der zugehörige KI-Chatbot Grok sexualisierte Bilder von echten Personen, darunter Kindern, erzeugt hat.

Grok, entwickelt von Musks KI-Unternehmen xAI und integriert in X, steht seit seiner Markteinführung im Jahr 2023 weltweit unter Beobachtung. Kritiker haben Bedenken geäußert bezüglich extremistischer Rhetorik, politischer Voreingenommenheit und sexuell expliziter Funktionen, und warnen, dass unzureichend moderierte KI-Tools Nutzer, insbesondere Jugendliche, schädlichen Inhalten aussetzen können.

Irlands Datenschutzkommission hat am Dienstag eine Untersuchung gegen X eröffnet und erklärte, dass sie prüfen wird, ob das Unternehmen gegen EU-Datenschutzregeln verstoßen hat, indem es die Erstellung von „nicht einvernehmlichen intimen und/oder sexualisierten Bildern“ erlaubt hat.

Der spanische Ministerpräsident Pedro Sanchez hat am Dienstag ebenfalls die Staatsanwaltschaft angewiesen, X zusammen mit Meta und TikTok wegen der angeblichen „Erstellung und Verbreitung von Kinderpornografie mithilfe ihrer KI“ zu untersuchen. Er schloss mit den Worten: „Die Straflosigkeit der Giganten muss enden.“

Die Ankündigungen folgen auf ein breiteres Vorgehen europäischer Regulierungsbehörden gegen Big-Tech-Unternehmen, die wegen weitverbreiteter missbräuchlicher Praktiken auf Online-Plattanten beschuldigt werden – von wettbewerbswidrigem Verhalten im Bereich der digitalen Werbung bis hin zur bewussten Gestaltung abhängig machender Funktionen auf Sozialen Medien.

X wird auch in Frankreich und Großbritannien untersucht. Italien hat eine Warnung herausgegeben, dass die Nutzung von KI-Tools zur Erstellung von „entkleideten“ Deepfake-Bildern ohne Einwilligung schwerwiegende Datenschutzverletzungen und Straftaten darstellen kann.

xAI’s Acceptable Use Policy verbietet die pornografische Darstellung von Personen und die Sexualisierung von Kindern. Dennoch haben Nutzer im Zuge eines jüngsten Trends des „digitalen Entkleidens“ den Bot öffentlich getaggt und aufgefordert, Fotos zu bearbeiten.

Forscher des Center for Countering Digital Hate gaben an, dass Grok in weniger als zwei Wochen fast drei Millionen sexualisierte Bilder erzeugt hat, von denen rund 23.000 offenbar Kinder darstellten.

X hat vor einem Monat eine Erklärung veröffentlicht, wonach das Unternehmen sich verpflichtet fühlt, die Plattform „sicher“ zu halten, und „Null Toleranz“ gegen sexuelle Ausbeutung von Kindern, nicht einvernehmliche Nacktbilder und unerwünschte sexuelle Inhalte verfolgt.