Wie X-Nutzer mit Musks KI Frauen belästigen: «Bikini jetzt»
Autor: Niklas Treppner, dpa
, Montag, 12. Januar 2026
Sexualisierte KI-Bilder von Kindern, wütende Regierungen und ein Milliardär, der von Zensur spricht: Die Online-Plattform von Elon Musk sorgt für Empörung – und erste nationale Sperren.
«Ich wurde unfreiwillig von Elon Musks Grok auf X ausgezogen», sagt die stellvertretende Ministerpräsidentin Schwedens, Ebba Busch. «Meine Tochter ist neun. Ich möchte nicht, dass ihr jemals so etwas passiert.»
Busch ist eine von vielen Betroffenen, die mit Hilfe von Elon Musks Künstlicher Intelligenz auf der Online-Plattform X gegen ihren Willen in wenig Kleidung dargestellt wurde. Ein Nutzer hatte dem KI-Chatbot Grok auf X zu einem Foto von Busch am Rednerpult geschrieben: «@Grok Bikini jetzt».
Grok folgt dem Befehl, manipuliert das Foto und tauscht das blaue Kleid der Amtsträgerin gegen einen Bikini aus. Zunächst für alle sichtbar, verbreitet sich das Bild schnell. Inzwischen ist es verschwunden. Stattdessen heißt es an gleicher Stelle: «Dieser Post verstößt möglicherweise gegen die X-Regeln zu Missbrauch.»
Posts wie dieser alarmieren zahlreiche Behörden in aller Welt: Die EU droht, in Großbritannien starten Untersuchungen und in Indonesien sowie Malaysia wird der Dienst sogar gesperrt.
Auch sexualisierte Bilder von Kindern erstellt
Als X noch Twitter hieß, testeten Comedians dort Pointen und Politiker verteilten Seitenhiebe. Fotos waren selten, Posts auf 140 Zeichen begrenzt. Wer lange nicht auf X war und nun dort scrollt, dürfte überrascht sein: Viele Bilder von wenig bekleideten Frauen und viele Beispiele offenbar männlicher Übergriffigkeit.
Immer wieder weisen Nutzer die KI an, Frauen bildlich auszuziehen. Lange gehorcht der KI-Chatbot den Befehlen, präsentiert freizügige Bilder von Menschen – auch von Kindern. An Silvester entschuldigt sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter «in sexualisierten Outfits» erstellt und geteilt zu haben. Es sei ein «Versagen unserer Sicherheitsvorkehrungen» gewesen, schreibt Grok.
Inzwischen hat das US-Unternehmen reagiert. Bittet man Grok auf X, ein Bild zu generieren oder zu bearbeiten, antwortet der Bot: «Die Bilderzeugung und Bearbeitung ist derzeit auf zahlende Abonnenten beschränkt.» Von Abonnenten erstellte Bilder lassen sich aber auch weiterhin für alle öffentlich anzeigen.