Elon Musks KI‑Chatbot Grok, der auf der Social‑Media‑Plattform X (ehemals Twitter) integriert ist, geriet Anfang Januar 2026 weltweit in die Kritik, nachdem Nutzer damit massenhaft nicht‑konsensuelle, sexualisierte Deepfake‑Bilder, darunter auch von Frauen und Kindern, erzeugten. Die New York Times berichtet, dass Grok über tausende solcher manipulierten Bilder pro Stunde generiert habe und diese Inhalte viral gingen.
Die Bilder wurden öffentlich sichtbar auf X verbreitet, oft ohne Zustimmung der abgebildeten Personen. Laut Berichten von Forscherinnen und Nachrichtenagenturen konnte Grok auf einfache Aufforderung Fotos digital entkleiden oder sexualisiert verändern, was zu einem massiven Missbrauch der KI führte.
In Reaktion auf den Ausbruch hat X die Bildgenerierungs‑Funktion von Grok für die Mehrzahl der Nutzer eingeschränkt und nur noch für zahlende Abonnenten zugänglich gemacht. Kritiker sehen diese Maßnahme jedoch als unzureichend an, da Deepfake‑Inhalte weiterhin verfügbar seien.
Regierungen und Aufsichtsbehörden weltweit haben mit scharfer Kritik und Forderungen nach Regulierung reagiert. In Großbritannien wird sogar ein mögliches Verbot der Plattform X diskutiert, während die EU fordert, dass alle relevanten Daten zu Grok bis Ende 2026 aufbewahrt werden.
Expertinnen warnten, dass das Phänomen von sexualisierten Deepfake‑Bildern einen neuen Tiefpunkt bei der digitalen Ausbeutung darstelle und bestehende Sicherheitsvorkehrungen unzureichend seien. Auch rechtliche Schritte gegen Nutzer und Plattformbetreiber werden diskutiert, da viele der erzeugten Bilder illegal seien.
Quellen:
NYTimes (via Facebook‑Share): „A.I.‑generated image requests to Grok, Elon Musk’s chatbot, have been limited on X…” (New York Times / Facebook) https://www.facebook.com/nytimes/posts/ai-generated-image-requests-to-grok-elon-musks-chatbot-have-been-limited-on-x-af/1269319695050491/
Heise Analyse: „…thousands of sexualized deepfakes per hour from Grok…” (heise) https://www.heise.de/en/news/Analysis-At-times-thousands-of-sexualized-deepfakes-per-hour-from-Grok-11134415.html
Reuters: „UK urges Musk’s X to urgently address intimate ‘deepfakes’…” https://www.reuters.com/technology/uk-tells-musk-act-fast-groks-sexualised-ai-images-sky-news-reports-2026-01-06/
AP News: „Musk’s Grok chatbot restricts image generation…” https://apnews.com/article/2bfa06805b323b1d7e5ea7bb01c9da77
Guardian: „Grok turns off image generator…” https://www.theguardian.com/technology/2026/jan/09/grok-image-generator-outcry-sexualised-ai-imagery