xAI verklagt Grok-Nutzer wegen mutmaßlich illegaler KI-Bilder
Dieser Text wurde (ganz oder teilweise) mit Hilfe von KI erstellt.
Stand: 17.07.2026
Das KI-Unternehmen xAI hat Mitte Juli 2026 bei einem US-Bundesgericht in Texas eine Zivilklage gegen Terry Wayne Harwood eingereicht. xAI wirft ihm vor, den Chatbot Grok gezielt missbraucht zu haben, um aus Bildern realer Personen nicht einvernehmliche sexualisierte Darstellungen zu erzeugen. Nach Darstellung des Unternehmens betraf dies auch Bilder von Minderjährigen und damit mutmaßliches Material über sexuellen Missbrauch von Kindern, international als CSAM bezeichnet. Die Vorwürfe sind bislang nicht gerichtlich bewiesen.
Die Strafverfolgungsbehörden in South Carolina hatten Harwood bereits am 26. Februar 2026 festgenommen. Nach Angaben des Generalstaatsanwalts des Bundesstaates führten Hinweise aus der CyberTipline des National Center for Missing and Exploited Children zu den Ermittlungen. Harwood werden drei Straftaten der sexuellen Ausbeutung eines Minderjährigen zweiten Grades und fünf Straftaten dritten Grades vorgeworfen. Das Strafverfahren war zum Zeitpunkt der Berichterstattung noch nicht abgeschlossen. Für Harwood gilt die Unschuldsvermutung.
In der Zivilklage behauptet xAI, Harwood habe Schutzmechanismen von Grok wiederholt umgangen und harmlose Ausgangsbilder in sexualisierte Bilder umwandeln lassen. Das Unternehmen verlangt nicht näher bezifferten Schadenersatz, die Erstattung möglicher Rechtskosten sowie eine gerichtliche Anordnung, die Harwood dauerhaft von Grok und weiteren xAI-Diensten ausschließen soll. Reuters und The Verge bezeichnen das Verfahren als eine der ersten bekannten Klagen, in denen ein Anbieter generativer KI einen eigenen Nutzer wegen mutmaßlich illegal erzeugter Inhalte verklagt.
Im Mittelpunkt steht die Frage, wie Verantwortung zwischen einem Nutzer und dem Anbieter eines KI-Systems verteilt wird. Die Klage beruft sich auf die Bedingungen, denen Harwood bei der Nutzung zugestimmt haben soll. Die derzeit veröffentlichte, seit dem 26. Juni 2026 geltende Fassung der Verbraucherbedingungen fasst Eingaben und Ausgaben gemeinsam als User Content, also Nutzerinhalte, zusammen. Nach dieser Fassung sollen Nutzer für diesen Inhalt, die Einhaltung des Rechts und daraus entstehende Folgen verantwortlich sein. Eine Freistellungsklausel verlangt zudem, dass Nutzer xAI bei bestimmten Ansprüchen und Kosten im Zusammenhang mit ihrer Nutzung schadlos halten. Welche frühere Fassung für den behaupteten Nutzungszeitraum maßgeblich ist, muss im Verfahren anhand der Vertragsunterlagen geprüft werden.
Die Nutzungsrichtlinie von xAI verbietet ausdrücklich, Schutzmaßnahmen zu umgehen, reale Personen digital zu entkleiden, ihr Aussehen ohne Zustimmung in einen intimen oder pornografischen Zusammenhang zu setzen sowie Kinder zu sexualisieren oder auszubeuten. xAI erklärt außerdem, verdächtiges CSAM an das National Center for Missing and Exploited Children zu melden. Nach der Klagedarstellung blockierte Grok einzelne Anfragen, während Harwood seine Eingaben verändert haben soll, um andere Anfragen dennoch durchzusetzen. Auch dies ist eine bislang unbewiesene Behauptung der Klägerseite.
Ob xAI seine vertraglichen Klauseln in diesem Fall vollständig durchsetzen kann, ist offen. Allgemeine Geschäftsbedingungen formulieren zwar Pflichten zwischen Anbieter und Nutzer. Sie ersetzen aber keine gerichtliche Prüfung der konkreten Handlungen, möglicher gesetzlicher Pflichten und möglicher Ansprüche geschädigter Personen. Eine Entscheidung darüber, ob und in welchem Umfang allein der Nutzer oder zusätzlich der Anbieter haftet, liegt noch nicht vor.
Parallel dazu sind gegen xAI andere Verfahren anhängig. In einer im März 2026 eingereichten angestrebten Sammelklage werfen minderjährige Klägerinnen dem Unternehmen vor, Grok habe sexualisierte Darstellungen auf Grundlage ihrer echten Fotos erzeugt und xAI habe keine ausreichenden Schutzmaßnahmen eingesetzt. xAI ist in diesem Verfahren Beklagte, während es im Fall Harwood selbst als Klägerin auftritt. Beide Seiten vertreten damit gegensätzliche Auffassungen zur Verantwortung für KI-Ausgaben. Die Vorwürfe in der Sammelklage sind ebenfalls nicht abschließend gerichtlich geklärt.
US-Bundesrecht verpflichtet Anbieter nach 18 U.S.C. § 2258A, nach tatsächlicher Kenntnis bestimmter Tatsachen oder Umstände, die auf einschlägige Straftaten hindeuten, so bald wie vernünftigerweise möglich eine Meldung an die CyberTipline des NCMEC zu machen. Das Gesetz schreibt zugleich nicht vor, sämtliche Nutzer oder Inhalte vorsorglich zu überwachen oder aktiv nach solchen Verstößen zu suchen. Damit bestehen Meldepflichten, sobald ein Anbieter Kenntnis erlangt, ohne dass daraus automatisch eine allgemeine Pflicht zur lückenlosen Vorabkontrolle folgt.
Die von xAI verwendete Bezeichnung von KI-Ausgaben als Nutzerinhalt beantwortet außerdem nicht jede andere Rechtsfrage. Das US Copyright Office kam in seinem Bericht zur urheberrechtlichen Schutzfähigkeit zu dem Ergebnis, dass bloße Texteingaben nach dem derzeitigen Stand der Technik normalerweise nicht genug menschliche Kontrolle vermitteln, um den Nutzer zum Urheber einer KI-Ausgabe zu machen. Diese urheberrechtliche Bewertung entscheidet jedoch nicht über strafrechtliche oder zivilrechtliche Verantwortung. Eine Person kann für rechtswidrige Nutzungshandlungen verantwortlich sein, auch wenn sie an der erzeugten Datei kein Urheberrecht besitzt.
Der Fall ist deshalb über den einzelnen Nutzer hinaus bedeutsam. Er zeigt, dass Anbieter generativer KI versuchen, Missbrauch nicht nur technisch und durch Kontosperren, sondern auch mit Vertrags- und Schadenersatzklagen zu bekämpfen. Zugleich bleibt die Verantwortung der Anbieter für Gestaltung, Schutzmechanismen, Reaktion auf Warnsignale und gesetzliche Meldungen Gegenstand weiterer Verfahren. Erst gerichtliche Entscheidungen werden zeigen, welche Klauseln im konkreten Fall greifen und wie die Verantwortung zwischen Nutzer, Plattform und möglichen Opfern verteilt wird.
Quellen
Quelle 1: xAI can’t deny Grok makes CSAM anymore. So it’s suing users. Autorin: Ashley Belanger. Ars Technica. Veröffentlicht am 16.07.2026. https://arstechnica.com/tech-policy/2026/07/xai-cant-deny-grok-makes-csam-anymore-so-its-suing-users/
Quelle 2: Musk’s xAI sues Grok user over sexualized ‚deepfakes‘. Autor: Blake Brittain. Reuters. Veröffentlicht am 15.07.2026. https://www.reuters.com/legal/litigation/musks-xai-sues-grok-user-over-sexualized-deepfakes-2026-07-15/
Quelle 3: xAI sues a man for using Grok to generate CSAM ‘deepfakes’. Autorin: Emma Roth. The Verge. Veröffentlicht am 15.07.2026. https://www.theverge.com/ai-artificial-intelligence/966293/xai-grok-user-lawsuit-csam
Quelle 4: Four Upstate men arrested on Child Sexual Abuse Material charges. Herausgebende Organisation: South Carolina Attorney General’s Office. Veröffentlicht am 09.03.2026. https://www.scag.gov/about-the-office/news/four-upstate-men-arrested-on-child-sexual-abuse-material-charges/
Quelle 5: Terms of Service – Consumer. Herausgebende Organisation: xAI. Gültig seit 26.06.2026. https://x.ai/legal/terms-of-service
Quelle 6: xAI Acceptable Use Policy. Herausgebende Organisation: xAI. Gültig seit 26.06.2026. https://x.ai/legal/acceptable-use-policy
Quelle 7: 18 USC 2258A: Reporting requirements of providers. Herausgebende Organisation: Office of the Law Revision Counsel, U.S. House of Representatives. Gesetzesstand 25.06.2026, abgerufen am 17.07.2026. https://uscode.house.gov/view.xhtml?edition=prelim&num=0&req=granuleid%3AUSC-prelim-title18-section2258A
Quelle 8: Copyright and Artificial Intelligence, Part 2: Copyrightability. Herausgebende Organisation: U.S. Copyright Office. Veröffentlicht am 29.01.2025. https://www.copyright.gov/ai/Copyright-and-Artificial-Intelligence-Part-2-Copyrightability-Report.pdf
Quelle 9: LCHB Files Class Action on behalf of Minor Victims Alleging xAI’s Grok Generated and Profited from AI Sexual Exploitation Images and Videos. Herausgebende Organisation: Lieff Cabraser Heimann and Bernstein LLP. Veröffentlicht am 16.03.2026. https://www.lieffcabraser.com/2026/03/lchb-files-class-action-obo-minor-victims-alleging-xais-grok-generated-and-profited-from-ai-sexual-exploitation-images-and-videos/