Google hat seine KI-Modelle der Gemma-Familie aus der Plattform AI Studio entfernt, nachdem mehrere republikanische Senatoren, darunter Marsha Blackburn aus Tennessee, sich über falsche und diffamierende Antworten der KI beschwert hatten. Anlass war ein Fall, bei dem das Modell auf eine Nutzeranfrage hin eine frei erfundene Geschichte über angebliche sexuelle Übergriffe durch Senatorin Blackburn generierte und sogar nicht existierende Nachrichtenquellen zitierte.
Google erklärte, die Gemma-Modelle seien für Entwickler und Forschung konzipiert und nicht für allgemeine Nutzung oder faktische Anfragen gedacht. Das Unternehmen betonte, es habe festgestellt, dass auch nicht-technische Nutzer über AI Studio Zugang erhalten und das Modell für ungeeignete Zwecke verwendet hätten. Gemma bleibt weiterhin über APIs für Entwickler zugänglich, wurde aber aus der öffentlich zugänglicheren AI Studio-Oberfläche entfernt.
Der Vorfall verdeutlicht die Risiken von sogenannten Halluzinationen bei großen Sprachmodellen – also das Erfinden falscher oder schädigender Informationen. Er wirft zudem Fragen zur Haftung von Technologieunternehmen auf, wenn KI-Systeme Falschinformationen über reale Personen erzeugen.
Der Fall könnte auch politische und rechtliche Konsequenzen nach sich ziehen, da sich die Debatte über KI-Verantwortung und Regulierung in den USA weiter zuspitzt.
Stand: 3. November 2025
Quellen:
1. TechCrunch – „Google pulls Gemma from AI Studio after Senator Blackburn accuses model of defamation“, Autor: Devin Coldewey, https://techcrunch.com/2025/11/02/google-pulls-gemma-from-ai-studio-after-senator-blackburn-accuses-model-of-defamation/, veröffentlicht am 2. November 2025.
2. Ars Technica – „Google removes Gemma models from AI Studio after GOP senators‘ complaint“, Autor: Jon Brodkin, https://arstechnica.com/google/2025/11/google-removes-gemma-models-from-ai-studio-after-gop-senators-complaint/, veröffentlicht am 3. November 2025.
3. The Verge – „Google pulls AI model after senator says it fabricated assault allegation“, Autor: Jay Peters, https://www.theverge.com/news/812376/google-removes-gemma-senator-blackburn-hallucination, veröffentlicht am 3. November 2025.
4. The Times of India – „Google removes Gemma from AI Studio after complaint letter to CEO Sundar Pichai“, Redaktion, https://timesofindia.indiatimes.com/technology/tech-news/google-removes-gemma-from-ai-studio-after-complaint-letter-to-ceo-sundar-pichai/articleshow/125056960.cms, veröffentlicht am 3. November 2025.
5. New York Post – „Google curbs access to Gemma AI tech that falsely accused Sen. Marsha Blackburn of sexual misconduct“, Redaktion, https://nypost.com/2025/11/03/business/google-curbs-access-to-gemma-ai-tech-that-falsely-accused-sen-marsha-blackburn-of-sexual-misconduct/, veröffentlicht am 3. November 2025.