Ein kürzlich erschienener Bericht zeigte, wie ein KI-gestütztes System zur automatischen Erstellung von Polizeiberichten einen ungewöhnlichen Fehler machte, der offenbar eine Fabelwelt mit der Realität verwechselte. Die Software, die von der Polizei in Heber City (Utah, USA) getestet wurde, generierte demnach einen Bericht, in dem behauptet wurde, ein Polizist habe sich in einen Frosch verwandelt – ein offensichtlicher Fehler. (futurism.com)
Laut einem Bericht des lokalen Senders FOX 13 war der Fehler darauf zurückzuführen, dass die KI-Software und die dazugehörige Body-Cam-Analyse Filmton- oder Hintergrundgeräusche („The Princess and the Frog“) in die automatische Transkription aufnahm, was zu diesem absurden Ergebnis führte. Dadurch wurde deutlich, dass KI-Tools zur Berichtserstellung noch unzuverlässig sein können und menschliche Kontrolle weiterhin notwendig ist. (futurism.com)
Die Polizei in Heber City begann, zwei verschiedene KI-Programme zu testen: „Draft One“ und „Code Four“. Draft One nutzt große Sprachmodelle, um aus Body-Cam-Aufnahmen automatisch strukturierte Berichte zu generieren, mit dem Ziel, den Zeitaufwand für Polizeiberichte zu reduzieren. Allerdings zeigte der Vorfall, wie wichtig es ist, solche automatisch erstellten Berichte sorgfältig durch Menschen prüfen zu lassen, da sonst falsche oder irrelevante Informationen in offizielle Dokumente gelangen könnten. (futurism.com)
Auch Experten haben bereits davor gewarnt, dass KI-gestützte Berichterstellung potenzielle Risiken birgt, einschließlich sogenannter „Halluzinationen“ – also der Erfindung falscher Fakten – und der möglichen Verstärkung vorbestehender Vorurteile oder Verzerrungen im System. Dies könnte erhebliche Auswirkungen auf Ermittlungen und rechtliche Prozesse haben, wenn Maschinen unangemessenes Gewicht erhalten. (futurism.com)
Trotz dieser Probleme berichtete ein Polizeibeamter, dass der Einsatz dieser Technologien ihm jede Woche mehrere Stunden an manueller Schreibarbeit erspare, was ihm und seinen Kolleg*innen mehr Zeit für andere Aufgaben ermögliche. (futurism.com)
Quellen:
1. Victor Tangermann, Cops Forced to Explain Why AI Generated Police Report Claimed Officer Transformed Into Frog, Futurism, 02.01.2026, https://futurism.com/artificial-intelligence/ai-police-report-frog
2. Mya Constantino, AI programs used by Heber City police claim officer turned into a frog, FOX13 News Utah, 2025, https://www.fox13now.com/news/local-news/summit-county/how-utah-police-departments-are-using-ai-to-keep-streets-safer
3. Maggie Harrison Dupré, Cops Say Hallucinating AIs Are Ready to Write Police Reports…, Futurism, 31.08.2024, https://futurism.com/hallucinating-ai-police-reports