Automatisierte Entscheidungen haben arme Australier geschädigt. Deloitte sollte ein System prüfen — und lieferte stattdessen KI-halluzinierte Erfindungen.
Deloitte hat einem Ministerium in Australien Teile der Vergütung für einen Prüfbericht zurückgezahlt, nachdem sich herausstellte, dass der Bericht zahlreiche fehlerhafte Zitate und Quellen enthielt, die es nicht gibt. Der ursprüngliche Auftrag umfasste ein IT-System namens Targeted Compliance Framework, mit dem Sozialleistungen automatisch gekürzt werden, wenn Leistungsempfänger bestimmte Vorgaben (z. B. Job-Suchnachweise) nicht erfüllen.
In der ursprünglichen Fassung des 237-seitigen Gutachtens wurden u.a. falsche Fußnoten verwendet (etwa angebliche Studien von Universitäten, die gar nicht existieren), ebenso ein erfundenes Zitat aus einem Bundesgericht. Nachdem ein Forscher (Christopher Rudge) auf diese Ungereimtheiten aufmerksam gemacht hatte, wurde der Bericht überarbeitet: falsche Quellen wurden gelöscht, Quellenlisten neu zusammengestellt, Textstellen angepasst. In der revidierten Fassung wird offen gelegt, dass eine generative KI (Azure OpenAI GPT-4o) verwendet wurde, um Lücken in Dokumentation und Nachvollziehbarkeit zu schließen.
Deloitte behauptet, dass die Kernbefunde und Empfehlungen des Berichts weiterhin gültig seien. Ob der Einsatz der KI jedoch das Vertrauen in die Arbeit untergraben hat, bleibt offen. Wie hoch der zurückgezahlte Betrag ist, ist nicht veröffentlicht; fest steht nur, dass Teil des Honorars rückerstattet wurde.
Quellen:
– KI-Müll: Consulter gibt Australien Geld zurück, Heise, Daniel AJ Sokolov, 2025, https://www.heise.de/news/KI-Muell-Consulter-gibt-Australien-Geld-zurueck-10726094.html
– Deloitte to partially refund Australian government for report with apparent AI-generated errors, AP News, 2025, https://apnews.com/article/ab54858680ffc4ae6555b31c8fb987f3
– Deloitte to pay money back after errors in AI-produced report, The Guardian, 2025, https://www.theguardian.com/australia-news/2025/oct/06/deloitte-to-pay-money-back-to-albanese-government-after-using-ai-in-440000-report
– Deloitte refund over AI errors in report, The Register, 2025, https://www.theregister.com/2025/10/06/deloitte_ai_report_australia/
– Deloitte gives refund after using AI in report with errors, Business Insider, 2025, https://www.businessinsider.com/deloitte-australia-issues-refund-ai-assurance-project-2025-10
(Stand: Oktober 2025)