Australien zahlt 250.000 Euro für “KI-Bericht” – jetzt muss alles zurück!

Manchmal ist die Realität wirklich noch absurder als jede Science-Fiction: Wer hätte gedacht, dass ein Land wie Australien einen sechsstelligen Betrag für einen staatlichen Bericht bezahlt – und am Ende entpuppt sich das Ganze teilweise als KI-generiertes Fantasiewerk, gewürzt mit sprudelnden Halluzinationen?

Ein teurer Auftrag und eine unliebsame Überraschung

Der australische Staat, vertreten durch das Department of Employment and Workplace Relations (DEWR), auch bekannt als Arbeitsministerium, bestellt bei Deloitte einen umfangreichen Bericht.
Das Thema? Extrem ernst: Es geht um die Automatisierung der Sanktionen im australischen Sozialsystem.
Die Rechnung ist dementsprechend gesalzen: 440.000 Australische Dollar – stolze 250.000 Euro wechseln für das Projekt den Besitzer.

Die Erwartungen waren hoch, schließlich sollte das Dokument wichtige Weichen für das Sozialsystem stellen. Doch direkt nach der Veröffentlichung erlebt die Behörde ein böses Erwachen.

Halluzinierte Quellen und erfundene Fakten: Wie alles aufflog

Es hätte alles so seriös und trocken verlaufen können – hätte nicht ein aufmerksamer Direktor der Abteilung Gesundheitsrecht an der Universität Sydney genauer hingeschaut. Was er im Bericht fand, ließ ihn stutzen:

Zitate aus angeblichen Publikationen, die schlicht und einfach nirgendwo existieren.
Hinweise auf angebliche Forschungsarbeiten einer (tatsächlich existenten) Professorin, die so nie das Licht der Welt erblickten.
Kurz: Ganze Passagen des Berichts waren – man glaubt’s kaum – frei erfunden.

Damit nicht genug: Die „Australian Financial Review“ berichtet, dass Deloitte sich offenbar auf ChatGPT oder eine andere KI verlassen hat, die die komplette Recherche und Texterstellung übernahm. Eine stattliche Rechnung für KI-Prosa – da könnte man sein Recht auf Echtheit geradezu vermissen.

Von Pannen, Korrekturen und dem großen Rückzieher

Als der Schwindel aufflog, geriet Bewegung in die Sache. Deloitte und das Ministerium gaben an, eine überarbeitete Version des Berichts zu veröffentlichen – 273 Seiten mit einem “kleinen Bündel an Korrekturen für Referenzen und Fußnoten”. Mit entwaffnender Ehrlichkeit wird dabei sogar auf eine “Toolkette auf Basis eines generativen Sprachmodells (Azure OpenAI GPT-4o)” verwiesen.

Was wurde konkret getan? Die gefälschten Quellenangaben verschwanden, ebenso wie frei erfundene Zitate. Deloitte kündigte an, den “finalen Teil” des Honorars zu erstatten – ohne eine genaue Summe oder einen Anteil zu nennen. Ein Schritt, der zwar notwendig war, aber den Beigeschmack von Flickschusterei nicht ganz verlieren kann.

Empfehlungen bleiben, Realität wird verbogen?

Angesichts dieses KI-Chaos’ stellt sich die Frage, wie die australischen Behörden reagieren. Überraschung: Das Arbeitsministerium bleibt gelassen. Nach eigener Aussage sei “der unabhängige Audit-Inhalt gewahrt”. Ob die Empfehlungen des Berichts auch dann noch Bestand haben sollten, wenn sie auf Halluzinationen beruhen? Offenbar ja – die Vorschläge des Berichts gelten weiterhin, auch wenn der Unterbau mit Fantasiebausteinen aus dem KI-Universum errichtet wurde.

Die Empfehlungen des Reports sind also nach wie vor gültig, KI-Halluzinationen hin oder her.

Fazit: Wo KI draufsteht, sollte wenigstens ein Mensch drinstecken! Nehmen wir es mit Humor: Wer künftig einen Bericht abliefert, sollte entweder selbst recherchieren oder zumindest die künstliche Intelligenz ordentlich überprüfen. Ansonsten kann es passieren, dass man für ein Viertelmillionen-Euro-Projekt am Ende eine literarische Weltreise – mit Zwischenstopp im Land der erfundenen Studien – serviert bekommt. Oder wie man in Australien wohl sagen würde: No worries… außer, der nächste Bericht wird plötzlich von einem Toaster geschrieben.