KI halluziniert, Deloitte muss Busse zahlen
Für den Report hatte Deloitte 440'000 australische Dollar erhalten (rund 231'200 Franken). Er wurde für das australische Department of Employment and Workplace Relations (DEWR) verfasst und behandelt ein IT-System zur Automatisierung von Sanktionen im Sozialsystem.
Eine erste Version des Schriftstückes war im vergangenen Juli veröffentlicht worden, wie die «Australian Financial Review» (AFR) berichtet. Eine neue Version wurde demnach am Freitag stillschweigend auf die Website des Ministeriums hochgeladen. Sie enthält mehr als ein Dutzend Streichungen nicht existierender Referenzen und Fussnoten, eine überarbeitete Referenzliste und Korrekturen mehrerer typografischer Fehler.
Deloitte habe den Bericht überarbeiten müssen, nachdem Christopher Rudge von der University of Sydney mehrere Fehler angemerkt hatte. Rudges hatte vermutet, dass die Fehler von Halluzinationen der Anwendung stammen könnten – die KI also frei Erfundenes als Fakten ausgibt.
Keine verlässliche Empfehlungen
Dem Bericht sei eine Erklärung hinzugefügt worden, wonach generative KI für einen Schritt verwendet wurde, den das Unternehmen als «Lücken in der Rückverfolgbarkeit und Dokumentation» bezeichnete.
«Deloitte hat zugegeben, generative KI für eine zentrale Analyseaufgabe eingesetzt zu haben, dies jedoch zunächst nicht offengelegt», wird Rudges zitiert. Den Empfehlungen des Bericht könne man daher nicht mehr trauen.
Die Behörde betonte jedoch, dass «der Kern der unabhängigen Untersuchung bestehen bleibt und es keine Änderungen an den Empfehlungen gibt». Deloitte habe auf die Auszahlung der letzten Rate für den Bericht verzichtet. Eine Summe wurde dabei jedoch nicht genannt.
Schmerzlicher dürfte ohnehin der erlittene Reputationsschaden sein. Deloitte berät weltweit Unternehmen, Behörden und Institutionen im Umgang mit KI.
