Das KI-Modell von «Mythos» von Anthropic soll Berichten zufolge verbesserte Fähigkeiten besitzen, Schwachstellen in Computerprogrammen aufzuspüren und auszunutzen. Insbesondere für die Finanzindustrie, in der noch viele veraltete-Legacy-Systeme zum Einsatz kommen, könnte das eine Bedrohung darstellen.

Das Unternehmen hat sich einem Bericht der «Financial Times» (FT, Artikel bezahlpflichtig) zufolge bereit erklärt, führende Finanzministerien und Zentralbanken über Cybersicherheitslücken im globalen Finanzsystem zu informieren, die von seinem neuesten KI-Modell identifiziert wurden. 

Die Briefings sollen auf eine Anfrage von Andrew Bailey zurückgehen, dem Gouverneur der Bank of England und derzeitigem Vorsitzenden des Financial Stability Board (FSB). Bailey habe Anthropic gebeten, die Fähigkeiten seines Modells Claude Mythos Preview Mitgliedern des FSB vorzustellen.

In dem internationale Gremium sitzen Vertreter von Finanzministerien, Zentralbanken und Wertpapieraufsichtsbehörden der G20-Staaten. Dazu gehören etwa die USA, Grossbritannien, Kanada, Frankreich, Deutschland, Japan, Saudi Arabien, Australien und China.

Schwerwiegende Schwachstellen

Unter den FSB-Mitgliedern wachse die Sorge, dass Mythos sowie KI-Systeme anderer Unternehmen Schwachstellen in den Cyberabwehrsystemen von Banken aufdecken und damit grössere Risiken für das globale Finanzsystem schaffen könnten.

Anthropic hatte im vergangenen Monat erklärt, dass Mythos «tausende schwerwiegende Schwachstellen» gefunden habe, darunter einige «in jedem grossen Betriebssystem und Webbrowser».

Das Unternehmen ergänzte: «Die Folgen – für Volkswirtschaften, öffentliche Sicherheit und nationale Sicherheit – könnten gravierend sein.»

Beschränkter Zugang

Der Zugang zu Mythos wurde aufgrund von Bedenken hinsichtlich eines möglichen Missbrauchs auf eine kleine Zahl von Organisationen beschränkt, hauptsächlich in den USA. Etwa 40 Organisationen, darunter Amazon, Microsoft und JPMorgan Chase, haben Zugang zu Mythos erhalten, damit sie die identifizierten Schwachstellen beheben können.

Ausserhalb der USA hat diese eingeschränkte Verfügbarkeit bei Regulierungsbehörden und Unternehmen zudem Sorgen über ungleiche Schutzstandards ausgelöst.

Auch der IWF ruft zur Zusammenarbeit auf

Anthropic habe zahlreiche Anfragen anderer Länder erhalten, Zugang zum Modell oder Briefings über dessen Fähigkeiten zu bekommen. Das Unternehmen habe zugestimmt, einigen nicht-US-amerikanischen Institutionen Briefings zu geben, darunter der Europäischen Kommission.

Weder Anthropic noch das FSB kommentierten der «FT» gegenüber den Sachverhalt.

Bereits Anfang Mai hatte der Internationale Währungsfonds (IWF) politische Entscheidungsträger dazu aufgerufen, die internationale Zusammenarbeit zu stärken, um den von neuesten KI-Modellen aufgezeigten Cybersicherheitsrisiken zu begegnen. Solche Systeme würden «Cyberrisiken zu einem potenziellen makrofinanziellen Schock erhöhen».