Dringlichkeitstreffen in den USA: Kann neues KI-Modell das Finanzsystem gefährden?

Die Sorgen über Künstliche Intelligenz (KI) nehmen zu. Menschen fürchten um ihre Arbeitsplätze, Softwareunternehmen stehen Kopf, und nun droht auch das Finanzsystem einen Schlag zu erleiden.

Der US-Finanzminister Scott Bessent und Jerome Powell, Chef der Federal Reserve, riefen am Dienstag die Führungskräfte der größten Banken der Welt zu einer Dringlichkeitssitzung über Mythos, das neueste Modell des KI-Unternehmens Anthropic, zusammen.

Wall Street an den Tisch geholt

Das Dringlichkeitstreffen fand im Hauptquartier des Finanzministeriums in Washington statt, berichtete Bloomberg unter Berufung auf Insider. Bessent und Powell wollten sicherstellen, dass die Banken die Risiken von Mythos und ähnlichen Modellen kennen und ihre Systeme entsprechend vorbereiten.

Anwesend waren unter anderem Jane Fraser (Citigroup), Ted Pick (Morgan Stanley), Brian Moynihan (Bank of America), Charlie Scharf (Wells Fargo) und David Solomon (Goldman Sachs).

Alle geladenen Banken sind von Aufsichtsbehörden als systemrelevant eingestuft. Das bedeutet, dass ihre Stabilität für das globale Finanzsystem entscheidend ist.

Mythos: zu mächtig, um es unkontrolliert zu lassen

Mythos ist das neueste und leistungsstärkste KI-Modell von Anthropic, dem Unternehmen hinter dem populären KI-Assistenten Claude. Es wurde am vergangenen Dienstag in begrenztem Umfang eingeführt und ist der breiten Öffentlichkeit nicht zugänglich.

Das ist eine bewusste Entscheidung. Laut Anthropic kann Mythos Schwachstellen in allen großen Betriebssystemen und Webbrowsern aufspüren und diese aktiv ausnutzen, wenn ein Nutzer dazu auffordert.

Während der Tests brach das Modell sogar aus seiner eigenen Testumgebung aus und entwickelte eigenständig einen Angriff, um Zugang zum Internet zu erhalten, obwohl es dazu keine Erlaubnis hatte.

Der Grund, warum Wall Street aktiv wird, ist simpel. Banken sind im Kern Softwareunternehmen. Jede Transaktion, jede Zahlung und jedes Konto basiert auf Code. Ein KI-Modell, das in kürzester Zeit Schwachstellen findet, die menschlichen Experten jahrelang entgangen sind, ändert die Spielregeln für Cyberkriminelle grundlegend.

Es ist das erste Mal, dass ein großes KI-Unternehmen ein Modell aus Sicherheitsgründen zurückhält. In den Wochen vor der Einführung hatte Anthropic bereits Tausende unbekannter Schwachstellen entdeckt, von denen einige seit Jahrzehnten unbemerkt geblieben waren.

Anthropic wurde 2021 von ehemaligen Mitarbeitern von OpenAI gegründet, dem Unternehmen hinter ChatGPT. Seitdem hat es sich zu einem der am schnellsten wachsenden Technologieunternehmen der Welt entwickelt.

Um die Risiken von Mythos zu managen, hat Anthropic das Programm ‚Project Glasswing‘ ins Leben gerufen. Darin arbeiten über vierzig Organisationen, darunter Amazon, Apple, Microsoft, Google und JPMorgan, zusammen, um die wichtigste Software zu sichern, bevor vergleichbare Modelle breiter verfügbar werden. Anthropic investiert bis zu 100 Millionen Dollar in Form von Credits in das Programm.

Auch in der Kryptowelt gibt es Bedenken

Die Unruhe beschränkt sich nicht nur auf Wall Street. In der Kryptobranche befürchten Experten, dass Mythos sogenannte Zero-Day-Schwachstellen entdecken und ausnutzen könnte. Das sind Sicherheitslücken, die den Softwareherstellern noch unbekannt sind und für die es daher keinen Schutz gibt.

Besonders die DeFi-Infrastruktur könnte anfällig sein. DeFi steht für dezentralisierte Finanzdienstleistungen, bei denen Nutzer ohne Zwischenhändler über automatisierte Verträge (auch Smart Contracts genannt) auf der Blockchain agieren. Da diese Verträge öffentlich und unveränderlich sind, kann eine entdeckte Schwachstelle schnell und großflächig ausgenutzt werden.