Warum die US-Regierung Fable 5 von Anthropic gestoppt hat

Ein Sicherheitsproblem in einem neuen KI-Modell hat zu einer bemerkenswerten Auseinandersetzung zwischen Amazon, Anthropic und der US-Regierung geführt. Nachdem Amazon-Forscher eine Schwachstelle in Fable 5 entdeckt hatten, kam es in Washington zu großer Unruhe. Schließlich entschied die Regierung, einzugreifen, wodurch Anthropic das Modell zurückziehen musste.

Dieses Ereignis zeigt, wie sensibel die Entwicklung von künstlicher Intelligenz mittlerweile ist. Dies betrifft nicht nur Technologieunternehmen, sondern auch Regierungen, die befürchten, dass leistungsstarke KI-Systeme missbraucht werden könnten.

Amazon entdeckt potenzielle Sicherheitsrisiken

Die Diskussion dreht sich um Fable 5, ein neues KI-Modell von Anthropic. Laut The Wall Street Journal entdeckten Amazon-Forscher eine Möglichkeit, die eingebauten Sicherheitsvorkehrungen des Systems zu umgehen.

Dadurch könnte das Modell Informationen generieren, die von Kriminellen für Cyberangriffe genutzt werden könnten. Wie groß das Risiko tatsächlich war, ist unklar. Die Entdeckung war für Amazon jedoch ernst genug, um die Angelegenheit den Entscheidungsträgern in Washington näherzubringen.

Daran soll auch Amazon-CEO Andy Jassy persönlich beteiligt gewesen sein. Zusammen mit anderen Akteuren aus der Technologiebranche sollen Bedenken über das Modell mit US-Beamten geteilt worden sein.

Es folgte eine Reihe von Krisengesprächen innerhalb der Regierung über die möglichen Folgen, falls das Modell weiterhin breit verfügbar bliebe.

Anthropic und Washington im direkten Konflikt

Laut The Wall Street Journal nahm die Regierung von Donald Trump daraufhin Kontakt mit Anthropic-Chef Dario Amodei auf. Die Botschaft war unmissverständlich: Das Modell solle vorübergehend vom Markt genommen werden, bis die Schwachstelle behoben sei.

Amodei soll sich gegen diese Forderung gewehrt haben. Dadurch eskalierte die Situation schnell weiter.

Die US-Regierung beschloss schließlich, Exportbeschränkungen für das Modell zu verhängen. Infolgedessen musste Anthropic Fable 5 am Freitagabend zurückziehen.

David Sacks, Co-Vorsitzender des Präsidialen Beirats für Wissenschaft und Technologie, bestätigte später, dass die Maßnahme direkt mit den Sicherheitsbedenken zusammenhing.

„Die Regierung hat diese Entscheidung nur widerwillig getroffen“, sagte Sacks. Laut ihm hatte Washington gehofft, dass Anthropic freiwillig Maßnahmen ergreifen würde.

Der Vorfall ist ein seltenes Beispiel dafür, dass eine Regierung direkt in die Markteinführung eines kommerziellen KI-Modells eingreift.

Anthropic spricht von einem Missverständnis

Anthropic selbst bestreitet, dass es ein ernsthaftes Sicherheitsproblem gab. In einer Stellungnahme erklärt das Unternehmen, dass die Bedenken auf einer Fehlinterpretation der Risiken basieren.

Es habe sich um eine spezifische Schwachstelle gehandelt, die nur unter sehr begrenzten Bedingungen ausgenutzt werden konnte. Das Unternehmen betont, dass es mittlerweile an einer Lösung arbeitet.

Amazon wollte unterdessen nicht bestätigen, ob es tatsächlich mit Regierungsvertretern über das Modell gesprochen hat. Ein Sprecher erklärte jedoch, dass Regierungen regelmäßig um Rat zu digitalen Sicherheitsfragen bitten.

Laut Sacks werden die Exportbeschränkungen wahrscheinlich aufgehoben, sobald Anthropic die Schwachstelle behoben hat.

Der Fall verdeutlicht, wie hoch die Einsätze im globalen KI-Wettlauf inzwischen geworden sind. Während Technologieunternehmen ihre Modelle jahrelang weitgehend frei entwickeln konnten, scheint Washington zunehmend bereit zu sein, einzugreifen, wenn die nationale Sicherheit auf dem Spiel steht.