Anthropic schlägt Alarm: KI offenbar für Biowaffenforschung genutzt

Anthropic gibt an, in diesem Jahr mehrere Versuche gestoppt zu haben, bei denen Wissenschaftler seine KI-Modelle für Forschung nutzen wollten, die möglicherweise zur Entwicklung biologischer Waffen beitragen könnte.

Nach Angaben der Financial Times nannte das Unternehmen fünf Beispiele für Nutzer, die Kontrollen umgehen wollten und den eigentlichen Zweck ihrer Forschung verschleierten.

Einige Nutzer stammten aus Ländern, in denen Anthropic seine Modelle nicht anbietet, darunter Russland, China und Iran.

KI und Biologie werden zur riskanten Kombination

Unter KI-Forschern und Biosecurity-Experten wächst die Sorge. Je leistungsfähiger die Modelle werden, desto eher könnten sie bei Forschung zu Viren, Krankheitserregern oder biologischen Systemen helfen. Das ist nicht automatisch gefährlich, senkt aber die Hürden für Akteure mit fragwürdigen Absichten.

Anthropic zufolge versuchte ein Forscher aus einer nicht unterstützten Region über Wochen hinweg, mit Claude Experimente zur Vogelgrippe zu planen. Die Sicherheitsfilter beschränkten den Zugriff auf schwächere Modelle, später wurden die Konten gesperrt.

Genau darin liegt der Konflikt. KI kann wissenschaftlichen Fortschritt beschleunigen, macht Fachwissen aber auch für Akteure leichter zugänglich, die normalerweise keinen unmittelbaren Zugriff darauf hätten.

Sicherheitsdebatte gewinnt an Schärfe

Die Enthüllung fällt in eine Phase, in der die Debatte über KI-Sicherheit immer intensiver geführt wird. Anfang der Woche hatte Jacob Coxon Anthropic verlassen. Er erklärte, Mitarbeiter im Unternehmen seien ernsthaft davon überzeugt, dass KI die Menschheit noch vor Ende dieses Jahrzehnts auslöschen könnte.

Das klingt extrem. Zusammen mit Vorfällen dieser Art nährt es jedoch erneut die Sorge, dass die Technologie schneller an Macht gewinnt, als die Sicherheitsstrukturen mithalten können.

Auch Cybersicherheit bleibt ein großes Risiko. Anthropic nennt in seinem Bericht Missbrauchsfälle im Zusammenhang mit Betrug, Überwachung und Versuchen, Dissidenten zu kontrollieren.

Zudem wirft das Unternehmen chinesischen KI-Labors vor, seine Technologie über sogenanntes Distillation nachgebaut haben zu wollen.

Klar ist: Mit Blick auf den Börsengang von Anthropic im Oktober kommt der Markt nicht zur Ruhe. Inzwischen gibt es fast täglich große Nachrichten aus der Welt der künstlichen Intelligenz.