Anthropic entdeckt Tausende Schwachstellen mit KI und hält sie geheim: zu gefährlich

Anthropic hat den Zugang zu einem neuen KI-Modell eingeschränkt, nachdem das System Tausende von Schwachstellen in gängiger Software identifiziert hat. Das Modell, das für allgemeine Anwendungen entwickelt wurde, konnte schwerwiegende Sicherheitslücken in großen Betriebssystemen und Webbrowsern aufdecken. 99 Prozent dieser Schwachstellen sind noch nicht behoben.

KI entdeckt Schwachstellen, die Menschen über Jahre übersehen haben

Eine bemerkenswerte Erkenntnis ist, dass viele der entdeckten Schwachstellen seit Jahren in den Systemen bestehen. Einige Fehler existieren sogar schon seit Jahrzehnten, ohne dass sie entdeckt wurden. So fand das Modell eine 27 Jahre alte Sicherheitslücke in OpenBSD, einem Betriebssystem, das gerade für seine Sicherheit bekannt ist.

Zusätzlich wurden Bugs unter anderem in FFmpeg, FreeBSD und dem Linux-Kernel entdeckt. Auch weit verbreitete Sicherheitstechnologien wie TLS, AES-GCM und SSH zeigten sich verwundbar. Webanwendungen waren anfällig für bekannte Angriffsmethoden wie Phishing, Cross-Site Scripting und SQL-Injection.

Anthropic gibt bewusst keine Details preis, um Missbrauch zu verhindern. Dass das Modell diese Schwachstellen finden konnte, unterstreicht laut dem Unternehmen, wie schnell sich KI entwickelt. Es warnt, dass es nicht lange dauern wird, bis solche Fähigkeiten breiter verfügbar werden.

Cyberattacken durch KI steigen um 72 Prozent

Die Entdeckung erfolgt zu einem Zeitpunkt, an dem der Einsatz von KI bei Cyberangriffen stark zunimmt. Laut dem Forschungsplattform AllAboutAI stieg die Zahl der Cyberattacken mit Hilfe von KI im Jahresvergleich um 72 Prozent. Im Jahr 2025 waren 87 Prozent der Organisationen weltweit von Angriffen betroffen, bei denen KI eingesetzt wurde.

Cyberkriminelle nutzen KI, um Schwachstellen schneller zu finden und auszunutzen als mit traditionellen Methoden möglich. Dieselbe Fähigkeit, die Anthropic jetzt zur Verteidigung einsetzt, könnte in falschen Händen zu einer Waffe werden.

Projekt Glasswing: 40 Technologiekonzerne bündeln ihre Kräfte

Um die Risiken zu minimieren, hat Anthropic das Projekt Glasswing gestartet, eine Zusammenarbeit mit über 40 großen Organisationen. Amazon Web Services, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia und die Linux Foundation sind beteiligt.

Im Rahmen des Projekts wird das KI-Modell Claude Mythos Preview eingesetzt, um Schwachstellen proaktiv zu identifizieren. Die Ergebnisse werden mit Partnern geteilt, damit Probleme schneller behoben werden, bevor sie von Kriminellen ausgenutzt werden.

Verteidiger gewinnen letztlich die Oberhand

Anthropic erwartet, dass KI die Cyberbedrohung kurzfristig verstärkt, aber langfristig zu einer besseren Sicherheit beiträgt. Die Logik: Wenn KI Schwachstellen schneller finden kann als Menschen, können sie auch schneller geschlossen werden. Langfristig verschafft dies den Verteidigern einen Vorteil gegenüber den Angreifern.

Die Übergangsphase ist jedoch riskant. Solange 99 Prozent der entdeckten Lücken nicht gepatcht sind, besteht die Gefahr, dass dieselben Techniken von Kriminellen genutzt werden. Der Kampf zwischen Angreifern und Verteidigern im KI-Zeitalter ist in vollem Gange und der Einsatz ist höher denn je.