Anthropic warnt: Hacker setzen zunehmend KI für Cyberangriffe ein

Cyberkriminelle setzen immer häufiger künstliche Intelligenz (KI) ein, um Cyberangriffe durchzuführen. Das zeigt eine neue Studie des KI-Unternehmens Anthropic. Laut dem Unternehmen wurden mehr als zwei Drittel der Konten, die im vergangenen Jahr wegen Missbrauchs von KI gesperrt wurden, für Aktivitäten genutzt, die mit Hacking, Malware und digitalen Angriffen in Verbindung stehen.

Die Ergebnisse unterstreichen eine wachsende Sorge in der Cybersicherheitsbranche: KI erleichtert es, fortschrittliche Cyberangriffe durchzuführen, selbst für Angreifer mit begrenztem technischem Wissen.

Über 500 Konten an Cyberaktivitäten beteiligt

Zwischen März 2025 und März 2026 untersuchte Anthropic 832 Konten, die möglicherweise die Nutzungsbedingungen des Unternehmens verletzt hatten. Die Untersuchung ergab, dass 560 dieser Konten KI für cyberbezogene Zwecke einsetzten.

Es ging dabei unter anderem um das Schreiben von Malware, das Aufspüren von Schwachstellen in Software und das Sammeln von Informationen für zukünftige Angriffe.

Laut Anthropic zeigt dies, dass KI immer häufiger als Werkzeug in der Welt der Cyberkriminalität eingesetzt wird.

KI senkt die Hürde für Hacker

Sicherheitsexperten warnen schon länger, dass künstliche Intelligenz die Hürde für Cyberkriminalität senkt. Aufgaben, die zuvor spezielles Wissen erforderten, können nun teilweise mit Hilfe fortschrittlicher KI-Modelle automatisiert werden.

Diese Entwicklung scheint auch in der Kryptobranche sichtbar. Im April wurden Kryptowährungen im Wert von etwa 629,7 Millionen Dollar durch Hacks erbeutet. Dies war der höchste Betrag seit Februar 2025. Verschiedene Analysten verweisen dabei auf die zunehmende Rolle von KI bei Cyberangriffen.

Auch Manuel Aráoz, Gründer des Sicherheitsunternehmens OpenZeppelin, äußerte kürzlich seine Bedenken. Seiner Meinung nach sind moderne KI-Systeme mittlerweile sehr effektiv im Aufspüren von Schwachstellen in Smart Contracts, den digitalen Verträgen, die häufig in Blockchains und DeFi-Plattformen verwendet werden.

KI spielt eine zunehmend größere Rolle bei Cyberangriffen

Laut Anthropic wird KI derzeit vor allem in der Vorbereitungsphase von Angriffen eingesetzt. Dazu gehört die Analyse von Systemen, das Suchen nach Schwachstellen und die Entwicklung schädlicher Software.

Dennoch sieht das Unternehmen eine deutliche Verschiebung. Immer häufiger wird KI auch während des Angriffs selbst eingesetzt.

Rund 6,5 % der untersuchten Konten nutzten KI, um Angreifern zu helfen, sich weiter durch ein gehacktes Netzwerk zu bewegen, nachdem sie bereits Zugang erhalten hatten. Dies sind Techniken, die traditionell vor allem von erfahrenen Cyberkriminellen angewendet wurden.

Anthropic stellt fest, dass KI solche Möglichkeiten nun einer viel größeren Gruppe von Angreifern zugänglich macht.

Bedrohungsniveau durch KI-gesteuerte Hacker steigt

Die Untersuchung zeigt zudem, dass das Risiko von KI-gesteuerten Cyberangriffen schnell zunimmt.

In den ersten sechs Monaten des Untersuchungszeitraums wurden 33 % der verdächtigen Konten als mittelgroße oder ernsthafte Bedrohung eingestuft. In der zweiten Hälfte der Untersuchung stieg dieser Prozentsatz auf 56 %.

Laut Anthropic deutet dies darauf hin, dass Cyberkriminelle nicht nur häufiger KI nutzen, sondern dass die Technologie auch immer effektiver für komplexe Angriffe eingesetzt wird.

Google entdeckt erste durch KI entwickelte Zero-Day-Exploit

Im vergangenen Monat gaben Google-Forscher bekannt, dass sie möglicherweise den ersten bekannten Fall entdeckt haben, bei dem KI eingesetzt wurde, um eine sogenannte Zero-Day-Exploit zu entwickeln.

Ein Zero-Day ist ein unbekannter Softwarefehler, für den noch kein Sicherheitsupdate verfügbar ist. Cyberkriminelle können solche Schwachstellen nutzen, um in Systeme einzudringen, bevor Entwickler eine Lösung veröffentlicht haben.

Laut Google wurde die Schwachstelle genutzt, um die Zwei-Faktor-Authentifizierung in einem beliebten Open-Source-Systemverwaltungstool zu umgehen.

Die Forscher betonen, dass KI mittlerweile technische Aufgaben ausführen kann, die zuvor nur für sehr erfahrene Hacker machbar waren.

Chinesische Hacker setzen autonomen KI-Agenten ein

Anthropic beschreibt auch einen auffälligen Vorfall, bei dem eine von China unterstützte Hackergruppe ein KI-Modell weitgehend eigenständig während eines Cyberangriffs operieren ließ.

Laut der Untersuchung führte das System eigenständig Exploits durch, sammelte Anmeldedaten und traf operationelle Entscheidungen. Menschen griffen nur in kritischen Momenten ein.

Das Unternehmen erwartet, dass solche autonomen KI-Agenten in Zukunft immer häufiger eingesetzt werden, da KI-Modelle leistungsfähiger werden.

Neues KI-Modell Mythos sorgt für Besorgnis

Die Warnungen kommen zu einem Zeitpunkt, an dem sich Anthropic auf die Einführung seines neuen KI-Modells Mythos vorbereitet.

Laut dem Unternehmen hat das Modell über 10.000 schwerwiegende Schwachstellen in weit verbreiteter Software entdeckt. Obwohl diese Technologie für Sicherheitsforscher wertvoll sein kann, befürchten Experten, dass die gleichen Möglichkeiten auch von Cyberkriminellen missbraucht werden könnten.

Die Ergebnisse der Untersuchung zeigen, dass sich KI schnell zu einem bedeutenden Faktor bei modernen Cyberangriffen entwickelt. Für Unternehmen, Regierungen und Nutzer bedeutet dies, dass digitale Sicherheit zunehmend eine neue Generation von KI-gesteuerten Bedrohungen berücksichtigen muss.