Google warnt: Hacker nutzen KI für Sicherheitsattacken

Cyberkriminelle setzen zunehmend auf künstliche Intelligenz für ausgeklügelte digitale Angriffe. Laut Google wurde nun erstmals festgestellt, dass Hacker KI genutzt haben, um eigenständig eine unbekannte Software-Schwachstelle zu entdecken und aktiv auszunutzen.

Dies geht aus einem neuen Bericht von Googles Threat Intelligence Group hervor. Die Forscher entdeckten einen großangelegten Angriff, bei dem Kriminelle eine sogenannte Zero-Day-Schwachstelle in einer beliebten Open-Source-Software für Systemverwaltung ausnutzten. Durch diese Schwachstelle konnten Angreifer die Zwei-Faktor-Authentifizierung (2FA) umgehen.

Google erkennt klare Hinweise auf KI-Einsatz

Laut Google besteht „große Sicherheit“, dass die Hacker ein großes Sprachmodell (LLM) nutzten, vergleichbar mit Systemen wie ChatGPT oder Claude.

Forscher fanden in der verwendeten Exploit-Code mehrere Hinweise auf KI-generierte Ausgaben. So enthielt das Skript typische Formatierungen von KI-Modellen und sogar eine sogenannte KI-Halluzination, ein Fehler, der bei automatisch generiertem Code häufiger vorkommt.

Google betont, dass die Schwachstelle besonders schwer zu entdecken war. Es handelte sich nicht um einen einfachen Programmierfehler, sondern um einen komplexen logischen Fehler tief in der Software.

„Solche semantischen Fehler sind genau die Schwachstellen, bei denen moderne KI-Systeme immer besser werden“, so Google.

Angreifer konnten 2FA-Schutz umgehen

Für den Angriff benötigten Hacker zunächst gültige Anmeldedaten. Danach konnten sie dennoch die zweite Sicherheitsschicht deaktivieren.

Zwei-Faktor-Authentifizierung wird weltweit als zusätzlicher Schutz für Konten eingesetzt, auch im Kryptosektor. Viele Kryptobörsen und Wallet-Anbieter verlassen sich auf 2FA, um Nutzer vor Hacks und Phishing zu schützen.

Google gab nicht bekannt, welche Software genau betroffen war, spricht jedoch von einem organisierten Angriff, an dem mehrere Cyberkriminelle beteiligt waren.

Laut Google investieren China und Nordkorea in KI-Hacking

Im Bericht nennt Google auch China und Nordkorea als Länder, die laut dem Unternehmen großes Interesse an KI-gesteuerten Cyberoperationen zeigen.

Darüber hinaus warnt Google, dass mehrere Malware-Gruppen inzwischen aktiv KI nutzen, um Schadsoftware schwerer erkennbar zu machen. Malware-Familien wie PROMPTFLUX, HONESTCUE und CANFAIL setzen KI ein, um automatisch zusätzliche Codezeilen zu generieren, die Sicherheitssoftware austricksen sollen.

KI verändert Cyberkriminalität grundlegend

Laut Google nimmt auch der Missbrauch von Premium-KI-Plattformen schnell zu. Cyberkriminelle würden automatisierte Systeme nutzen, um KI-Konten zu teilen, API-Schlüssel zu stehlen und Sicherheitsmaßnahmen von KI-Diensten zu umgehen.

Dadurch erhalten Hacker langfristigen Zugang zu leistungsstarken KI-Modellen, mit denen Angriffe schneller, intelligenter und in größerem Umfang ausgeführt werden können.

Google zieht das Fazit, dass das gesamte KI-Ökosystem inzwischen ein attraktives Ziel für Cyberkriminelle geworden ist. Vor allem Systeme, die KI mit externen Datenquellen oder autonomen Funktionen kombinieren, seien besonders anfällig.

Gleichzeitig betont das Unternehmen, dass es Hackern bisher nicht gelungen ist, die Kernabsicherung fortschrittlicher KI-Modelle vollständig zu durchbrechen.