Musk warnt: KI könnte Ende 2027 besser hacken als Menschen

Elon Musk erwartet, dass künstliche Intelligenz innerhalb von anderthalb Jahren eine gefährliche Schwelle überschreitet. Nach Einschätzung des Tesla-Chefs könnte KI bis Ende 2027 besser hacken als die besten menschlichen Experten.

Die Prognose fällt in eine Phase, in der Softwareunternehmen immer deutlicher erkennen, wie leistungsfähig KI-Systeme beim Aufspüren von Schwachstellen sind. Für Verteidiger eröffnet das neue Möglichkeiten, zugleich könnten Cyberkriminelle zusätzliche Werkzeuge erhalten.

Musk hält Hacking für eine der ersten digitalen Aufgaben, bei denen KI den Menschen vollständig überholen dürfte. Der Milliardär geht langfristig davon aus, dass Maschinen nahezu alles Digitale auf übermenschlichem Niveau ausführen können.

Elon Musk erwartet KI-Durchbruch im Jahr 2027

Musk veröffentlichte seine Einschätzung am Montag auf X. Seiner Ansicht nach kann KI bis Ende kommenden Jahres nahezu jede digitale Aufgabe besser erledigen als Menschen, sofern dafür keine physischen Handlungen nötig sind.

„Bis Ende kommenden Jahres dürfte KI alles Digitale, für das keine physische Materie geformt werden muss, auf übermenschlichem Niveau beherrschen“, schrieb Musk.

Sinngemäß rechnet er also damit, dass KI Ende 2027 nahezu alles, was vollständig digital abläuft, auf übermenschlichem Niveau ausführen kann.

Hacking steht nach Musks Einschätzung am Anfang dieser Entwicklung. Er verwies dabei auf Google-Mitgründer Larry Page, der laut Musk bereits vor rund zehn Jahren davor gewarnt habe, dass künstliche Intelligenz beim Hacken eines Tages besser sein werde als Menschen.

Der Zeitpunkt seiner Warnung ist bemerkenswert. Das Sicherheitsunternehmen JFrog machte am vergangenen Freitag eine kritische Sicherheitslücke in Artifactory öffentlich. Die Software wird von Entwicklern genutzt, um Softwarepakete und Dateien für neue Versionen zu speichern und zu verwalten.

Die Schwachstelle erhielt die Kennung CVE-2026-82329 und einen Schweregrad von 9,8 auf einer Skala von zehn. Nach Angaben von JFrog benötigt ein Angreifer weder ein Passwort noch eine Interaktion eines Nutzers, um die Lücke auszunutzen. Das Unternehmen hat inzwischen Sicherheitsupdates veröffentlicht.

Das macht die Schwachstelle besonders brisant. Artifactory sitzt bei vielen Softwareunternehmen mitten im Entwicklungsprozess. Wer in ein solches System eindringt, könnte potenziell auch andere Teile der Software-Lieferkette treffen.

KI findet selbstständig Schwachstellen in Software

Die Entdeckung führte rasch zu Spekulationen über die Rolle künstlicher Intelligenz. Guillermo Rauch, Chef des Technologieunternehmens Vercel, deutete an, autonome KI-Systeme könnten möglicherweise am Auffinden und Ausnutzen der Schwachstelle beteiligt gewesen sein.

Öffentliche Belege dafür gibt es bislang nicht.

Fest steht allerdings, dass KI bereits zuvor Schwachstellen in Artifactory entdeckt hat. OpenAI fand im Juli bei einem Sicherheitstest neun bis dahin unbekannte Schwachpunkte in der Software von JFrog. Diese Probleme wurden anschließend behoben.

Die neue Sicherheitslücke scheint davon unabhängig zu sein. Die von JFrog am vergangenen Freitag veröffentlichte Schwachstelle betrifft nämlich auch neuere Versionen, in denen die zuvor von OpenAI gefundenen Probleme bereits behoben waren.

Ein weiteres Beispiel zeigt, wie schnell sich KI-Systeme in diesem Bereich entwickeln. Malte Ubl, Technikchef bei Vercel, berichtete, dass ein KI-Modell mit frei verfügbaren Modellgewichten während eines Sicherheitstests eigenständig einen sogenannten Fuzzer schrieb.

Ein solches Programm sendet große Mengen abweichender oder unerwarteter Daten an Software. Anhand von Abstürzen oder ungewöhnlichen Reaktionen können Forscher verborgene Sicherheitsprobleme aufspüren.

Solche Arbeiten kosten menschliche Sicherheitsforscher normalerweise viel Zeit. Ein KI-System kann entsprechende Tests deutlich schneller und in großem Maßstab durchführen.

KI kann Verteidiger und Hacker stärken

Für Unternehmen entsteht damit ein neues Problem. Dieselbe Technologie, mit der Sicherheitsteams Schwachstellen schneller entdecken können, lässt sich theoretisch auch von Angreifern einsetzen.

Rauch warnte Unternehmen daher, sich auf eine Welt einzustellen, in der Cyberangriffe immer stärker automatisiert werden.

„Man sollte davon ausgehen, dass alles, was gehackt werden kann, auch gehackt wird. Und zwar autonom“, schrieb er. Nach Ansicht von Rauch müssen Organisationen auch ihre Verteidigung automatisieren, weil ihre digitale Angriffsfläche vermutlich größer ist, als sie annehmen.

Auch Coinbase-Chef Brian Armstrong rechnet mit schweren Zwischenfällen. Er erwartet, dass innerhalb von zwei Jahren eine Situation entstehen könnte, in der ein außer Kontrolle geratenes KI-System Probleme verursacht.

Gleichzeitig versuchen KI-Unternehmen, die Technologie gezielt für die Verteidigung einzusetzen. OpenAI hat etwa ein speziell auf Cybersicherheit ausgerichtetes Modell für zugelassene Sicherheitsexperten bereitgestellt. Damit sollen Schwachstellen schneller gefunden werden, bevor Angreifer sie ausnutzen.

Die große Frage ist, wer verantwortlich ist, wenn autonome KI-Systeme tatsächlich eigenständig Schwachstellen entdecken und Angriffe ausführen. Regulierung und Haftung rund um solche Systeme befinden sich noch in der Entwicklung.

Sollte Musks Prognose eintreffen, bleibt dafür wenig Zeit. Ende 2027 könnten KI-Systeme ihm zufolge bereits besser hacken als die besten menschlichen Spezialisten.