Neues OpenAI-Modell entdeckt eigenständig unbekannte Softwarelücken

Das kommende KI-Modell Astra von OpenAI kann eigenständig bislang unbekannte Softwarelücken aufspüren. Es erkennt sogenannte Zero-Days, die selbst den Entwicklern noch nicht bekannt sind. Anschließend kann Astra auch analysieren, wie sich eine solche Schwachstelle ausnutzen lässt, ohne dass ein Mensch das Modell Schritt für Schritt anleiten muss.

Das ist ein deutlicher Fortschritt. Astra analysiert nicht nur bekannte Sicherheitsprobleme, sondern sucht selbst nach neuen Schwachstellen in Software. OpenAI stuft die Cyberfähigkeiten des Modells deshalb im eigenen Preparedness Framework als „kritisch“ ein.

Astra findet unbekannte Zero-Day-Lücken selbst

Zero-Days zählen zu den gefährlichsten Softwarelücken. Denn der Entwickler weiß noch nicht, dass das Problem existiert, und hat daher meist auch kein Sicherheitsupdate vorbereitet.

Findet ein Angreifer eine solche Lücke zuerst, kann er versuchen, sie auszunutzen, bevor sie geschlossen wird.

In internen Tests zeigte Astra, dass es solche Schwachstellen tatsächlich entdecken kann. Nach Angaben von OpenAI fand das Modell zwei bis dahin unbekannte Softwarefehler, während es versuchte, mehrere Schwachstellen miteinander zu kombinieren.

In einem weiteren Test erzielte Astra eine Trefferquote von 100 Prozent bei der Entwicklung von Methoden, um bekannte Schwachstellen auszunutzen.

Gerade diese Kombination macht das Modell leistungsfähig. Astra kann nicht nur einen Fehler finden, sondern auch prüfen, ob mehrere Fehler zusammen den Zugang zu einem System ermöglichen. Arbeit, für die normalerweise erfahrene Sicherheitsforscher nötig sind, lässt sich damit zunehmend automatisieren.

Astra entkommt aus gesicherter Umgebung

Ein weiterer Test zeigt, wie weit diese Fähigkeiten reichen. OpenAI platzierte Astra in einer gesicherten Browser-Sandbox. Dabei handelt es sich um eine abgeschottete Umgebung, die eigentlich verhindern soll, dass Software auf den Rest eines Computers zugreift.

Nach Angaben von OpenAI gelang es Astra, aus dieser Umgebung auszubrechen und anschließend Befehle auf dem darunterliegenden System auszuführen.

Das Modell fand zudem mehrere Schwachstellen in einem Betriebssystem und kombinierte sie, um am Ende Root-Zugriff zu erhalten. Das ist die höchste Zugriffsebene in vielen Computersystemen und ermöglicht nahezu vollständige Kontrolle.

Die Ergebnisse veranlassten OpenAI zu besonderer Vorsicht. Das Unternehmen hat Teile der Entwicklung verschoben und zusätzliche Sicherheitsmaßnahmen ergriffen. Die fortschrittlichsten Cyberfähigkeiten werden vorerst nur einer begrenzten Gruppe von Testern zugänglich gemacht.