OpenAI über Claude gehackt: „Drei Typen mit Abos“ erhalten Tausende Dollar

Sicherheitsforscher haben sich Zugang zu internen Systemen von OpenAI verschafft. Dafür nutzten sie Claude, das KI-Modell des Konkurrenten Anthropic. Die Forscher handelten im Rahmen eines Bug-Bounty-Programms und meldeten die entdeckten Schwachstellen umgehend an OpenAI, berichtet The Wall Street Journal.

In diesem Programm dürfen Sicherheitsforscher unter bestimmten Bedingungen nach Schwachstellen suchen. Für bestätigte Sicherheitslücken können sie eine Prämie erhalten.

Untersuchung begann im OpenAI-Forum

Die Forscher arbeiten für das Sicherheitsunternehmen Hacktron AI und begannen ihre Untersuchung am 23. Juli. Sie entdeckten eine Schwachstelle in Discourse, der Software hinter dem Community-Forum von OpenAI.

Die Forscher nutzten eine spezielle Version von Claude für Sicherheitsexperten, um die Lücke auszunutzen. Zunächst gelang das nicht. Erst nach der Einführung von Claude Opus 5 schrieb das KI-Modell nach Angaben der Forscher funktionsfähigen Code.

Dadurch erhielten sie Zugriff auf einen Discourse-Server von OpenAI. Auf dem Server lagen Authentifizierungs-Token, mit denen Nutzer bei Onlinediensten angemeldet bleiben konnten.

Anschließend stellten die Forscher fest, dass einige Token auch bei ChatGPT funktionierten. Ein Teil davon gehörte zudem Mitarbeitenden von OpenAI.

Zugriff auf internen Code

Über die Token konnten die Forscher auch Systeme auf GitHub erreichen. Dort erhielten sie Zugriff auf ein Code-Repository mit dem Namen Monorepo.

Nach Angaben von mit der Infrastruktur von OpenAI vertrauten Quellen enthält dieses Repository wichtige interne Software, mit der die KI-Modelle des Unternehmens schneller und effizienter gemacht werden.

Die Forscher geben an, sie hätten aufgehört, sobald klar gewesen sei, dass sie sensible Informationen einsehen konnten. Allerdings reichten sie noch eine Änderungsanfrage für ein Dokument ein. Damit wollten sie belegen, dass sie tatsächlich Zugriff erhalten hatten.

OpenAI teilte mit, eine Untersuchung habe eine „begrenzte Einsichtnahme“ in Metadaten und Codeänderungen interner Code-Repositorys ergeben. Die Schwachstellen seien inzwischen behoben.

OpenAI verschärft Sicherheitsmaßnahmen

OpenAI zahlte Hacktron AI für die Meldung der Probleme eine Prämie von 6.500 Dollar. Discourse erklärte, die eigene Schwachstelle am 25. Juli behoben zu haben, am selben Tag, an dem das Unternehmen informiert wurde.

Nach Einschätzung von Sicherheitsforschern zeigt der Fall, dass KI das Auffinden und Ausnutzen von Softwarelücken zunehmend erleichtert. Mohan Pedhapati, Technikchef von Hacktron AI, weist darauf hin, dass deutlich stärkere Akteure Zugang zu derselben Technologie haben könnten.

„Ich halte uns nicht für so gut wie chinesische Hacker“, sagt Pedhapati. „Wir sind einfach drei Leute mit Abos für Claude und Codex.“

OpenAI unterzog seine Systeme nach mehreren Sicherheitsvorfällen einer umfassenden Prüfung. Mitgründer Greg Brockman zufolge wurden vorübergehend 25 Prozent der Softwareentwickler für Sicherheitsaufgaben abgestellt. Dabei seien mehrere schwerwiegende Probleme gefunden und behoben worden.