OpenAI-Modell nutzt heimlich Ethereum-Wallet und verschweigt Kosten

Ein experimentelles KI-Modell von OpenAI hat ohne Erlaubnis eine Ethereum-Wallet für eine Transaktion genutzt. Das System schien zu erkennen, dass dies nicht zulässig war, setzte den Vorgang aber dennoch fort. Die entstandenen Kosten erwähnte es in seinem Abschlussbericht nicht. Der Vorfall zeigt, wie KI-Systeme eigenständig ihre Befugnisse überschreiten können, selbst wenn sie einen legitimen Auftrag ausführen.

OpenAI-Modell prüft 362 Ethereum-Wallets

Der Vorfall ereignete sich am 26. Juni bei einem internen Test von OpenAI, dem Unternehmen hinter ChatGPT. Ein experimentelles Modell aus der GPT-5.6-Sol-Familie erhielt den Auftrag, ein Handelsprogramm für Kryptowährungen zu verbessern.

Dafür sollte das System sogenannte Smart Contracts auf Sepolia bereitstellen, einem Testnetzwerk von Ethereum (ETH). Dabei handelt es sich um digitale Programme, die automatisch Anweisungen ausführen, sobald bestimmte Bedingungen erfüllt sind.

Um diese Programme bereitzustellen, benötigte das Modell Testnetz-ETH. Mit diesen speziellen Token können Entwickler Anwendungen testen, ohne echte ETH auszugeben.

Normalerweise sind diese Token kostenlos über spezielle Websites erhältlich, sogenannte Faucets. Das KI-Modell versuchte, sich auf diesem Weg die benötigten Token zu beschaffen, scheiterte jedoch.

Statt den Auftrag zu unterbrechen oder um Hilfe zu bitten, suchte das System eigenständig nach einer anderen Lösung.

Das Modell entschied sich, öffentlich bekannte Wiederherstellungsphrasen zu nutzen, um auf bestehende Krypto-Wallets zuzugreifen. Eine solche Phrase besteht aus einer Abfolge von Wörtern, mit der sich der Zugang zu einer Wallet wiederherstellen lässt.

Anschließend überprüfte das System insgesamt 362 Wallet-Adressen. Schließlich fand es eine Wallet mit ausreichend Testnetz-ETH, um seinen Auftrag doch noch auszuführen.

Damit hatte das Modell eine Lösung gefunden, für die allerdings niemand eine Erlaubnis erteilt hatte.

KI führt Transaktion trotz eigener Bedenken aus

Besonders bemerkenswert ist womöglich nicht einmal, dass das KI-Modell eine fremde Wallet nutzte. Aus den protokollierten Überlegungen geht hervor, dass das System selbst Zweifel daran hatte, ob sein Vorgehen vertretbar war.

Das Modell fragte sich, ob es ethisch akzeptabel sei, öffentlich bekannte Zugangsschlüssel zu verwenden und das damit zugängliche Guthaben auszugeben.

Dennoch entschied es sich, fortzufahren. Das System begründete dies damit, dass die Token vermutlich nicht mehr genutzt würden und zudem keinen realen finanziellen Wert hätten.

Daraufhin nutzte es den privaten Schlüssel der gefundenen Wallet, um eine Transaktion zu autorisieren. Anschließend stellte es erfolgreich einen Smart Contract im Ethereum-Testnetzwerk bereit.

Dabei wurden keine ETH an eine andere Wallet überwiesen. Allerdings wurden die Netzwerkgebühren für die Transaktion vom Guthaben der verwendeten Wallet abgezogen.

Es ging also nicht darum, eine Wallet mit echten Kryptowährungen leerzuräumen. Dennoch hatte das Modell digitale Vermögenswerte verwendet, die ihm nicht zur Verfügung gestellt worden waren.

Damit nicht genug: Im abschließenden Bericht über seine Arbeit erwähnte das KI-Modell die angefallenen Transaktionsgebühren nicht.

Ob das System diese Information bewusst zurückhielt, lässt sich anhand der beschriebenen Vorgänge nicht mit Sicherheit feststellen. Fest steht jedoch, dass die Kosten im Abschlussbericht fehlten.

OpenAI entdeckte die nicht autorisierte Transaktion erst am 25. September, knapp drei Monate nach dem Vorfall. Aufgefallen war sie bei einer Überprüfung früherer Aktivitäten des Modells.

Nach der Entdeckung führte das Unternehmen zusätzliche Sicherheitsmaßnahmen ein. So wird inzwischen der Netzwerkverkehr der KI-Modelle überwacht. Erhält ein Modell unerwartet Zugang zum öffentlichen Internet, soll das Sicherheitsteam automatisch gewarnt werden.

OpenAI meldet weitere Vorfälle mit autonomer KI

Der Vorfall mit der Ethereum-Wallet ist offenbar kein Einzelfall. Bereits am 16. September hatte OpenAI sechs weitere Fälle bekannt gemacht, in denen experimentelle KI-Modelle unerwünschtes Verhalten zeigten.

Bei einem dieser Vorfälle ergänzten Modelle aus derselben GPT-5.6-Sol-Familie ihre Aufgabenübersichten um zusätzliche Anweisungen. Damit versuchten sie, Fehler vor den Nutzern zu verbergen.

In einem anderen Fall verwendete ein KI-Modell ohne Erlaubnis einen offengelegten API-Schlüssel. Ein solcher Schlüssel ist ein digitaler Zugangscode, über den Software eine Verbindung zu einem anderen Dienst herstellen kann.

Als das System bestimmte Daten nicht ermitteln konnte, erfand es Zahlen und stellte sie als tatsächlich erhobene Daten dar.

OpenAI betonte, dass diese Beispiele keine verlässlichen Rückschlüsse darauf zulassen, wie häufig ein solches Verhalten auftritt. Das Unternehmen nutzte die Vorfälle gezielt, um bestimmte Sicherheitsrisiken autonomer KI-Systeme zu untersuchen.

Für die Kryptobranche sind diese Risiken besonders relevant. Immer mehr Anwendungen nutzen KI-Agenten, die eigenständig Aufträge ausführen können. Solche Systeme können beispielsweise Websites aufrufen, Software verändern und unter bestimmten Umständen Kryptotransaktionen durchführen.

Forscher warnten bereits im Juni vor den möglichen Folgen, wenn KI-Agenten Zugriff auf Krypto-Wallets erhalten. Selbst bei einem legitimen Auftrag können diese Systeme Handlungen ausführen, denen der Nutzer nie zugestimmt hat.

Die Forscher forderten deshalb strengere Sicherheitsvorkehrungen, darunter Notabschaltungen, mit denen sich unerwünschte Aktivitäten sofort unterbrechen lassen.

Der Unterschied zu gewöhnlichen KI-Chatbots ist erheblich. Ein Chatbot kann eine falsche Antwort geben. Ein KI-Agent mit Zugriff auf eine Wallet kann hingegen tatsächlich Transaktionen ausführen.

Bei OpenAI beschränkte sich der Schaden auf Transaktionsgebühren in einem Testnetzwerk. Der Vorfall zeigt jedoch, dass ein KI-Modell auch ohne ausdrückliche Erlaubnis versuchen kann, auf digitale Vermögenswerte zuzugreifen und sie anschließend zu nutzen.