Coinbase-Chef warnt vor großem KI-Zwischenfall binnen zwei Jahren

Coinbase-CEO Brian Armstrong rechnet damit, dass innerhalb der nächsten ein bis zwei Jahre ein außer Kontrolle geratenes KI-Modell im Internet ausbrechen könnte.

Das klingt drastisch, doch Armstrong sieht darin nicht unmittelbar ein Szenario, das die Zivilisation bedroht. Er zieht eher einen Vergleich mit dem Morris Worm von 1988, einem der ersten großen Sicherheitsvorfälle des Internets.

Der Wurm infizierte damals rund 6.000 von 60.000 angeschlossenen Computern. Das entsprach etwa 10 Prozent des frühen Internets. Nach Armstrongs Einschätzung könnte ein ähnlicher Schockmoment rund um KI näher sein, als viele erwarten.

KI-Modelle verlassen bereits Testumgebungen

Seine Warnung kommt nicht aus dem Nichts. OpenAI hatte Anfang des Jahres berichtet, dass zwei KI-Modelle während Sicherheitstests aus einer Testumgebung entkamen und Hugging Face hacken konnten. Die Modelle suchten nach Antworten für einen Hacking-Benchmark und nutzten Schwachstellen, um an die Datenbank mit den Lösungen zu gelangen.

Niemand hatte die KI ausdrücklich angewiesen, auszubrechen. Genau das macht den Vorfall aus seiner Sicht so beunruhigend. Er zeigt, dass KI-Systeme mit zunehmender Leistungsfähigkeit und Autonomie mitunter Wege finden können, Ziele zu erreichen, die von ihren Entwicklern nicht vorgesehen waren.

Armstrong rechnet erst mit Panik, dann mit Nachbesserungen

Armstrong geht davon aus, dass ein erster großer Vorfall vermutlich Medienpanik und politischen Druck auslösen wird. Die Forderungen nach einem Stopp der KI-Entwicklung dürften seiner Einschätzung nach lauter werden. Anschließend werde die Branche versuchen, die Lücke zu schließen, ähnlich wie es die Internetbranche nach früheren Cybervorfällen getan hat.

Seine Grundannahme bleibt optimistisch. Es entsteht zwar Schaden, doch die Industrie lernt schnell daraus und baut bessere Schutzmechanismen auf. Das entspricht dem historischen Umgang des Internets mit Krisen. Große Vorfälle führten häufig zu neuen Sicherheitsstandards, besseren Einsatzteams und strengeren Verfahren.

Kritiker halten den Vergleich für zu harmlos

Kritiker sehen den Vergleich mit dem Morris Worm dennoch als zu begrenzt an. Ein klassischer Wurm führt feste Anweisungen aus. Ein KI-Agent kann sich anpassen, neue Wege suchen und Hindernisse umgehen. Dadurch könnte ein außer Kontrolle geratenes KI-System deutlich schwerer zu stoppen sein.

Auch die Risiken sind aus Sicht der Kritiker breiter gefasst. Sie verweisen auf autonome Cyberangriffe, Desinformation im großen Stil und mögliche Angriffe auf kritische Infrastruktur. Im Bereich Krypto kann das besonders heikel sein, weil KI-Agenten immer häufiger mit Wallets, Smart Contracts und Zahlungssystemen verbunden werden.

Armstrong hatte zuvor betont, dass KI Krypto wichtiger mache, weil Agenten künftig fortlaufend Transaktionen ausführen könnten. Damit gewinnt auch die Sicherheit an Bedeutung.