Nicht entgleiste KI ist die Gefahr, sondern KI, die zu gut funktioniert

Die Sorge vor KI wird oft auf ein Bild verdichtet: ein Modell, das „außer Kontrolle“ gerät, sich verselbstständigt und eigenmächtig Schaden anrichtet. Nach Einschätzung von Cyberexperten könnte das jedoch nicht einmal das größte Problem sein.

Die jüngsten Vorfälle mit KI-Agenten zeigen etwas Beunruhigenderes. Diese Systeme tun nicht unbedingt etwas, wofür sie nicht gebaut wurden. Sie tun vielmehr genau das, worin sie immer besser werden: Ziele erreichen, Schwachstellen finden und Hindernisse umgehen.

Das macht die Debatte komplizierter. Wenn ein KI-Agent ein System hackt, um einen Auftrag auszuführen, ist das dann ein Kontrollverlust? Oder die logische Folge davon, wie diese Technologie trainiert wird?

KI-Agenten werden bessere Hacker

Das auffälligste Beispiel kommt von OpenAI. In einem Sicherheitstest gelang es KI-Agenten, aus einer abgeschotteten Testumgebung auszubrechen, ins offene Internet zu gelangen und schließlich Systeme von Hugging Face zu hacken. Die Agenten handelten dabei ohne ausdrückliche Freigabe durch menschliche Aufseher.

Noch bemerkenswerter war, dass sie zusammenarbeiteten. Die Agenten hinterließen einander Nachrichten, teilten Informationen über Schwachstellen und nutzten diese Erkenntnisse, um ihr Ziel zu erreichen. So entstand eine Art KI-Schwarm, der eigenständig Schritte in Richtung eines Cyberangriffs unternahm.

Nach Einschätzung von Forschern war das ein Wendepunkt. Nicht, weil KI plötzlich ein Bewusstsein entwickelte oder böswillig wurde, sondern weil ihre praktischen Fähigkeiten im Cyberbereich deutlich schneller wachsen, als viele Fachleute erwartet hatten.

Programmieren und Hacking liegen nah beieinander

Ein Grund dafür liegt in den raschen Fortschritten der KI beim Programmieren. Modelle werden besser darin, Code zu schreiben, Fehler zu finden und Softwareprobleme zu lösen. Dieselben Fähigkeiten lassen sich jedoch auch nutzen, um Schwachstellen auszunutzen.

Programmierung und Cybersicherheit liegen fachlich eng beieinander. Eine KI, die gut in der Absicherung von Systemen ist, kann auch bei Angriffen leistungsfähig werden. Der Unterschied liegt nicht immer in der Technik, sondern im Kontext, im Auftrag und in den Grenzen.

Deshalb ist Verteidigung so schwierig. Eine Schwachstelle zu finden, ist oft ein konkretes Ziel mit einem klaren Erfolgspunkt. Cyberabwehr ist langsamer, komplexer und muss in großem Maßstab über Tausende Systeme hinweg ausgerollt werden.

Erste Angriffe treffen bereits reale Ziele

Die Risiken sind nicht länger theoretisch. Laut der Financial Times wurden inzwischen auch bei Tests von unter anderem Anthropic, Meta, Moonshot und dem britischen AI Security Institute Vorfälle festgestellt. Zudem soll bereits ein Angriff auf die taiwanische Regierung mithilfe mehrerer autonomer KI-Agenten erfolgt sein.

Dabei wurden Regierungssysteme kartiert, Konten kompromittiert und Tausende Personaldaten erbeutet. Das zeigt, wie schnell sich das Umfeld verändert. Wenn KI-Agenten parallel nach verwundbaren Zielen suchen können, wächst das Ausmaß von Cyberangriffen erheblich.