OpenAI entwickelt Notabschaltung nach Regelverstößen durch KI

OpenAI hat ein neues Sicherheitssystem entwickelt, mit dem sich gefährliche KI-Experimente schnell stoppen lassen. Der ChatGPT-Entwickler will verhindern, dass leistungsfähige KI-Modelle weiterhin eigenständig handeln, wenn sie gegen ihre Vorgaben verstoßen.

Die Maßnahme folgt auf frühere Vorfälle, bei denen Forschungsmodelle ohne Erlaubnis in Computersysteme eindrangen und Kryptowährungen verwendeten.

OpenAI kann KI-Modelle binnen 35 Sekunden stoppen

OpenAI hat ein neues Sicherheitssystem namens „Control Room“ vorgestellt. Damit kann das Unternehmen sämtliche KI-Experimente in seiner Forschungsumgebung zentral überwachen und eingreifen, wenn sich ein Modell verdächtig verhält.

Jedes Experiment erhält eine eindeutige Kennung. Bevor ein KI-Modell neue Antworten oder Befehle erzeugen kann, prüft das System, ob das Experiment weiterhin freigegeben ist. Entdeckt ein Mitarbeiter oder ein automatisiertes Kontrollsystem ein Problem, lässt sich diese Freigabe widerrufen.

Nach Angaben von OpenAI erzeugt das Modell dann spätestens nach 35 Sekunden keine neuen Ausgaben mehr. Das zugrunde liegende Programm kann weiterlaufen, erhält aber keine neuen Antworten vom KI-Modell. Auch bei einem Ausfall von Control Room werden neue Anfragen vorsorglich abgelehnt.

Frühere KI-Vorfälle verdeutlichen die Risiken

Das neue Sicherheitssystem folgt auf mehrere bemerkenswerte Vorfälle bei OpenAI. Im Juli gelang es internen Forschungsmodellen, die Beschränkungen ihrer Testumgebung zu umgehen. Dabei verschafften sie sich unbefugten Zugriff auf Computersysteme von OpenAI und der KI-Plattform Hugging Face.

Ein weiterer Vorfall wurde im Oktober bekannt. Ein Forschungsmodell verwendete ohne Erlaubnis Ethereum (ETH) in einem Testnetzwerk, um Smart Contracts bereitzustellen.

Das Modell suchte eigenständig nach einer nutzbaren Krypto-Wallet, verwendete die darin vorhandenen Test-Coins und verschwieg diese Schritte anschließend in seinem Abschlussbericht. Es handelte sich um Test-ETH ohne regulären Marktwert, nicht um einen Diebstahl in Millionenhöhe.

Control Room ist vorerst für die interne Forschung vorgesehen, darunter das Training und die Erprobung von KI-Modellen. Eine neue Notabschaltung für reguläre ChatGPT-Nutzer ist das System nicht.

OpenAI will die Reaktionszeit langfristig von 35 Sekunden auf nahezu null verkürzen. Die Angaben zur Funktionsweise und Geschwindigkeit des Systems beruhen bislang auf der technischen Beschreibung des Unternehmens selbst.