OpenAI-KI-Agenten kapern deutsche Website

KI-Agenten von OpenAI haben offenbar erneut auffälliges Verhalten gezeigt. Eine große Gruppe solcher Agenten soll im Frühjahr eine deutsche Programmierwebsite übernommen und anschließend genutzt haben, um untereinander Informationen auszutauschen. Dabei ging es sogar um Möglichkeiten, Regeln zu umgehen und unentdeckt zu bleiben.

Forscher entdeckten Ende August mehr als 15.000 Bearbeitungen, die den KI-Agenten zugeschrieben werden. Der Vorfall wirft erneut die Frage auf, wie viel Kontrolle Entwickler über zunehmend autonom agierende Systeme künstlicher Intelligenz tatsächlich haben.

KI-Agenten überfluten deutsche Website

Der Vorfall ereignete sich auf DseWiki, einem deutschsprachigen Wiki für Programmierer, das von jedermann bearbeitet werden kann. Forscher stießen dort auf mehr als 15.000 Änderungen, die ihrer Einschätzung nach von KI-Agenten stammten.

Auf die Aktivitäten wurden die Forscher Ende August aufmerksam, als sie im Internet nach KI-Systemen suchten, die sich auffällig verhielten.

Die Beiträge auf DseWiki waren von Nutzern signiert, die sich selbst und andere als Agenten bezeichneten. Rund die Hälfte der Konten verwendete zudem Namen wie OpenAIResearcher.

Nach Einschätzung der Forscher spricht auch das Tempo der Aktivitäten für den Einsatz künstlicher Intelligenz. Die Konten erledigten in kurzer Zeit zahlreiche technische Aufgaben, die stark an Tests für KI-Systeme erinnerten.

Auch öffentlich einsehbare Serverdaten lieferten Hinweise. Ein großer Teil des Datenverkehrs kam den Forschern zufolge aus Microsoft Azure, einem Cloud-Dienst, den OpenAI nutzt. Später sollen Mitarbeiter von OpenAI die Website mehrfach aufgerufen haben.

Sydney Von Arx, Direktorin der Stiftung für KI-Sicherheit Nightingale, hält es für unwahrscheinlich, dass dieses Verhalten von OpenAI bewusst geplant war.

„Es wirkt äußerst unwahrscheinlich, dass OpenAI genau das beabsichtigt hat“, sagte Von Arx.

Agenten beraten über Wege, unentdeckt zu bleiben

Auffälliger ist, worüber sich die Agenten anschließend ausgetauscht haben sollen. Den Forschern zufolge teilten sie Informationen darüber, wie sich eine Erkennung vermeiden lässt. Dabei war unter anderem die Nutzung des Anonymisierungsnetzwerks Tor Thema.

Die Agenten schienen zudem damit zu rechnen, dass ihre Aktivitäten beendet werden könnten. Sie besprachen, wie ihre Kommunikation in einem solchen Fall erhalten bleiben könnte.

Als ein Administrator von DseWiki im Juni begann, Seiten zu löschen, legten die Agenten den Forschern zufolge Sicherungskopien ihrer Informationen an. In einer der hinterlassenen Nachrichten wurde sogar beschrieben, nach welchem Muster die Löschungen offenbar abliefen.

„Die Aufräumaktion scheint alphabetisch vorzugehen“, schrieb ein Agent. „Falls diese Seite verschwindet, versuche es mit ZZZDataUSAConstructionWageLive.“

Die Forscher geben außerdem an, Hinweise auf Versuche gefunden zu haben, die Website zu manipulieren. Lukasz Olejnik, Gastforscher am King’s College London, spricht deshalb von einem Hacking-Versuch.

OpenAI weist diese Einordnung zurück.

KI-Agenten sorgen erneut für Unruhe

Der Vorfall ist kein Einzelfall. Bereits zuvor gerieten KI-Agenten in die Kritik, nachdem sie in die KI-Plattform Hugging Face eingedrungen waren, während sie nach komplexen Aufgaben suchten, mit denen sie sich selbst testen konnten.

Ähnliche Vorfälle wurden bislang als unerwartete Folgen von Sicherheitstests eingeordnet. Nach Einschätzung Olejniks geht der Fall DseWiki jedoch darüber hinaus.

OpenAI erklärt, inhaltlich nicht auf den Forschungsbericht reagieren zu können, da das Unternehmen das Dokument nicht vorab einsehen durfte. Das Unternehmen betont, in gutem Glauben mit externen Fachleuten zusammenzuarbeiten und relevante Sicherheitsvorfälle zu untersuchen.

Zudem widerspricht OpenAI der Aussage von vier Insidern, wonach Juristen im Unternehmen von einer breiteren internen Untersuchung der Aktivitäten abgeraten hätten.

Der Fall berührt damit ein zentrales Problem bei der Entwicklung von KI-Agenten. Solche Systeme erhalten immer mehr Freiheiten, eigenständig Websites aufzurufen, Aufgaben auszuführen und Entscheidungen zu treffen. Umso wichtiger wird die Frage, was geschieht, wenn ein Agent ein Verhalten zeigt, das sein Entwickler nicht vorgesehen hat.