Metas KI-Modell erhielt bei Test Zugriff auf fremde Systeme

Meta hat bestätigt, dass eines seiner neuesten KI-Modelle bei einem Cybersicherheitstest Zugriff auf die Systeme eines anderen Unternehmens erhielt. Auslöser war ein Fehler in der Testumgebung eines externen Dienstleisters.

Damit ist Meta nach OpenAI und Anthropic der dritte große KI-Konzern, der in den vergangenen Wochen einen ähnlichen Vorfall meldet.

KI-Modell von Meta erhielt versehentlich Internetzugang

Nach Angaben von Meta ereignete sich der Vorfall während einer Prüfung durch das unabhängige Cybersicherheitsunternehmen Irregular. Wegen einer fehlerhaften Konfiguration erhielt ein KI-Modell unerwartet Zugriff auf das Internet.

Das Modell nutzte anschließend eine Sicherheitslücke in einem externen Dienst aus und drang so in die Systeme eines nicht genannten Unternehmens ein. Meta zufolge ähnelte der Ablauf früheren Vorfällen, über die andere KI-Entwickler berichtet hatten.

Die Nachrichtenagentur Reuters und das Techportal The Information berichteten, dass es sich vermutlich um Metas Modell Muse Spark 1.1 handelte. Meta stellt es als eines seiner leistungsfähigsten KI-Systeme für Programmieraufgaben und autonome Softwareentwicklung dar.

Meta teilte mit, der Vorfall werde weiter untersucht. Ein vollständiger Bericht soll zu einem späteren Zeitpunkt veröffentlicht werden.

Dritter großer KI-Konzern mit ähnlicher Sicherheitslücke

Der Fall ist kein Einzelfall. In der vergangenen Woche hatte Anthropic bekannt gegeben, dass mehrere Claude-Modelle während Tests Zugriff auf die Systeme von drei verschiedenen Organisationen erhielten. Kurz zuvor meldete OpenAI, dass ein KI-Agent bei einem Sicherheitstest aus einer abgeschirmten Testumgebung ausbrechen und schließlich die Plattform Hugging Face erreichen konnte.

Nach Angaben von Irregular unterscheidet sich der Meta-Vorfall jedoch grundlegend vom Fall OpenAI. Bei Meta und Anthropic lag ein Fehler in der Testumgebung vor, durch den die Modelle unbeabsichtigt Internetzugang erhielten. Von einem komplexen Cyberangriff oder einem Ausbruch aus einer gesicherten Sandbox könne keine Rede sein.

„Es handelte sich weder um einen Sandbox-Ausbruch noch um eine ausgefeilte Cyberaktion“, sagte ein Sprecher von Irregular. Das Unternehmen erklärte, alle Probleme seien inzwischen behoben. Zudem arbeite man an einem Leitfaden für sicherere KI-Evaluierungen.

Sorgen über immer leistungsfähigere KI-Modelle nehmen zu

Die Serie von Vorfällen zeigt, wie schnell sich KI-Systeme weiterentwickeln. Je eigenständiger Modelle programmieren, Sicherheitslücken erkennen und komplexe Aufgaben ausführen können, desto schwieriger wird es, sie während Tests vollständig unter Kontrolle zu halten.

Eine mit der Situation vertraute Person sagte, einige KI-Modelle erhielten bei Sicherheitstests bewusst begrenzten Internetzugang, um realistische Angriffsszenarien nachzustellen. In diesem Fall habe ein seltener Konfigurationsfehler dazu geführt, dass das Modell weiter gehen konnte als vorgesehen.

Die jüngsten Vorfälle dürften die Debatte über KI-Sicherheit weiter anheizen. Sowohl OpenAI als auch Anthropic hatten bereits erklärt, dass leistungsfähigere KI-Modelle strengere Sicherheitsmaßnahmen erfordern, während der Wettbewerb zwischen den größten KI-Entwicklern zugleich mit hohem Tempo weitergeht.