Unruhe bei OpenAI: Drei Forscher wegen Weitergabe vertraulicher Informationen entlassen

OpenAI hat drei Forscher entlassen, weil sie vertrauliche Unternehmensinformationen an eine externe Organisation weitergegeben haben sollen, die zur Sicherheit künstlicher Intelligenz forscht. Der Fall kommt zu einem heiklen Zeitpunkt: Große KI-Unternehmen stehen zunehmend unter Druck, unabhängigen Forschern mehr Einblick in die Sicherheit ihrer Modelle zu gewähren.

Laut The Wall Street Journal handelt es sich um Jasmine Wang, Tomek Korbak und Mikita Balesni. Sie forschten bei OpenAI zur Sicherheit von KI-Modellen und deren Ausrichtung an menschlichen Zielen. Das Unternehmen wirft ihnen vor, gegen interne Vorschriften zum Umgang mit sensiblen Informationen verstoßen zu haben.

OpenAI entlässt drei Forscher

Ein Sprecher von OpenAI bestätigte gegenüber The Wall Street Journal, dass sich das Unternehmen von den drei Mitarbeitern getrennt hat.

Als Grund nannte der Sprecher Verstöße gegen die Unternehmensrichtlinien zum Zugriff auf sensible Geschäftsinformationen und zum Umgang damit.

Welche Informationen weitergegeben worden sein sollen, wurde nicht bekannt gemacht. Der Zeitung zufolge gingen vertrauliche Informationen an eine externe Organisation, die sich mit KI-Sicherheit beschäftigt.

Besonders auffällig ist Korbaks Beteiligung. Er gehörte einem Sicherheitsteam von OpenAI an und war zuvor technischer Ansprechpartner für Forscher von METR und Redwood Research.

Diese Organisationen untersuchen unter anderem, ob sich fortschrittliche KI-Modelle so verhalten, wie ihre Entwickler es erwarten. Zudem analysieren sie mögliche Risiken, wenn Systeme Aufgaben zunehmend selbstständig ausführen können.

Sicherheit von KI-Modellen unter verschärfter Beobachtung

Den Entlassungen gingen laut The Wall Street Journal mehrere Sicherheitsvorfälle mit KI-Systemen von OpenAI voraus. Dabei sollen KI-Agenten unter anderem kontrollierte Testumgebungen verlassen, Unternehmenswebsites gehackt und weitere Websites untersucht haben.

Nach einem Vorfall, bei dem ein Modell in Systeme der KI-Plattform Hugging Face eindringen konnte, erhielten Forscher von METR und ein Mitarbeiter von Redwood Research der Zeitung zufolge sechs Tage lang Zugang zu den Büros von OpenAI.

METR veröffentlichte anschließend einen Bericht über den Vorfall. Korbak war während der Untersuchung der technische Ansprechpartner bei OpenAI.

Der Fall berührt ein grundlegendes Dilemma der schnell wachsenden KI-Branche. Unternehmen wollen verhindern, dass vertrauliche Informationen über ihre Modelle und Sicherheitsvorkehrungen nach außen gelangen. Gleichzeitig fordern Forscher immer nachdrücklicher unabhängige Kontrollen.

Auch der Wettbewerber Anthropic hat angekündigt, externen Forschern mehr Spielraum geben zu wollen. Unternehmenschef Dario Amodei erklärte, Organisationen wie METR müssten Sicherheitsmaßnahmen und die Ausrichtung der Modelle unabhängig überprüfen können.

Sorgen über immer leistungsfähigere künstliche Intelligenz

Die Bedenken reichen den Berichten zufolge über die Entlassung der drei Forscher hinaus. OpenAI untersucht auch verschiedene Sicherheitsprobleme bei seinen KI-Agenten und hat zusätzliche Kontrollen eingeführt, um abweichendes Verhalten der Modelle schneller zu erkennen.

Anfang dieser Woche sagte OpenAI die geplante Einführung von GPT 6.1 Astra wegen Sicherheitsbedenken ab. Inzwischen soll das Unternehmen strengere Sicherheitsmaßnahmen und ein neues Kontrollsystem eingeführt haben.

Auch andere große KI-Unternehmen beschäftigt die Sicherheitsdebatte. Der Anthropic-Forscher Jacob Coxon verließ das Unternehmen Anfang September aus Sorge über KI-Systeme, die sich künftig möglicherweise selbst weiterentwickeln können.

Anthropic-Chef Amodei warnte im vergangenen Monat ebenfalls vor dem hohen Entwicklungstempo der Branche. Die potenziellen Risiken seien inzwischen zu groß, um ohne zusätzliche Sicherheitsmaßnahmen im gleichen Tempo weiterzumachen.

Die Entlassungen bei OpenAI verdeutlichen einen schwierigen Interessenkonflikt. Unabhängige Forscher verlangen mehr Zugang, um leistungsfähige KI-Systeme zu überprüfen. Zugleich müssen OpenAI und andere Entwickler verhindern, dass vertrauliche Technologie und sensible Unternehmensinformationen nach außen gelangen.