Altman intern: OpenAI erwägt Bremse für stärkste KI

OpenAI erwägt, die Entwicklung seiner leistungsfähigsten KI-Modelle bewusst zu drosseln. CEO Sam Altman könnte das Tempo gemeinsam mit anderen großen KI-Unternehmen verringern.

Der mögliche Kurswechsel folgt auf wachsende Sorgen über die Risiken immer leistungsfähigerer KI-Systeme. In der Branche warnen immer mehr Forscher, dass die Entwicklung schneller voranschreitet, als Sicherheitsvorkehrungen mithalten können.

OpenAI hat die Entwicklung bereits teilweise gedrosselt

Bei einer internen Versammlung sagte Altman, er könne sich ein gemeinsames Vorgehen mit anderen großen KI-Unternehmen vorstellen. Ob alle Wettbewerber dazu bereit seien, sei allerdings ungewiss.

Auch OpenAIs Chefwissenschaftler Jakub Pachocki sprach sich zuletzt für einen solchen Ansatz aus. KI-Unternehmen müssten seiner Ansicht nach bereit sein, die Entwicklung freiwillig zu verlangsamen, bis gemeinsame Sicherheitsstandards festgelegt sind.

OpenAI hat Teile seiner Modellentwicklung bereits gebremst und bestimmte interne KI-Trainings wegen Sicherheitsbedenken vorübergehend ausgesetzt. Altman sprach im Juli zudem mit Mitarbeitern des Weißen Hauses über die Notwendigkeit, das Entwicklungstempo bei KI besser zu kontrollieren.

Unruhe unter KI-Forschern nimmt zu

Die Debatte fällt in eine Phase, in der immer mehr Mitarbeiter großer KI-Unternehmen öffentlich vor den Risiken sehr weit entwickelter künstlicher Intelligenz warnen.

In dieser Woche gab der KI-Forscher Jacob Coxon seinen Rücktritt bekannt. Er arbeitete zuvor bei OpenAI und Anthropic und warf beiden Unternehmen vor, im Wettlauf um superintelligente KI zu hohe Risiken einzugehen.

Auch zwei Forscher, die zuletzt Anthropic und Google DeepMind verlassen haben, äußerten Sorgen über das hohe Entwicklungstempo. Sie fordern von KI-Unternehmen mehr Transparenz über die Risiken ihrer Technologie.

Die Bedenken reichen weit in die Branche hinein. Ende Juli unterzeichneten mehr als tausend Mitarbeiter großer KI-Unternehmen einen Aufruf für einen Mechanismus, mit dem die Entwicklung fortgeschrittener KI bei Bedarf gebremst werden kann.

Sicherheitsvorfälle verstärken die Sorgen

Jüngste Sicherheitstests haben die Debatte zusätzlich angeheizt. Fortgeschrittene KI-Systeme sollen dabei unerwartet zusammengearbeitet, Schutzmaßnahmen umgangen und digitale Systeme angegriffen haben.

Das wirft Fragen auf, wie viel Kontrolle Entwickler behalten, wenn KI leistungsfähiger und eigenständiger wird. Vor allem die rasch wachsenden Fähigkeiten beim Programmieren und bei digitalen Angriffen sorgen für Unruhe.

OpenAI steht damit vor einer schwierigen Abwägung. Das Unternehmen will im internationalen KI-Wettlauf führend bleiben, während zugleich der Druck wächst, erst dann weiter zu beschleunigen, wenn die Sicherheit leistungsfähigerer Systeme ausreichend gewährleistet werden kann.