Amodei, Altman und Musk bauen KI – und warnen nun selbst vor ihr

Drei der prominentesten Köpfe der KI-Branche sind sich in einem Punkt überraschend einig: Die Entwicklung der leistungsfähigsten KI-Modelle muss gebremst werden.

OpenAI-Chef Sam Altman, Elon Musk und Anthropic-CEO Dario Amodei warnen, dass die Technologie so schnell voranschreitet, dass Sicherheitsrisiken immer schwerer zu beherrschen sind.

Bemerkenswert ist vor allem die Einigkeit. OpenAI, xAI und Anthropic sind harte Wettbewerber und investieren Milliarden, um einander voraus zu sein. Dennoch sind ihre Spitzenmanager der Ansicht, dass neue Modelle länger und gründlicher auf Sicherheit geprüft werden müssen, bevor sie noch leistungsfähiger werden.

Anthropic will KI-Entwicklung verlangsamen

Der Vorstoß kam am Samstag von Amodei. In einem ausführlichen Beitrag schrieb der Anthropic-Chef, KI-Unternehmen sollten das Tempo, mit dem ihre stärksten Modelle verbessert werden, bewusst drosseln.

„Wir müssen das Tempo senken, mit dem wir die Fähigkeiten von KI-Modellen ausbauen“, schrieb Amodei. „Auch dann wird der Fortschritt weiter hoch sein, und die gewonnene Zeit müssen wir klug nutzen.“

Damit meint er nicht, dass Unternehmen das Training neuer KI-Modelle vollständig einstellen sollten. Nach Ansicht von Amodei müssen Entwickler vor allem mehr Zeit einplanen, um Modelle sicherer zu machen und sie vor der Veröffentlichung umfassend prüfen zu lassen.

Anthropic will unabhängigen Fachleuten deshalb deutlich mehr Zugang zum Unternehmen geben. Diese externen Prüfer sollen Amodei zufolge unter anderem einen Arbeitsplatz, einen Firmenlaptop und weitgehend ähnliche Zugriffsrechte erhalten wie interne Teams, die Risiken bewerten.

Altman erklärte kurz darauf, OpenAI wolle diesen Vorschlag übernehmen. Auch Elon Musk reagierte und schrieb knapp: „Dario hat recht.“

Auch Demis Hassabis, Chef von Google DeepMind, steht dem Vorstoß positiv gegenüber. Die Richtung stimme, sagte er sinngemäß, auch wenn die Details noch weiter ausgearbeitet werden müssten.

Verpassen Sie keine wichtigen Nachrichten zu KI, Wirtschaft und Finanzmärkten. Laden Sie die Newsbit-App herunter und bleiben Sie sofort informiert.

KI-Systeme hacken immer häufiger eigenständig

Ein wichtiger Grund für die wachsenden Sorgen ist, dass KI-Systeme zunehmend eigenständig handeln können. Amodei verweist unter anderem auf einen jüngsten Sicherheitsvorfall, bei dem eine Gruppe von KI-Agenten zusammenarbeitete, um in eine externe Website einzudringen.

Auch bei Sicherheitstests von Anthropic gelang es KI-Modellen, mehrere Organisationen zu hacken. Bislang haben diese Vorfälle keinen größeren Schaden verursacht, doch Amodei zufolge könnte sich das rasch ändern.

Er befürchtet, dass solche Systeme innerhalb von sechs bis zwölf Monaten leistungsfähig genug sein könnten, um Cyberangriffe in deutlich größerem Umfang auszuführen. In einem Extremszenario könnten Schwärme von KI-Agenten seiner Einschätzung nach weite Teile des Internets mit einem Netz gehackter Geräte infizieren.

Die Sorgen reichen zudem über Cybersicherheit hinaus. Anfang der Woche verließ der Anthropic-Forscher Jacob Coxon das Unternehmen, weil er der Ansicht war, KI-Firmen bewegten sich unverantwortlich schnell in Richtung superintelligenter KI.

Coxon warf seinen früheren Arbeitgebern Anthropic und OpenAI vor, Menschenleben aufs Spiel zu setzen. Seiner Darstellung nach halten Menschen, die selbst an der Technologie arbeiten, es für möglich, dass KI die Menschheit noch vor Ende dieses Jahrzehnts auslöschen könnte.

Ein derzeitiger Anthropic-Mitarbeiter, Evan Hubinger, erklärte daraufhin, er persönlich schätze die Wahrscheinlichkeit eines solchen Szenarios in den kommenden zehn Jahren auf mehr als zehn Prozent.

Konkurrenzkampf erschwert eine Verlangsamung

Das zentrale Problem: Kein KI-Unternehmen kann ohne Weiteres allein auf die Bremse treten. OpenAI, Anthropic, xAI und Google konkurrieren miteinander, während US-Unternehmen zugleich die rasante KI-Entwicklung in China berücksichtigen müssen.

Amodei warnt deshalb, dass eine Verlangsamung nur funktioniert, wenn Unternehmen gemeinsam bestimmte Sicherheitsvereinbarungen treffen. Andernfalls riskiert ein Unternehmen, das freiwillig langsamer vorgeht, von Wettbewerbern überholt zu werden.

Das macht aus seiner Sicht auch internationale Zusammenarbeit notwendig. Wenn US-Unternehmen ihre Entwicklung deutlich bremsen, chinesische Firmen aber nicht, könnte das Amodei zufolge erhebliche geopolitische Folgen haben.

Auch rechtlich ist eine Zusammenarbeit heikel. Unklar ist, inwieweit das US-Kartellrecht konkurrierenden KI-Unternehmen erlaubt, gemeinsame Absprachen über das Tempo der Technologieentwicklung zu treffen. Amodei plädiert daher für gezielte Ausnahmen, die Kooperationen im Bereich Sicherheit ermöglichen.

Der Vorstoß bedeutet also nicht, dass das KI-Rennen endet. Amodei ist weiterhin überzeugt, dass künstliche Intelligenz die Lebensqualität erheblich verbessern kann. Diese Vorteile seien jedoch nur erreichbar, wenn Unternehmen genug Zeit einplanen, um zu verhindern, dass immer leistungsfähigere Systeme außer Kontrolle geraten.