Anthropic-Chef: „AI hat ein Gaspedal, aber keine Bremse“

Die Entwicklung der künstlichen Intelligenz schreitet so schnell voran, dass die Kontrolle verloren zu gehen droht. Davor warnt Jack Clark, Mitbegründer des KI-Unternehmens Anthropic. Seiner Meinung nach fehlt der KI-Industrie momentan ein entscheidendes Element: eine Bremse.

Clark meint, dass Regierungen eingreifen können müssen, wenn die Technologie schneller wächst, als die Gesellschaft mithalten kann. Seine Warnung kommt zu einem Zeitpunkt, an dem KI-Systeme immer eigenständiger werden und zunehmend ihre eigene Entwicklung unterstützen.

Anthropic beobachtet zunehmende Unabhängigkeit von KI

In einem Interview mit der BBC vergleicht Clark die aktuelle Situation mit einem Auto, das nur beschleunigen kann.

„Man möchte die Möglichkeit haben, den Fuß vom Gas zu nehmen und auf die Bremse zu treten“, sagt er. „Im Moment wirkt es, als hätte die KI-Branche ein Gaspedal, aber kein Bremspedal.“

Clark zufolge wird der Chatbot Claude von Anthropic mittlerweile größtenteils mit Code entwickelt, der von Claude selbst geschrieben wurde. Schätzungsweise bestehen etwa achtzig Prozent des Codes aus Arbeiten des KI-Systems selbst.

Setzt sich diese Entwicklung fort, könnte Claude innerhalb von zwei Jahren vollständig generierten Code von KI nutzen. Das bedeutet theoretisch, dass künstliche Intelligenz sich ohne direkte menschliche Eingriffe weiter verbessern kann.

Clark bezeichnet dies als eine Entwicklung mit potenziell weitreichenden Folgen für Wirtschaft, Arbeitsmarkt und Gesellschaft.

Aufruf zu neuer KI-Gesetzgebung

Der Mitbegründer von Anthropic ist der Ansicht, dass Regierungen jetzt schon über neue Regeln für KI nachdenken sollten.

„Die Welt muss darüber nachdenken und schließlich neue Vorschriften entwickeln, die sicherstellen, dass wir Vertrauen in diese Systeme haben können“, so Clark.

Er zieht einen Vergleich mit dem Aufstieg der Ölindustrie zu Beginn des zwanzigsten Jahrhunderts. Auch damals entstanden neue Risiken und die Regierung musste Vorschriften erlassen, um die Vorteile der Technologie zu nutzen, ohne die Gesellschaft unkontrollierbaren Gefahren auszusetzen.

Auffällig ist, dass Anthropic diese Woche noch für einen relativ lockeren Ansatz zur KI-Regulierung in den Vereinigten Staaten plädierte. Eine kürzlich von Präsident Donald Trump erlassene KI-Verordnung verpflichtet Unternehmen zum Beispiel nicht dazu, ihre Modelle vorab von der Regierung auf Sicherheit testen zu lassen.

Unterdessen setzen große Akteure wie Anthropic, OpenAI und Google ihre Forschung unvermindert fort.

Kreativität bleibt laut Clark menschlicher Vorteil

Neben Bedenken zur Sicherheit und Kontrolle warnt Clark auch vor den Auswirkungen von KI auf Arbeitsplätze. Vor allem sogenannte KI-Agenten, Systeme die eigenständig Aufgaben ausführen, könnten seiner Meinung nach in Zukunft Arbeiten übernehmen, die derzeit noch von Menschen erledigt werden.

Große Technologieunternehmen haben in letzter Zeit bereits Tausende von Mitarbeitern entlassen, wobei der zunehmende Einsatz von KI häufig als Faktor genannt wurde.

Dennoch sieht Clark auch einen wesentlichen Vorteil für Menschen. Seiner Meinung nach gibt es immer noch wenig Beweise dafür, dass KI wirklich kreativ sein kann.

„Bei Anthropic sind wir derzeit mehr durch den Mangel an guten Ideen eingeschränkt als durch unsere technischen Möglichkeiten, diese Ideen umzusetzen“, sagt er.

Daher rät er jungen Menschen, sich breit interessiert zu zeigen, viel zu lesen und ihre Neugier zu entwickeln. Gerade Kreativität und die Fähigkeit, neue Ideen zu entwickeln, seien seiner Meinung nach Eigenschaften, mit denen sich Menschen auch in einer von KI geprägten Wirtschaft abheben können.