Zuckerberg im großen KI-Streit: „Bremsen ist nicht nötig“

Die Debatte über KI-Sicherheit spaltet die prominentesten Köpfe des Silicon Valley.

Meta-Chef Mark Zuckerberg hat sich gegen die Vorstellung ausgesprochen, die Entwicklung künstlicher Intelligenz müsse bewusst gebremst werden. Damit steht er offenbar näher bei Nvidia-Chef Jensen Huang als bei Anthropic-CEO Dario Amodei und OpenAI-Chef Sam Altman.

Im Kern geht es um die Frage, ob KI-Unternehmen vorübergehend das Tempo drosseln sollten, weil die Technologie zu schnell leistungsfähiger wird. Oder ob sie gerade weitermachen müssen, weil Sicherheit von selbst zu einem entscheidenden Wettbewerbsvorteil wird.

Zuckerberg stellt sich auf die Seite des zweiten Lagers.

Sicherheit als Wettbewerbsvorteil

Nach Zuckerbergs Ansicht müssen KI-Unternehmen nicht zwangsläufig vom Staat ausgebremst werden, um Sicherheit ernst zu nehmen.

Seine Logik: Unternehmen tragen selbst erhebliche finanzielle und rechtliche Risiken, wenn ihre Modelle Schaden anrichten. Deshalb hätten sie bereits einen starken Anreiz, ihre KI-Systeme sicher und verlässlich zu machen.

Vertrauen und Alignment, also die Ausrichtung von KI an menschlichen Werten, werden aus seiner Sicht immer wichtigere Merkmale, über die sich Modelle voneinander unterscheiden.

Sein Standpunkt lautet damit: Die beste KI ist nicht nur die intelligenteste. Entscheidend ist auch, ob Menschen, Unternehmen und Regierungen sie tatsächlich einsetzen wollen.

Huang fordert Verantwortung statt neuer Regeln

Jensen Huang von Nvidia argumentiert ähnlich. Entwickler von KI-Modellen müssten Verantwortung für ihre Produkte übernehmen, so wie andere Unternehmen auch. Zusätzliche Gesetze, die die KI-Entwicklung gezielt bremsen, hält er für unnötig.

Das überrascht nicht. Nvidia ist der große Gewinner des KI-Booms. Je schneller KI-Modelle wachsen, desto größer wird die Nachfrage nach Chips, Rechenzentren und Rechenleistung. Für Nvidia wäre eine Verlangsamung der KI-Entwicklung daher ein unmittelbares Risiko für die Wachstumsthese.

Amodei und Altman warnen vor zu hohem Tempo

Auf der anderen Seite stehen Dario Amodei von Anthropic und Sam Altman von OpenAI. Amodei rief am Wochenende dazu auf, das Tempo bei den leistungsfähigsten KI-Modellen zu senken. Altman unterstützte diesen Ansatz teilweise und betonte, Sicherheit und Überwachung müssten Vorrang vor neuen Funktionen haben.

Ihre Sorge ist, dass kommerzieller Druck Unternehmen zu überhastetem Handeln zwingt. Niemand will zurückfallen. Gerade dadurch könnte die Branche aus ihrer Sicht Risiken eingehen, die sich später nur schwer korrigieren lassen.