Sam Altman warnt vor negativen Folgen der KI

Die rasante Entwicklung künstlicher Intelligenz bringt nach Einschätzung von OpenAI-Chef Sam Altman zwangsläufig auch negative Folgen mit sich. Dennoch müsse die Gesellschaft bereit sein, einen Teil dieser Risiken hinzunehmen, da der Nutzen von KI aus seiner Sicht deutlich überwiegen könnte.

Im Politico-Podcast Decoded erklärt Altman, es sei unrealistisch, eine Welt ohne KI-gestützten Missbrauch, Betrug oder großangelegte Cyberangriffe vorauszusetzen. Eine klare Grenze zieht er allerdings bei Szenarien, in denen Menschen tatsächlich die Kontrolle über künstliche Intelligenz verlieren.

Sam Altman hält KI-Risiken für hinnehmbar

Altman äußerte sich in einem Gespräch darüber, wie KI-Unternehmen und Regierungen mit den Risiken der Technologie umgehen sollten.

Nach Ansicht des OpenAI-Chefs muss die Welt akzeptieren, dass KI auch Schaden anrichten wird. Dem stünden enorme gesellschaftliche Vorteile gegenüber.

Altman erklärte, er würde sich nicht für einen Ansatz entscheiden, der große Cyberangriffe, den Missbrauch der Technologie, Betrug und sämtliche anderen absehbaren Schäden vollständig ausschließen soll.

Seiner Einschätzung nach werden Menschen KI wesentlich häufiger für positive als für schädliche Zwecke einsetzen.

Der Nutzen durch den Einsatz von KI werde den verursachten Schaden um Größenordnungen übersteigen, erwartet der OpenAI-Chef.

Damit spricht sich Altman für eine vergleichsweise zurückhaltende Regulierung aus. Die Entwicklung und Nutzung von KI dürften aus seiner Sicht nicht so stark eingeschränkt werden, dass mögliche Vorteile der Technologie verloren gehen.

Diese Haltung spielt in der Debatte über die Zukunft von KI eine wichtige Rolle. Je leistungsfähiger die Modelle werden, desto größer wird auch die Sorge, dass sie für Cyberangriffe, Betrug und andere Formen des Missbrauchs eingesetzt werden könnten.

OpenAI-Chef zieht klare Grenze beim Kontrollverlust

Altman ist allerdings nicht bereit, jedes Risiko hinzunehmen. Im selben Interview stellte er klar, dass für ihn bei tatsächlich katastrophalen Szenarien eine Grenze erreicht sei.

Dazu zählt er einen gravierenden Verlust der Kontrolle über KI. In einem solchen Fall könnte sich ein KI-System so verhalten, dass Menschen nicht mehr wirksam eingreifen können.

Wo genau die Grenze zwischen hinnehmbaren Schäden und einem unvertretbaren Risiko liegt, blieb im Gespräch offen.

Diese Unterscheidung gewinnt an Bedeutung, weil KI-Systeme Aufgaben zunehmend eigenständig erledigen können. Die Debatte beschränkt sich deshalb nicht mehr darauf, welche Antworten ein Chatbot einem Nutzer gibt. Immer stärker rückt auch die Frage in den Mittelpunkt, welche Handlungen KI selbstständig ausführen darf.

OpenAI fordert klare Haftungsregeln

Trotz seines Plädoyers für eine vergleichsweise zurückhaltende Regulierung sollten KI-Unternehmen nach Altmans Ansicht nicht von der Verantwortung entbunden werden, wenn ihre Technologie Schäden verursacht.

Er fordert einen rechtlichen Rahmen, der eindeutig festlegt, wer bei Fehlentwicklungen die Verantwortung trägt.

Sollten beim Training der eigenen Modelle Fehler auftreten, müsse OpenAI dafür in geeigneter Form zur Verantwortung gezogen werden können, erklärte Altman.

Die politischen Entscheidungsträger in den USA müssten diese Fragen weiter diskutieren. Altman setzt damit auf einen Ansatz, der Raum für eine rasche technologische Entwicklung lässt, Unternehmen aber zugleich für ihre Fehler haftbar macht.

Je leistungsfähiger KI-Systeme werden, desto dringlicher wird die Debatte über dieses Verhältnis. Dabei zeichnet sich Altmans Haltung ab: Vollständige Sicherheit ist für ihn keine realistische Voraussetzung für die weitere Entwicklung. Manche Risiken sind jedoch zu groß, um sie hinzunehmen.