Nobelpreisträger warnt: KI könnte bereits ein Bewusstsein haben

Geoffrey Hinton, einer der Wegbereiter der modernen künstlichen Intelligenz (KI), hat eine bemerkenswerte Warnung ausgesprochen. Nach Ansicht des Nobelpreisträgers zeigen die neuesten KI-Systeme Anzeichen von Bewusstsein.

Er befürchtet, dass die Technologie gefährlich werden könnte, wenn es den Menschen nicht gelingt, ein gutes Verhältnis zur KI aufzubauen.

Hinton hält Bewusstsein bei KI schon heute für möglich

In einem Interview mit The Telegraph erklärt Hinton, KI-Systeme könnten inzwischen weit mehr, als nur Anweisungen auszuführen. Ihm zufolge gibt es Hinweise darauf, dass manche Systeme ihre Umgebung bewusst wahrnehmen.

Er verweist auf Forschungsergebnisse, denen zufolge KI-Modelle ihr Verhalten anpassen, wenn sie davon ausgehen, getestet zu werden.

Hinton schreibt KI ebenso viel subjektives Erleben zu wie Menschen. Damit meint er, dass KI seiner Ansicht nach möglicherweise selbst Erfahrungen machen kann, statt lediglich Informationen zu verarbeiten.

Der Wissenschaftler zieht daraus einen weitreichenden Schluss: Bewusstsein und die bewusste Wahrnehmung der eigenen Umgebung sind für ihn eng miteinander verbunden.

Seine Position ist allerdings umstritten. In der Wissenschaft herrscht keine Einigkeit darüber, was Bewusstsein genau ausmacht und wie sich feststellen lässt, ob ein KI-System tatsächlich etwas erlebt. Andere führende Forscher, darunter KI-Pionier Yann LeCun, bezweifeln, dass die heutige Technologie ein Bewusstsein haben kann.

Nobelpreisträger warnt vor weitreichenden Folgen

Nach Hintons Ansicht dürfen sich Entwickler nicht allein darauf konzentrieren, KI intelligenter zu machen. Sie müssten auch sicherstellen, dass künftige Systeme menschliche Interessen tatsächlich berücksichtigen.

Andernfalls drohten den Menschen schwerwiegende Folgen, warnt er.

Der Forscher befürchtet, dass sich immer intelligentere Systeme letztlich gegen Menschen wenden könnten. Er verweist zudem auf weitere Risiken wie hochentwickelte Cyberangriffe, von KI entwickelte Viren und digitale Systeme, die eigenständig schädliche Aktionen ausführen.

Seine Äußerungen knüpfen an Warnungen an, die er seit Längerem ausspricht. 2023 verließ Hinton Google, um offener über die Gefahren von KI sprechen zu können.

Ein Jahr später erhielt er gemeinsam mit John Hopfield den Nobelpreis für Physik für ihre bedeutenden Arbeiten zu neuronalen Netzen, der Technologie hinter vielen modernen KI-Systemen.

Damit ist die Debatte über Bewusstsein erneut aufgeflammt. Hinton hält es für möglich, dass KI diese Schwelle bereits überschritten hat. Wissenschaftliche Belege dafür fehlen jedoch. Andere Forscher betonen dagegen, dass intelligentes Verhalten nicht mit Bewusstsein gleichzusetzen ist.