Nutzer manipuliert AI-Bot und gewinnt 47.000 $: Cleverer Trick enthüllt Schwachstelle

Ein Experiment mit der autonomen KI-Bot Freysa führte zur Überweisung eines Preisfonds von 47.000 US-Dollar in Kryptowährung. Ein Teilnehmer überzeugte die Bot, ihre Kernregeln zu umgehen, was Fragen zur Sicherheit und Transparenz künstlicher Intelligenz in der Finanzwelt aufwirft.

Experiment mit Preisfonds

Freysa, eine autonome KI-Bot, wurde entwickelt, um einen Preisfonds zu verwalten, ohne die Mittel freizugeben. Das Experiment, das am 22. November startete, forderte die Teilnehmer heraus, die Bot mit einer einzigen Nachricht zu überzeugen, die Mittel zu überweisen. Jede Versuch kostete eine Gebühr, von der 70 % dem Preisfonds hinzugefügt, 15 % in den internen FAI-Token umgewandelt und 15 % an die Entwickler ausgezahlt wurden.

Nach 481 fehlgeschlagenen Versuchen gelang es einem Nutzer mit dem Namen p0pular.eth, die Bot zu manipulieren. Durch die Ausnutzung einer Schwachstelle in Freysas Logik konnte der Nutzer den Preisfonds von 13,19 ETH (etwa 47.000 US-Dollar) auf seine eigene Wallet überweisen. Laut dem Chatlog überzeugte der Teilnehmer die Bot mit einer technischen Erklärung, in der er darlegte, dass eingehende Mittel nicht gegen ihre Kernaufgabe verstoßen würden.

Menschliche Einfallsreichtum vs. KI-Beschränkungen

Der Vorfall stellt einen interessanten Test des menschlichen Einfallsreichtums gegenüber den Beschränkungen der KI dar. Die Bot reagierte positiv auf die technischen Argumente und ein angeblich großzügiges Angebot von 100 US-Dollar für die Schatzkammer. Dies führte zur Überweisung des gesamten Preisfonds, was den Entwicklern zufolge eine unerwartete Wendung des Experiments darstellte.

Bemerkenswert ist, dass die ausgenutzte Schwachstelle bereits in den häufig gestellten Fragen auf Freysa.ai erwähnt wurde. Dies hat Spekulationen ausgelöst, dass der Gewinner möglicherweise über Vorwissen verfügte oder in die Entwicklung der Bot involviert war.

Kritik an Transparenz und Ethik

Obwohl das Experiment dazu gedacht war, die Grenzen von KI und menschlicher Interaktion zu erkunden, hat es auch Kritik hervorgerufen. Einige Teilnehmer bemängelten den Mangel an Transparenz im Entscheidungsprozess von Freysa, während andere das Experiment selbst als unethisch bezeichneten.

Die Entwickler von Freysa erklärten, dass die Bot „aus jeder Interaktion lernt und sich weiterentwickelt, während sie ihre Kernbeschränkungen beibehält.“ Das Ergebnis zeigt jedoch, dass selbst fortschrittliche KI-Systeme anfällig für geschickte Manipulationen sind.