„Sora“ von OpenAI: Innovation oder Missbrauch?

OpenAI hat die Welt der Künstlichen Intelligenz mit der Enthüllung von Sora, einem Text-zu-Video-Modell, das erstaunlich realistische Bilder erstellen kann, in Erstaunen versetzt. Während viele von den Möglichkeiten fasziniert sind, warnen andere, dass Sora in den Händen von Krypto-Betrügern zu einer mächtigen Waffe werden könnte.

Laut der Ankündigung vom 15. Februar kann Sora Videos von bis zu 60 Sekunden Länge mit detaillierten Szenen, komplexer Kameraführung und mehreren Charakteren mit lebhaften Emotionen erstellen.

Eine Bedrohung für die Kryptowelt?

OpenAI betont, „verschiedene wichtige Sicherheitsmaßnahmen“ zu ergreifen, bevor Sora zugänglich gemacht wird. Sie arbeiten unter anderem mit „Red Teamern“, Experten für Desinformation, hasserfüllte Inhalte und Voreingenommenheit, die das Modell eingehend auf Missbrauchsmöglichkeiten testen.

Die gezeigten Videos, die aus textuellen Beschreibungen der gewünschten Szenen erstellt wurden, illustrieren, wie das Modell versteht, was der Benutzer möchte und wie diese Elemente in der physischen Welt existieren. Es versteht auch Sprache tiefgehend, was es ermöglicht, „überzeugende Charaktere mit lebhaften Emotionen“ zu erschaffen.

Jedoch warnt OpenAI: „Trotz umfangreicher Forschung und Tests können wir nicht alle nützlichen oder schädlichen Anwendungen unserer Technologie vorhersagen.“

Dennoch ist Missbrauch durch Kryptobetrüger wahrscheinlich. Deepfake-Videos können echte Menschen und Unternehmen imitieren, um betrügerische Kryptoprojekte zu bewerben.

Auch falsche Prominentenempfehlungen für Web3 und Krypto sind möglich. Die gezeigten Videos waren bereits so überzeugend, dass der Podcaster Lex Fridman zu seinen 3,3 Millionen Followern sagte: „Wow, das ist wirklich verblüffend!“

Darüber hinaus kann dieses auf KI basierte Text-zu-Video-System schnell enorme Mengen an Betrugsvideos mit geringen Kosten produzieren. Dies könnte für „Pump-and-Dump“-Betrügereien in sozialen Medien verwendet werden, die bereits jetzt kaum moderiert werden.

Bösartige Akteure könnten diese KI also missbrauchen, um kostengünstige, manipulative Inhalte zu erstellen, die viral gehen und Kryptobetrügereien in rasantem Tempo wachsen lassen, wenn wir nicht eingreifen.

Mehr KI-Neuigkeiten

Neben Sora war es eine geschäftige Woche im KI-Sektor. OpenAI hat ChatGPT auch ein „Gedächtnis“ gegeben, sodass es Aufforderungen erinnern und Benutzer ähnliche Anfragen nicht wiederholen müssen.

Google hat ein Upgrade seines KI-Modells Gemini angekündigt. Version 1.5 verfügt über ein innovatives Kontextfenster von 1 Million Token, wodurch das große Sprachmodell deutlich mehr Daten verarbeiten kann als seine Konkurrenten.

Meta hat V-JEPA veröffentlicht. Dieses neue Lernmodell ermöglicht es der KI zu verstehen und vorherzusagen, was in einem Video passiert, selbst mit begrenzten Informationen.

Slack hat auch neue generative KI-Funktionen in seine Arbeitsplattform integriert. Diese umfassen verbesserte Suchfunktionen, Kanalzusammenfassungen, Threadzusammenfassungen und mehr.