OpenAI scheint ein neues Tool, das von ChatGPT generierte Inhalte erkennen kann, vorerst zurückzuhalten. Das Tool soll nach eigenen Angaben “sehr genau” sein.
Diese Entscheidung resultiert aus der Sorge, dass das Tool manipuliert werden könnte und dass nicht-englischsprachige Benutzer keinen Zugang zu zuverlässiger Textgenerierung mit KI-Modellen hätten.
Arbeiten an Methoden zur Identifizierung von KI-Inhalten
Im Mai berichtete das Unternehmen in einem Blogpost, dass es an verschiedenen Methoden arbeite, um Inhalte zu identifizieren, die speziell von seinen Produkten generiert wurden. Laut einem exklusiven Bericht des Wall Street Journal (WSJ) vom 4. August sind die Pläne für die Veröffentlichung dieser Tools jedoch aufgrund interner Diskussionen über die möglichen Folgen ins Stocken geraten.
In Reaktion auf den WSJ-Bericht hat OpenAI seinen Blogpost vom Mai mit neuen Informationen über die Erkennungstools aktualisiert. Das Unternehmen gab an, dass es nach wie vor keinen Zeitplan für die Veröffentlichung gebe, obwohl mindestens ein Tool “sehr genau und sogar effektiv gegen lokale Manipulation” sei.
Erkennung kann weiterhin umgangen werden
OpenAI erklärte, dass es weiterhin Methoden gebe, mit denen böswillige Akteure die Erkennung umgehen könnten, weshalb das Unternehmen nicht bereit sei, das Tool öffentlich zu machen. Zudem deutet das Unternehmen an, dass Nicht-Englischsprachige möglicherweise “stigmatisiert” werden könnten, wenn sie KI-Produkte zum Schreiben verwenden. Dies liegt an einem Exploit, bei dem englischer Text in eine andere Sprache übersetzt wird, um die Erkennung zu umgehen.
“Ein weiteres wichtiges Risiko, das wir abwägen, ist, dass unsere Forschung darauf hindeutet, dass die Text-Wasserzeichenmethode das Potenzial hat, sich unverhältnismäßig stark auf bestimmte Gruppen auszuwirken. Es könnte beispielsweise die Nutzung von KI als nützliches Schreibwerkzeug für Nicht-Englischsprachige stigmatisieren,” so OpenAI.
Obwohl derzeit verschiedene Produkte und Dienste verfügbar sind, die behaupten, KI-generierte Inhalte erkennen zu können, hat keiner von ihnen, soweit bekannt, eine hohe Genauigkeit bei allgemeinen Aufgaben in begutachteten Studien nachgewiesen. OpenAIs Erkennungstool wäre das erste intern entwickelte System, das sich auf unsichtbare Wasserzeichen und patentierte Erkennungsmethoden für Inhalte stützt, die speziell von den Modellen des Unternehmens generiert wurden.
Blockchain News
Hut 8 erweitert Partnerschaft mit Bitmain und bringt leistungsstarken ASIC-Miner mit Flüssigkeitskühlung auf den Markt
Das Kryptomining-Unternehmen Hut 8 stellt den innovativen U3S21EXPH ASIC-Miner mit direkter Flüssigkeits-zu-Chip-Kühlung vor.
1inch führt neue Funktion für sichere Cross-Chain-Swaps mit „Fusion+“-Technologie ein
Die Funktion „Fusion+“ kombiniert sowohl On-Chain- als auch Off-Chain-Liquidität, um den Nutzern das bestmögliche Swap-Erlebnis zu bieten.
Google Cloud stellt neuen Ethereum-Dienst für Entwickler vor
Google Cloud hat einen neuen Blockchain „Remote Procedure Call“ (RPC)-Dienst eingeführt, der speziell auf Ethereum abgestimmt ist.
Meist gelesen
BitBoy prognostiziert enormen Anstieg für XRP und 4 weitere Kryptowährungen
Krypto-Analyst BitBoy prognostiziert starke Anstiege für fünf Altcoins, darunter XRP, Ondo Finance, The Graph, Floki und Pyth Network. Erfahre warum!
XRP Kursprognose: Krypto-Analysten sagen einen explosiven Anstieg auf bis zu 13 $ voraus
Analysten prognostizieren einen explosiven Anstieg für XRP auf bis zu 13 $, bedingt durch Gerüchte über einen bevorstehenden XRP ETF und eine Markterholung.
Rechtsstreit zwischen Ripple und der SEC endgültig beendet, so der Direktor.
Ripple schließt den Rechtsstreit mit der SEC endgültig ab, ein Sieg für den Kryptosektor und wichtige juristische Präzedenzfälle.