OpenAI stellt Veröffentlichung neuer Erkennungstool für KI-generierte Inhalte zurück

OpenAI scheint ein neues Tool, das von ChatGPT generierte Inhalte erkennen kann, vorerst zurückzuhalten. Das Tool soll nach eigenen Angaben „sehr genau“ sein.

Diese Entscheidung resultiert aus der Sorge, dass das Tool manipuliert werden könnte und dass nicht-englischsprachige Benutzer keinen Zugang zu zuverlässiger Textgenerierung mit KI-Modellen hätten.

Arbeiten an Methoden zur Identifizierung von KI-Inhalten

Im Mai berichtete das Unternehmen in einem Blogpost, dass es an verschiedenen Methoden arbeite, um Inhalte zu identifizieren, die speziell von seinen Produkten generiert wurden. Laut einem exklusiven Bericht des Wall Street Journal (WSJ) vom 4. August sind die Pläne für die Veröffentlichung dieser Tools jedoch aufgrund interner Diskussionen über die möglichen Folgen ins Stocken geraten.

In Reaktion auf den WSJ-Bericht hat OpenAI seinen Blogpost vom Mai mit neuen Informationen über die Erkennungstools aktualisiert. Das Unternehmen gab an, dass es nach wie vor keinen Zeitplan für die Veröffentlichung gebe, obwohl mindestens ein Tool „sehr genau und sogar effektiv gegen lokale Manipulation“ sei.

Erkennung kann weiterhin umgangen werden

OpenAI erklärte, dass es weiterhin Methoden gebe, mit denen böswillige Akteure die Erkennung umgehen könnten, weshalb das Unternehmen nicht bereit sei, das Tool öffentlich zu machen. Zudem deutet das Unternehmen an, dass Nicht-Englischsprachige möglicherweise „stigmatisiert“ werden könnten, wenn sie KI-Produkte zum Schreiben verwenden. Dies liegt an einem Exploit, bei dem englischer Text in eine andere Sprache übersetzt wird, um die Erkennung zu umgehen.

„Ein weiteres wichtiges Risiko, das wir abwägen, ist, dass unsere Forschung darauf hindeutet, dass die Text-Wasserzeichenmethode das Potenzial hat, sich unverhältnismäßig stark auf bestimmte Gruppen auszuwirken. Es könnte beispielsweise die Nutzung von KI als nützliches Schreibwerkzeug für Nicht-Englischsprachige stigmatisieren,“ so OpenAI.

Obwohl derzeit verschiedene Produkte und Dienste verfügbar sind, die behaupten, KI-generierte Inhalte erkennen zu können, hat keiner von ihnen, soweit bekannt, eine hohe Genauigkeit bei allgemeinen Aufgaben in begutachteten Studien nachgewiesen. OpenAIs Erkennungstool wäre das erste intern entwickelte System, das sich auf unsichtbare Wasserzeichen und patentierte Erkennungsmethoden für Inhalte stützt, die speziell von den Modellen des Unternehmens generiert wurden.