OpenAI zielt darauf ab, die Zuverlässigkeit von ChatGPT zu erhöhen, indem KI-Halluzinationen reduziert und die mathematischen Fähigkeiten des Modells verbessert werden. Diese Bemühungen zielen auf die Förderung von Genauigkeit und kohärenten Gesprächen in der Welt der künstlichen Intelligenz ab, wobei OpenAI die Grenzen der KI verschieben und einen verfeinerten Ansatz für die digitale Interaktion finden will.
Bemühungen von OpenAI, KI-Halluzinationen zu reduzieren
Am 31. Mai gab OpenAI bekannt, dass es daran arbeitet, die mathematischen Problemlösungsfähigkeiten von ChatGPT zu verbessern. Ziel dieser Bemühungen ist die Reduzierung von Künstlicher Intelligenz (KI) Halluzinationen. OpenAI betonte, dass die Reduzierung von Halluzinationen ein entscheidender Schritt bei der Entwicklung von KI-Systemen ist, die besser auf die Realität abgestimmt sind.
Mit der Einführung von ChatGPT-4 im März hat sich die KI-Chatbot-Technologie weiter in den Mainstream-Bereich vorgewagt. Generative KI-Chatbots haben jedoch lange damit gekämpft, sachlich korrekte Informationen zu liefern und generieren gelegentlich falsche Informationen, auch bekannt als “Halluzinationen”. Die Bemühungen, diese KI-Halluzinationen zu reduzieren, wurden in einem Beitrag auf der OpenAI-Website angekündigt.
KI-Halluzinationen beziehen sich auf Situationen, in denen Künstliche Intelligenzsysteme sachlich ungenaue Ausgaben erzeugen, die irreführend sind oder nicht durch echte Welt-Daten unterstützt werden. Diese Halluzinationen können verschiedene Formen annehmen, wie das Bereitstellen von falschen Informationen, das Erfinden von nicht existierenden Ereignissen oder Personen oder das Geben von ungenauen Details zu bestimmten Themen.
Ergebnisse der Forschung zur Prozessbegleitung als effektive Feedbackmethode
OpenAI hat die Wirksamkeit von zwei Arten von Feedback untersucht: “Ergebnisbegleitung” und “Prozessbegleitung”. Bei der Ergebnisbegleitung wird Feedback auf Basis des Endergebnisses gegeben, während die Prozessbegleitung Feedback für jeden Schritt im Denkprozess liefert. OpenAI hat diese Modelle mit Hilfe von mathematischen Problemen evaluiert, bei denen mehrere Lösungen generiert und die bestplatzierte Lösung basierend auf jedem Feedbackmodell ausgewählt wurde.
Nach gründlicher Analyse stellte das Forschungsteam fest, dass die Prozessbegleitung bessere Ergebnisse erzielte, da das Modell dazu angehalten wurde, einem von Menschen genehmigten Prozess zu folgen. Die Ergebnisbegleitung hingegen erwies sich als schwieriger, um sie konsequent zu überwachen.
OpenAI erkannte an, dass die Implikationen der Prozessbegleitung über die Mathematik hinausgehen und dass weitere Forschung notwendig ist, um ihre Auswirkungen in anderen Bereichen zu verstehen. Sie argumentierten, dass, wenn die beobachteten Ergebnisse auch in breiteren Kontexten gelten, die Prozessbegleitung im Vergleich zur Ergebnisbegleitung eine günstige Kombination aus Leistung und Ausrichtung bieten könnte. Um die Forschung zu erleichtern, hat OpenAI den vollständigen Prozessbegleitung-Datensatz öffentlich gemacht und lädt andere Forscher ein, diesen Bereich weiter zu erforschen.
Jüngste Vorfälle enthüllen Risiken von Halluzinationen in KI-Systemen
Obwohl OpenAI keine spezifischen Beispiele angeführt hat, die zur Untersuchung von Halluzinationen geführt haben, gibt es zwei jüngste Vorfälle, die das Problem in realen Szenarien veranschaulichen.
In einem jüngsten Vorfall gab der Anwalt Steven Schwartz in der Rechtssache Mata vs. Avianca Airlines zu, dass er sich für seine Forschung auf den Chatbot verlassen hatte. Leider stellte sich heraus, dass die von ChatGPT bereitgestellten Informationen völlig gefälscht waren, was das Problem deutlich macht.
Der Vorfall mit ChatGPT ist nicht das einzige Beispiel für Künstliche Intelligenzsysteme, die mit Halluzinationen konfrontiert sind. Bei einer Demonstration seiner Chatbot-Technologie im März untersuchte Microsofts Bing AI-Chatbot Gewinnberichte und generierte falsche Zahlen für Unternehmen wie Gap und Lululemon. Diese Fälle unterstreichen die Herausforderungen, mit denen KI-Systeme konfrontiert sind, wenn sie zuverlässige und faktische Informationen produzieren sollen.
Blockchain nieuws
![Blockchain-Spiele bleiben hinter den Erwartungen zurück trotz erheblicher Mittelbeschaffung Blockchain-Spiele bleiben hinter den Erwartungen zurück trotz erheblicher Mittelbeschaffung](https://newsbit.nl/app/uploads/sites/3/2024/04/GamingWeb3.webp)
Blockchain-Spiele bleiben hinter den Erwartungen zurück trotz erheblicher Mittelbeschaffung
Einige Web3-Gamingprojekte konnten trotz erheblicher Unterstützung und Finanzierung keine Spieler anziehen.
![Kooperation gestartet mit dem Arcade-Spiel Asteroids Kooperation gestartet mit dem Arcade-Spiel Asteroids](https://newsbit.nl/app/uploads/sites/3/2024/07/atarimachine-646x362.webp)
Kooperation gestartet mit dem Arcade-Spiel Asteroids
Die Zusammenarbeit wird mit dem Arcade-Spiel Asteroids gestartet, einem multidirektionalen Shooter, der ursprünglich 1979 veröffentlicht wurde.
![Amerikanischer Bitcoin-Mining-Riese Riot übernimmt Block Mining für 92,5 Millionen Dollar Amerikanischer Bitcoin-Mining-Riese Riot übernimmt Block Mining für 92,5 Millionen Dollar](https://newsbit.nl/app/uploads/sites/3/2023/10/Crypto_Mining-646x362.webp)
Amerikanischer Bitcoin-Mining-Riese Riot übernimmt Block Mining für 92,5 Millionen Dollar
Am 24. Juli kündigte Riot Platforms an, dass es das in Kentucky ansässige Mining-Unternehmen Block Mining übernommen hat.
Meist gelesen
![Mögliche Einigung im Rechtsstreit zwischen Ripple und SEC am 25. Juli erwartet Mögliche Einigung im Rechtsstreit zwischen Ripple und SEC am 25. Juli erwartet](https://newsbit.nl/app/uploads/sites/3/2023/11/Ripple-investeren-XRP-646x369.webp)
Mögliche Einigung im Rechtsstreit zwischen Ripple und SEC am 25. Juli erwartet
Der XRP-Kurs stieg kürzlich um 57,5 %, möglicherweise aufgrund von Spekulationen über eine Einigung zwischen Ripple und der SEC, die für den 25. Juli geplant ist.
![Warum der XRP-Kurs bald stark steigen könnte Warum der XRP-Kurs bald stark steigen könnte](https://newsbit.nl/app/uploads/sites/3/2023/05/XRP-Ripple-gold-646x431.webp)
Warum der XRP-Kurs bald stark steigen könnte
2024 begann langsam für XRP, aber jüngste Entwicklungen wie eine Einigung mit der SEC, die Einführung der RLUSD-Stablecoin und Gerüchte über einen XRP Spot ETF bieten positive Aussichten.
![Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses](https://newsbit.nl/app/uploads/sites/3/2023/05/Cardano-ADA-646x359.webp)
Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses
Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses, mit möglichen Spitzen bis zu 9 $ und erheblichen Gewinnen für Investoren.