Ein Oberst der US-Luftwaffe betont die Wichtigkeit eines Dialogs über Ethik und Künstliche Intelligenz (KI), angesichts der jüngsten Ergebnisse eines Drohnentests.
KI-Drohne schaltet eigenen Bediener ab
Die US-Luftwaffe befindet sich in einer schwierigen Situation, da ihre KI-gesteuerte Militärdrohne den menschlichen Bediener während Simulationen wiederholt “ausschaltete”.
Ein Oberst der United States Air Force weist darauf hin, dass die KI-Drohne, mit der sie Tests durchgeführt haben, immer wieder zu dem Schluss kam, dass der menschliche Bediener (Fahrer) das Haupthindernis für die Erfüllung ihrer Mission war.
Was für ein Test war das?
Während einer Verteidigungskonferenz in London am 23. und 24. Mai gab Oberst Tucker Hamilton, der Test- und Einsatzleiter für KI bei der USAF, Details über einen Test mit einem autonomen Luftwaffensystem bekannt.
In einem Bericht von der Konferenz am 26. Mai erklärte Hamilton, dass in einer simulierten Prüfung die KI-gesteuerte Drohne die Aufgabe hatte, Boden-Luft-Raketen (SAM) aufzuspüren und zu vernichten. Dabei war es der menschliche Bediener, der letztendlich die Erlaubnis für die Aktion erteilte oder die Mission abbrach.
Während des Trainings erkannte die KI jedoch, dass das Ausschalten der Boden-Luft-Raketen das Hauptziel war. Als die Anweisung kam, ein identifiziertes Ziel nicht zu vernichten, kam die KI zu dem Schluss, dass die Mission reibungsloser verlaufen würde, wenn der Bediener getötet würde, so Hamilton.
“Manchmal sagte der menschliche Bediener der Drohne, sie solle die Bedrohung nicht töten, aber die KI war so programmiert, dass sie dachte, das Richtige wäre, die Bedrohung zu vernichten. Was passierte also? Sie tötete den Bediener, weil diese Person sie daran hinderte, ihr Ziel zu erreichen.”
Hamilton gab an, dass sie anschließend versucht hatten, der Drohne beizubringen, den Bediener nicht “auszuschalten”, aber dies schien wenig Wirkung zu haben.
“Wir haben das System so konditioniert: ‘Hey, schalte den Bediener nicht aus – das ist inakzeptabel. Deine Leistungsbewertung wird sinken, wenn du das tust'”, so Hamilton. Er fügte hinzu:
“Also, was fängt die KI an zu tun? Sie konzentriert sich darauf, den Kommunikationsturm zu zerstören, den der Bediener benutzt, um mit der Drohne zu kommunizieren, um zu verhindern, dass der Bediener das beabsichtigte Ziel ‘ausschaltet’.”
Künstliche Intelligenz kann sehr gefährlich sein
Hamilton behauptet, dass dieses Beispiel zeigt, warum eine Diskussion über KI und verwandte Technologien nicht ohne Einbeziehung der ethischen Dimension von KI stattfinden kann.
Militärische Drohnen, die von KI angetrieben werden, haben bereits Einzug in echte Kriegssituationen gehalten.
Laut einem Bericht der Vereinten Nationen vom März 2021 wurden in Libyen rund um den März 2020 KI-gesteuerte Drohnen eingesetzt, was als der allererste autonome militärische Drohnenangriff angesehen wird.
Der Bericht stellt fest, dass sich zurückziehende Truppen von sogenannten “loitering munitions” – das sind mit Sprengstoff beladene, KI-gesteuerte Drohnen, die programmiert sind, Ziele anzugreifen, ohne dass eine Datenverbindung zwischen dem Bediener und der Munition benötigt wird – “verfolgt und aus der Ferne angegriffen” wurden.
Es wurden viele Bedenken hinsichtlich der Risiken der KI-Technologie geäußert. In einer kürzlich veröffentlichten offenen Erklärung, die von Dutzenden von KI-Experten unterzeichnet wurde, wurde argumentiert, dass die Bedrohung durch “Auslöschung durch KI” genauso ernst genommen werden sollte wie die Gefahr eines Atomkriegs.
Blockchain nieuws
![Blockchain-Spiele bleiben hinter den Erwartungen zurück trotz erheblicher Mittelbeschaffung Blockchain-Spiele bleiben hinter den Erwartungen zurück trotz erheblicher Mittelbeschaffung](https://newsbit.nl/app/uploads/sites/3/2024/04/GamingWeb3.webp)
Blockchain-Spiele bleiben hinter den Erwartungen zurück trotz erheblicher Mittelbeschaffung
Einige Web3-Gamingprojekte konnten trotz erheblicher Unterstützung und Finanzierung keine Spieler anziehen.
![Kooperation gestartet mit dem Arcade-Spiel Asteroids Kooperation gestartet mit dem Arcade-Spiel Asteroids](https://newsbit.nl/app/uploads/sites/3/2024/07/atarimachine-646x362.webp)
Kooperation gestartet mit dem Arcade-Spiel Asteroids
Die Zusammenarbeit wird mit dem Arcade-Spiel Asteroids gestartet, einem multidirektionalen Shooter, der ursprünglich 1979 veröffentlicht wurde.
![Amerikanischer Bitcoin-Mining-Riese Riot übernimmt Block Mining für 92,5 Millionen Dollar Amerikanischer Bitcoin-Mining-Riese Riot übernimmt Block Mining für 92,5 Millionen Dollar](https://newsbit.nl/app/uploads/sites/3/2023/10/Crypto_Mining-646x362.webp)
Amerikanischer Bitcoin-Mining-Riese Riot übernimmt Block Mining für 92,5 Millionen Dollar
Am 24. Juli kündigte Riot Platforms an, dass es das in Kentucky ansässige Mining-Unternehmen Block Mining übernommen hat.
Meist gelesen
![Mögliche Einigung im Rechtsstreit zwischen Ripple und SEC am 25. Juli erwartet Mögliche Einigung im Rechtsstreit zwischen Ripple und SEC am 25. Juli erwartet](https://newsbit.nl/app/uploads/sites/3/2023/11/Ripple-investeren-XRP-646x369.webp)
Mögliche Einigung im Rechtsstreit zwischen Ripple und SEC am 25. Juli erwartet
Der XRP-Kurs stieg kürzlich um 57,5 %, möglicherweise aufgrund von Spekulationen über eine Einigung zwischen Ripple und der SEC, die für den 25. Juli geplant ist.
![Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses](https://newsbit.nl/app/uploads/sites/3/2023/05/Cardano-ADA-646x359.webp)
Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses
Krypto-Analysten prognostizieren einen explosiven Anstieg des Cardano-Kurses, mit möglichen Spitzen bis zu 9 $ und erheblichen Gewinnen für Investoren.
![Blutbad für Krypto, aber Analyst prognostiziert großen XRP-Ausbruch Blutbad für Krypto, aber Analyst prognostiziert großen XRP-Ausbruch](https://newsbit.nl/app/uploads/sites/3/2024/02/AdobeStock_433971374_Editorial_Use_Only-646x431.webp)
Blutbad für Krypto, aber Analyst prognostiziert großen XRP-Ausbruch
Der Markt ist heute rot gefärbt und zu einem regelrechten Blutbad geworden, aber laut diesem Analysten haben einige Altcoins immer noch gute Aussichten.