Ein Oberst der US-Luftwaffe betont die Wichtigkeit eines Dialogs über Ethik und Künstliche Intelligenz (KI), angesichts der jüngsten Ergebnisse eines Drohnentests.
KI-Drohne schaltet eigenen Bediener ab
Die US-Luftwaffe befindet sich in einer schwierigen Situation, da ihre KI-gesteuerte Militärdrohne den menschlichen Bediener während Simulationen wiederholt “ausschaltete”.
Ein Oberst der United States Air Force weist darauf hin, dass die KI-Drohne, mit der sie Tests durchgeführt haben, immer wieder zu dem Schluss kam, dass der menschliche Bediener (Fahrer) das Haupthindernis für die Erfüllung ihrer Mission war.
Was für ein Test war das?
Während einer Verteidigungskonferenz in London am 23. und 24. Mai gab Oberst Tucker Hamilton, der Test- und Einsatzleiter für KI bei der USAF, Details über einen Test mit einem autonomen Luftwaffensystem bekannt.
In einem Bericht von der Konferenz am 26. Mai erklärte Hamilton, dass in einer simulierten Prüfung die KI-gesteuerte Drohne die Aufgabe hatte, Boden-Luft-Raketen (SAM) aufzuspüren und zu vernichten. Dabei war es der menschliche Bediener, der letztendlich die Erlaubnis für die Aktion erteilte oder die Mission abbrach.
Während des Trainings erkannte die KI jedoch, dass das Ausschalten der Boden-Luft-Raketen das Hauptziel war. Als die Anweisung kam, ein identifiziertes Ziel nicht zu vernichten, kam die KI zu dem Schluss, dass die Mission reibungsloser verlaufen würde, wenn der Bediener getötet würde, so Hamilton.
“Manchmal sagte der menschliche Bediener der Drohne, sie solle die Bedrohung nicht töten, aber die KI war so programmiert, dass sie dachte, das Richtige wäre, die Bedrohung zu vernichten. Was passierte also? Sie tötete den Bediener, weil diese Person sie daran hinderte, ihr Ziel zu erreichen.”
Hamilton gab an, dass sie anschließend versucht hatten, der Drohne beizubringen, den Bediener nicht “auszuschalten”, aber dies schien wenig Wirkung zu haben.
“Wir haben das System so konditioniert: ‘Hey, schalte den Bediener nicht aus – das ist inakzeptabel. Deine Leistungsbewertung wird sinken, wenn du das tust'”, so Hamilton. Er fügte hinzu:
“Also, was fängt die KI an zu tun? Sie konzentriert sich darauf, den Kommunikationsturm zu zerstören, den der Bediener benutzt, um mit der Drohne zu kommunizieren, um zu verhindern, dass der Bediener das beabsichtigte Ziel ‘ausschaltet’.”
Künstliche Intelligenz kann sehr gefährlich sein
Hamilton behauptet, dass dieses Beispiel zeigt, warum eine Diskussion über KI und verwandte Technologien nicht ohne Einbeziehung der ethischen Dimension von KI stattfinden kann.
Militärische Drohnen, die von KI angetrieben werden, haben bereits Einzug in echte Kriegssituationen gehalten.
Laut einem Bericht der Vereinten Nationen vom März 2021 wurden in Libyen rund um den März 2020 KI-gesteuerte Drohnen eingesetzt, was als der allererste autonome militärische Drohnenangriff angesehen wird.
Der Bericht stellt fest, dass sich zurückziehende Truppen von sogenannten “loitering munitions” – das sind mit Sprengstoff beladene, KI-gesteuerte Drohnen, die programmiert sind, Ziele anzugreifen, ohne dass eine Datenverbindung zwischen dem Bediener und der Munition benötigt wird – “verfolgt und aus der Ferne angegriffen” wurden.
Es wurden viele Bedenken hinsichtlich der Risiken der KI-Technologie geäußert. In einer kürzlich veröffentlichten offenen Erklärung, die von Dutzenden von KI-Experten unterzeichnet wurde, wurde argumentiert, dass die Bedrohung durch “Auslöschung durch KI” genauso ernst genommen werden sollte wie die Gefahr eines Atomkriegs.
Blockchain News
![Vitalik Buterin sieht wertvolle neue Anwendung für Blockchain-Technologie Vitalik Buterin sieht wertvolle neue Anwendung für Blockchain-Technologie](https://newsbit.nl/app/uploads/sites/3/2023/05/Vitalik-Buterin-Ethereum-646x411.webp)
Vitalik Buterin sieht wertvolle neue Anwendung für Blockchain-Technologie
Vitalik Buterin, der Gründer von Ethereum, sieht eine neue wertvolle Anwendung für die Blockchain-Technologie entstehen.
![Raoul Pal ist extrem optimistisch in Bezug auf Krypto-Gaming Raoul Pal ist extrem optimistisch in Bezug auf Krypto-Gaming](https://newsbit.nl/app/uploads/sites/3/2024/08/Games-646x431.webp)
Raoul Pal ist extrem optimistisch in Bezug auf Krypto-Gaming
Der ehemalige Top-Banker Raoul Pal ist derzeit extrem optimistisch in Bezug auf Krypto-Gaming-Anwendungen, wie er im Empire Podcast mitteilt.
![Coolio’s ‘Gangsta’s Paradise’ feiert 30-jähriges Jubiläum in der Metaverse Coolio’s ‘Gangsta’s Paradise’ feiert 30-jähriges Jubiläum in der Metaverse](https://newsbit.nl/app/uploads/sites/3/2024/08/CoolioMetaverse.webp)
Coolio’s ‘Gangsta’s Paradise’ feiert 30-jähriges Jubiläum in der Metaverse
Niemand hätte vorhersagen können, dass der ikonische Hit ‘Gangsta’s Paradise’ drei Jahrzehnte später in einer digitalen Welt gefeiert würde.
Meist gelesen
![Bitcoin-Investor: „Ich kaufe so viel XRP wie möglich, erwarte einen parabolischen Anstieg” Bitcoin-Investor: „Ich kaufe so viel XRP wie möglich, erwarte einen parabolischen Anstieg”](https://newsbit.nl/app/uploads/sites/3/2023/05/Ripple-labs-646x431.webp)
Bitcoin-Investor: „Ich kaufe so viel XRP wie möglich, erwarte einen parabolischen Anstieg”
Bitcoin-Investor prognostiziert einen starken Anstieg für XRP und kauft massiv ein, in Erwartung eines baldigen kräftigen Preisanstiegs.
![„Bitcoin-Zusammenbruch ist unvermeidlich“, bekannter YouTuber erklärt warum „Bitcoin-Zusammenbruch ist unvermeidlich“, bekannter YouTuber erklärt warum](https://newsbit.nl/app/uploads/sites/3/2024/03/AdobeStock_247880820-646x430.webp)
„Bitcoin-Zusammenbruch ist unvermeidlich“, bekannter YouTuber erklärt warum
Bitcoin (BTC) startete schwach in den September und setzte den Abwärtstrend fort. Analyst Nicholas Merten warnt vor einem möglichen Crash.
![Diese 3 Kryptowährungen überstehen den Crash und steigen stark im Wert Diese 3 Kryptowährungen überstehen den Crash und steigen stark im Wert](https://newsbit.nl/app/uploads/sites/3/2024/01/prijs-stijgt-crypto-646x369.webp)
Diese 3 Kryptowährungen überstehen den Crash und steigen stark im Wert
Trotz des rückläufigen Kryptomarkts schneiden Altcoins wie Helium, Starknet und Bitcoin SV überraschend gut ab und verzeichnen beeindruckende Wertsteigerungen.