Die indische Regierung plant, Vorschriften gegen die Bedrohung durch Deepfakes einzuführen

Am 23. November kündigte der Minister für Eisenbahnen, Kommunikation, Elektronik und Informationstechnologie, Ashwini Vaishnaw, an, dass Indien an Gesetzgebungen arbeitet, um die Bedrohung durch Deepfakes zu überwachen – eine Technologie, die realistisch mittels künstlicher Intelligenz generierte Videos oder Audioaufnahmen manipuliert. Diese Ankündigung erfolgt als Reaktion auf die Besorgnis, die Premierminister Narendra Modi einen Tag zuvor über diese Technologie geäußert hatte.

Unter anderem werden Geldstrafen in Betracht gezogen

Laut einem Bericht von Reuters erklärte Vaishnaw während Gesprächen mit Wissenschaftlern, Branchenverbänden und Social-Media-Unternehmen, dass die indische Regierung beabsichtigt, die Gesetzgebung in den kommenden Wochen abzuschließen. Deepfakes können das Aussehen und die Stimme einer Person in existierenden Video- oder Audioaufnahmen manipulieren oder ersetzen, und Modi rief während eines virtuellen G20-Gipfels zu internationaler Zusammenarbeit auf, um KI zu regulieren, und äußerte seine Bedenken über die negativen Auswirkungen von Deepfakes auf die Gesellschaft.

Vaishnaw betonte, dass bei der Erstellung der Gesetzgebung Geldstrafen für die Person, die den Inhalt hochlädt, und für die Social-Media-Plattform, auf der er veröffentlicht wird, in Betracht gezogen werden. Dieser Schritt erfolgt zu einer Zeit, in der Länder weltweit darum ringen, Vorschriften für das Management künstlicher Intelligenz festzulegen.

KI-Systeme stellen ein Risiko dar

Im Oktober unterzeichnete der US-Präsident Joe Biden eine Exekutivanordnung, die Entwickler von KI-Systemen, die Risiken für die nationale Sicherheit, Wirtschaft, Volksgesundheit oder Sicherheit darstellen, verpflichtet, die Ergebnisse von Sicherheitstests mit der US-Regierung zu teilen, bevor sie der Öffentlichkeit zugänglich gemacht werden.

Auf internationaler Ebene haben die Vereinten Nationen ein Beratungsgremium mit 39 Mitgliedern gegründet, um Governance-Herausforderungen im Bereich KI anzugehen, während europäische Gesetzgeber Entwurfsregeln verfasst haben, die möglicherweise nächsten Monat genehmigt werden. Im November äußerte der Canadian Security Intelligence Service seine Besorgnis über Desinformationskampagnen im Internet mit Hilfe von KI-Deepfakes.

Im August kündigte die chinesische Polizei eine eingehende Untersuchung des Sektors Web3 an, wobei der politische Kommissar Jinfeng Sun vom Network Security Bureau offenbarte, dass es 79 Fälle von Betrug mit Deepfake-KI gegeben habe, darunter die Nachahmung von Identitäten durch digitale Gesichtswechsel, was zur Festnahme von 515 Personen führte.