Faktencheck: Wie KI-Fakes Wahlen beeinflussen | DW Nachrichten

Faktencheck: Wie KI-Fakes Wahlen beeinflussen | DW Nachrichten

Italiens Premierministerin Georgia Meloni sagt sie würde große Summen mit einer App von Elon Musk verdienen Trump posiert mit jungen schwarzen Wählern in den USA und ein indischer Politiker hält eine Rede 6 Jahre nach seinem Tod richtig erkannt alles Fakes und die wurden mit Hilfe von künstlicher Intelligenz erstellt KI entwickelt sich gerade zu einer der größten Bedrohung für die Demokratie und das ist besonders in diesem Jahr ein echtes Problem in dem mehr als 40% der Menschen weltweit wählen gehen laut eines Berichts des Weltwirtschaftsforums sind des und missinformation die größten globalen Risiken in diesem Jahr und KI Inhalte insbesondere deepfake vide und das Klonen von Stimmen verschärfen das Problem was bedeutet das jetzt für Wahlen schon im Juni können mehr als 400 Millionen Menschen in der EU das Europäische Parlament wählen das verabschiedet Rechtsvorschriften für Menschen in Mitgliedsstaaten und kann mit über den EU-Haushalt bestimmen deep Fakes zum Parlament direkt gab es bisher noch nicht doch in den vergangenen Monaten tauchten immer wieder Fakes einzelner Politiker auf dieses Video z.B zeigt angeblich wie Frankreichs Präsident Emmanuel macron in Nachtclubs unterwegs sein soll ein Nutzer schreibt der französische Präsident Emmanuel macron tanzte in schwulen Clubs trug Frauenkleider BHs und sogar Teufelshörner bevor er in die Politik ging so jemand führt ein Land das Video ist ein sogenanntes deep Fake mit einer Bilder Rückwärtssuche sind wir auf die originalcilips gestoßen aufgenommen in einem Club in den 80er Jahren macrons Kopf wurde auf die Körper verschiedener Tänzer gesetzt wie ihr hier sehen könnt und hinzu kommt macron war in den 80er Jahren zwischen 3 und 12 Jahren alt also noch etwas zu jung für Nachtclubs laut der Europäischen Beobachtungsstelle für digitale Medien kurz etmo Stellen KI generierte Inhalte im Vorfeld der Wahlen ein erhebliches Risiko da denn sie können dafür genutzt werden um Politiker zu kreditieren wie auch im Fall von macron aber manche KI Fakes verfolgen auch ganz andere Ziele and slowly er Trust democracy in elections so ist es z.B 2023 in der Slowakei passiert nur wenige Tage vor der nationalen Wahl verbreitete sich eine Audioaufnahme in den sozialen Medi koľko vám to dá hlasov neviem to odhadnúť lebo podstatná je účasť tých ľudí v dezoláskych krajoch es hörte sich an als würde einer der Spitzenkandidaten Michal schka damit pralen wie er die Wahl zu Gunsten seiner proestlichen Partei manipuliert hatte doch das Audio war ein KI generierter Fake wir haben die Aufnahme auf trumedia.org hochgeladen das ist eine Website die KI generierte Inhalte aufspülen soll das Ergebnis hochgradig verdächtig solche KI Detektoren sind aber leider immer noch fehleranfällig das heißt Sie können immer nur einen ersten Hinweis darauf liefern dass hier etwas nicht stimmen könnte zu erkennen ist das Fake auch am Ton selbst die Stimmen und die Betonung klingen irgendwie unnatürlich der Tonfall der Person schwankt und unnatürliche Pausen entstehen natürliche Pausen hingegen wie mal ein Husten oder ein Räuspern was jeder von uns kennt komm gar nicht V auch die hintergrundgäusche sche irgendwi zu laut zu seine am Ende hat die Wahl verloren welche Rolle das gefälschte Audio dabei gespielt hat ob es überhaupt eine gespielt hat können wir nicht sicher sagen doch für einige Menschen könnte sich die Aufnahme echt angehört haben monitoring mechanism auch vor ausländischen Einfluss haben einige Regierungen im Vorfeld der Europawahlen gewarnt laut Experten versuchen so russische desessinformationskampagnen das Vertrauen in die europäische Demokratie zu untergraben raes in countries also att Europe schzcon Selens um den möglichen Missbrauch von KI zu verhindern und dabei auch die Europawahlen vor Desinformation zu schützen hat die EU ein Gesetz verabschiedet der sogenannte ai Act es ist das erste Gesetz dieser Art weltweit künftig müssen alle Anbieter wie Chat GPT Bildbearbeitungsprogramme mit KI und Algorithmen in sozialen Medien transparent offenlegen wenn Texte Bilder oder Videos von KI erstellt wurden das bedeutet KI generierte deepfakes müssen klar gekennzeichnet werden la in das Gesetz soll aber wohl erst im Jahr 2026 in krafttreten etwas zu spät für die diesjährigen Europawahlen aber auch in anderen Teilen der Welt haben Politiker erkannt dass sie KI in Zukunft regulieren müssen besonders wenn entscheidende Wahlen anstehen wie z.B auch in den USA dort kommt es bei den Präsidentschaftswahlen im November erneut zum Duell zwischen Joe Biden und Donald Trump auch diesem Wahlkampf tauchten bereits KI generierte Fakes auf mit dem möglichen Ziel die Wahlen zu manipulieren in diesem Telefonanruf z.B werden Wähler in New Hampshire aufgefordert ihre Stimme bei den Vorwahlen nicht abzugeben sollen sie für die Präsidentschaftswahlen im November Zitat aufsparen die Stimme klingt wie die von US-Präsident Joe Biden aber es handelt sich um eine Fälschung der Anruf wurde mit Hilfe von KI generiert das Weiße Haus hat bestätigt dass der Anruf von beiden selbst nicht stammte und auch die Infos darin waren falsch denn die Wähler dürfen sowohl bei den Vorwahlen als auch bei den Präsidentschaftswahlen selbstverständlich ihre Stimme abgeben es gibt also keinen Grund seine Stimme aufzusparen der Anruf sollte die Menschen wohl davon abhalten bei den Vorwahlen überhaupt abzustimmen das hätte vor allem den Republikanern in die Hände gespielt anders als bei ki-bildern und Videos gibt es bei gefälschten Audios weniger technische Probleme wenn das Ausgangsmaterial gut ist dann kann eine gute Software eine Stimme realistisch nacharmmen und von Joe Biden gibt es natürlich jede Menge echter reden als [Musik] laut US Regulierungsbehörde FCC könnten solche Fakes Wähler und wählerinn tatsächlich [Musik] täuschen Experten war Donald Trump könnte erneut gezielt Falschinformation vor der Wahl verbreiten das wurde ihm schon in früheren Wahlkämpfen vorgeworfen und nachgewiesen Fake Fake die republikanische Partei von Donald Trump hat letztes Jahr dieses Video veröffentlicht darin die möglichen negativen Auswirkungen einer Wiederwahl von Joe Biden unter anderem Krieg wirtschaftlicher Niedergang und ein scheinbar unaufhaltsamer Zustrom illegaler Einwanderer ins Land doch das Video ist KI generiert die Haut von camela Harris und Joe Biden z.B wirkt unrealistisch glänzend und glatt sie sehen fast aus wie Wachsfiguren oder Puppen ein erster Hinweis darauf dass das Bild von einer künstlichen Intelligenz generiert wurde die so etwas häufig macht außerdem ist die Form des Wolkenkratzers irgendwie unrealistisch solche Videos sollen Stimmung machen mit Bildern die es gar nicht gibt und auch vor den derzeit noch laufenden Wahlen in Indien tauchten deepfakes von [Applaus] Politikern das ist eine Botschaft v chen im Januar 2024 hielt offenbar eine Rede in der er seinen Sohn den heutigen Vorsitzenden der Partei für seine Arbeit während der coronapandemie lobte aber 18 lange vor der Pandemie dieses Video wurde mit einer KI Software erstellt zu sehen ist das schon an der Sonnenbrille sie sieht unrealistisch verformt aus und auf beiden Seiten der Brille ist ein verräterisches Bild Flimmern zu sehen karunanitis Partei hat in den vergangenen Monaten mehrmals seinen KI Avatar verwendetdas und das haben sie zum Teil ja auch schon wie die Europäische Union mit ihrem KI Gesetz doch tatsächlich fehlen in vielen Ländern noch notwendige Regulierungen und wie die Umsetzung am Ende aussieht ist zum Teil auch noch offen KI ist aber nicht nur negativ sondern könnte sogar dabei helfen Desinformation wie in Zeiten von Wahlen zu bekämpfen gans iname of Union using ai develop better technologies fight Information Flag Monitor Label search wie KI Detektoren sie sollen bestimmte Muster und Abweichung in Texten Videos oder Bildern erkennen die auf gefälschte Inhalte hindeuten können noch sind sie nicht besonders ausgereift und können nur einen ersten Hinweis geben aber einige Firmen wie die Macher von nuanced trainieren ihre Algorithmen bereits darauf KI generierte Inhalte mit Hilfe von KI zu erkennen und Plattformen und techunternehmen wie open ai tiktok und Meta haben gemeinsame Richtlinien entwickelt ziel ist es im Vorfeld der weltweiten Wahlen in diesem Jahr KI generierte Desinformation effektiv zu bekämpfen Meta hat sogar angekündigt dass es ki- Inhalte ab Mai diesen Jahres kennzeichnen wird doch das könnte nach unseren Erkenntnissen leicht umgangen werden es wäre also nur ein erster Schritt daher auch wir als Social Media nutzende sollten Verantwortung übernehmen und zwar nicht allem trauen was wir sehen achtet auf Fehler oder Ungereimtheiten und checkt jeden Inhalt bevor ihr ihn teilt seid ihr auch schon auf Fakes gestoßen die die Wahlen oder die Politik in eurem Land beeinflussen könnten dann schreibt es uns in den Kommentaren oder schickt uns eine Mail an factchecking@dw.com [Musik]

Robocalls, Deepfakes und tote Politiker, die Reden halten: Mehr als 60 Länder, darunter Indien und die USA, wählen 2024. Aber KI-Fakes haben Gesellschaften erschüttert und könnten sogar die Demokratie bedrohen.

#künstlicheintelligenz #europawahl2024 #desinformation
DW Deutsch Abonnieren: http://www.youtube.com/user/deutschewelle?sub_confirmation=1
Mehr Nachrichten unter: https://www.dw.com/de/
DW in den Sozialen Medien:
►Facebook: https://www.facebook.com/dw.german/
►Twitter: https://twitter.com/dw_deutsch
►Instagram: https://www.instagram.com/dwnews/