Riesen-Ausschreitungen bei einer Demo in Bern: Brennende Autos, Wasserwerfer, Polizeiaufgebot – doch das virale Tiktok-Video ist komplett erfunden.
Auf den sozialen Medien kursieren Deepfake-Videos von Demonstrationen, die nie stattgefunden haben. – Tiktok / depositphotos
Das Wichtigste in Kürze
Fake-Videos über Ausschreitungen in der Schweiz verbreiten sich auf Tiktok.
Auch in politischen Kreisen werden solche KI-Manipulationen genutzt.
Die Videos gelten als Deepfakes und werden bestraft – doch für viele nicht streng genug.
Auf Tiktok kursieren Videos, die von einer angeblichen SRF-Moderatorin stammen. Sie warnt darin vor gewalttätigen Ausschreitungen wegen Zuwanderung. Dazu sind brennende Autos und Wasserwerfer zu sehen.
Doch die Videos sind vollständig mit künstlicher Intelligenz erstellt worden. Die Moderatorin existiert nicht. Die Ausschreitungen haben nie stattgefunden. Auch eine angebliche Umfrage zur «10-Millionen-Schweiz» ist frei erfunden.
Trotzdem wurden die Videos über 50’000 Mal angeschaut, berichtet der «Tagesanzeiger». Über 1’000 Kommentare zeigen, dass viele Nutzer die Inhalte für echt halten.
Ein Fake-Video der SRF-Tagesschau verbreitet sich auf TikTok. – Tiktok / @eidgenosstv
Das Video zeigt massive Ausschreitungen bei einer Demonstration – doch nichts davon ist echt. – Tiktok
Der Kanal zeigt auch immer wieder gefälschte Demonstrationen auf dem Berner Bundesplatz. – Tiktok
Mit einem KI-generierten Video sorgte Nationalrat Andreas Glarner im Jahr 2023 für Kontroversen. – keystone
Daniel Vogler forscht am Zentrum für Öffentlichkeit und Gesellschaft der Universität Zürich. Er sagt gegenüber dem «Tagesanzeiger»: «Deepfakes müssen nicht perfekt gemacht sein, um zu wirken.» Entscheidend sei, dass sie bestehende Meinungen bestätigten.
Wer ohnehin glaube, die Zuwanderung gerate ausser Kontrolle, teile solche Videos eher. Ob jemand den Inhalt für echt oder gefälscht halte, spiele dabei kaum eine Rolle.
Knapp die Hälfte der Schweizer Bevölkerung kenne den Begriff «Deepfake» nicht. Und besonders brisant: Selbst medienerfahrene Menschen erkennen solche Fälschungen oft nicht.
Plattformen belohnen emotionale Inhalte
Der Tiktok-Kanal, der die Videos verbreitete, veröffentlicht regelmässig KI-generierte Beiträge gegen Migration. Manche davon erreichen über 120’000 Aufrufe. Oft zeigen sie erfundene Demonstrationen auf dem Berner Bundesplatz, so der «Tagesanzeiger».
Braucht die Schweiz in Sachen Deepfakes neue Gesetze?
1Ja.
2Nein.
Plattformen wie Tiktok, Facebook oder X fördern Inhalte, die Emotionen auslösen. Angst, Empörung und Wut sorgen für mehr Klicks. Ob wahr oder nicht, spielt für den Algorithmus keine Rolle. «So werden extreme Meinungen algorithmisch bewirtschaftet», so Vogler.
Auch linke Kreise nutzen KI-Manipulationen
Solche Fälschungen kommen nicht nur von einer politischen Seite. Vor einer Zürcher Wohndemo kursierten auf Instagram Videos, in denen Politiker scheinbar zur Teilnahme aufriefen. Die Videos stammten aus linken Kreisen.
Andreas Glarner, Aargauer SVP–Nationalrat, sorgte 2023 für Aufsehen. Mithilfe von KI erstellte er ein Wahlkampfvideo. In diesem Video scheint es so, als würde die grüne Nationalrätin Sibel Arslan Werbung für die SVP machen. Die Ermittlungen zu dem Fall laufen.
Der Bundesrat setzt laut einer parlamentarischen Antwort auf bestehendes Recht. Wer mit Deepfakes betrüge oder Persönlichkeitsrechte verletze, könne schon heute bestraft werden.
Der EU-Digital-Services-Act soll Plattformen zudem zur schnelleren Prüfung verpflichten. Ob solche Mechanismen bei viralen Kampagnen rechtzeitig greifen, wird jedoch stark infrage gestellt.
In der Schweiz forderten deshalb mehrere Parlamentarierinnen und Parlamentarier strengere Regeln. Ob und wann konkrete Gesetze folgen, ist noch offen.