Vermeintliche Talkshow mit Jugendlichen über Migrationspolitik ist KI-Fake | Online verbreitet sich ein Video von Jugendlichen, die sich in einer Talkshow kritisch zur deutschen Migrationspolitik äußern. Doch das Video ist mit der KI-App „Sora“ des Unternehmens Open AI generiert worden.

by GirasoleDE

21 comments

  1. Wow, am Wasserzeichen überführt. Großartige Arbeit Correctiv!

    Ja, es sind derzeit viele Sora Videos zu jeglichem Thema unterwegs, sollte man in wenigen Tagen bereits gelernt haben, was das Sora Zeichen im Video zu bedeuten hat.

  2. Wie lange noch bis Klings “Views”? Dürften ja bald soweit sein.

  3. Technik/Software wie Sora (und generell die ganze Firma OpenAI) ist einer der Sargnägel in der Weltgesellschaft. Und drin liegen 99,9% der Menschheit und ziehen diesen sargnagel auch noch in das Holz. Nur die die draußen stehen und die Nägel einschlagen werden übrig bleiben.

  4. Das Video ist schon leider sehr überzeugend. Da muss man schon sehr genau auf die typischen KI Fehler achten.
    Das mit dem Wasserzeichen “Sora” bringt auch einfach nix wenn man nicht Sora kennt. Kann man auch für eine andere Platform halten. Ohmaney

  5. Marc-Uwe Kling hat letztes Jahr in *Views* schon eindrucksvoll beschrieben, wozu genau das hier noch führt.

  6. Aber aber aber, Regeln und Gesetze würden dem freien Markt und der Innovation ja im Wege stehen. Sowas darf doch nicht eingeschränkt werden!!111
    Und Lügen und Falschmeldungen sind ja schließlich auch nur freie Meinungsäußerungen!!1

  7. Das kommt davon wenn diese ganzen Unternehmen und die Billionäre dahinter sich von jeder Verantwortlichkeit für die Nutzung ihrer Tools freisprechen können und dann auch noch pseudo-progressive Typen jeder Technologie unreflektiert applaudieren.

  9. hat wer den Link zu diesem besprochenen Video?

    Die Links im correctiv Artikel führen (für mich) ins nichts, bzw. ‘Page not available’

  10. Die durch tiktok gestählte Aufmerksamkeit der jungen Leute lässt sich davon doch niemals hinters Licht führen.

    /s

  11. sieht man auf den ersten Blick an der Stoffstruktur und den Farben des Stoffs

  12. Der ganze KI-generierte Deep Fake Mist sollte schleunigst wie jeder andere Fake strafrechtlich reglementiert werden (falls es nicht ohnehin schon der Fall ist).

  13. Mit KI erstellte Propaganda. Von russischen Botnetzwerken gepusht.

    Kann das BSI oder wer auch immer da verantwortlich ist, nicht mal nen Riegel vorschieben oder Gesetzesänderungen vorschlagen?

    Feste Disclaimer vor jedem Video wären eine einfache Lösung:

    >”KI generierte Videos müssen mit einem Disclaimer vor Beginn des Videos versehen werden, der ausdrücklich besagt, dass das folgende Video nicht echt ist und mit KI generiert wurde.”

    .

    >”Videos, die Meinungen verbreiten oder beeinflussen können, von Personen ohne Expertenabschlüsse in den Themen die im Video besprochen werden, müssen mit einem Disclaimer vor Beginn des Videos versehen werden, der ausdrücklich besagt, dass die erstellende Person kein Experte in dem Gebiet ist und alle Informationen mit Bedacht betrachtet werden sollen”.

    Irgendwie so.

  14. Wer sora schaden will jedes video kostet der frima gerade zwischen 2.50 und 5 dolla.

    Einhamen sind wenn nur in cent bereich.

    Also zeit video möglich komplex machen!

  15. So beginnt es 🙁

    Hab gar keine Lust auf die nächsten 10 Jahre. Irgendwann wird man sich damit abgefunden haben und eine “Lösung” gefunden haben (zb nur zertifizierte quellen + % Menschen die weiterhin jeden Scheiss glauben), aber der Weg dahin wird sehr gefährlich und unschön.

    Und man kann nicht mehr über boomer lachen die ihre Kreditkartennummer hergeben, weil man’s selbst nicht mehr unterscheiden kann

    Und wahrscheinlich ist bald alles mit “könnte KI enthalten” disclaimer gelabelt, da es ja bspw bereits in jedem Bild editing tool integriert ist. Damit bringt das Label auch nix

  16. Das Verhältnis von “Nutzen” zu extremen Schaden der damit angerichtet werden kann bzw wird bei Generativen Bild- und Videomodellen ist so eindeutig negativ dass man mMn über Verbote nachdenken sollte

  18. Wahlkämpfe werden hart, wenn mit solchen Bandagen gekämpft wird. Vor allem, wenn die KI immer besser wird.

  19. Jetzt mal abseits der Gefahr, die von solchen Inhalten in KI-generierten Videos ausgeht mit Hinblick darauf, dass ein Großteil der Gesellschaft das für bare Münze nimmt.

    Warum nicht KI-generierte Videos erstellen, in denen Teenager in einer Talkshow darüber reden, wie sehr Milliardäre der Gesellschaft schaden, wie die Politik an aktuellen Problemen scheitert, oder wie sehr Firmen wie Meta, Alphabet und OpenAI eine Gefahr darstellen?

  21. Ich wurde nie gefragt, ob ich in dieser Timeline leben möchte.

Comments are closed.