{"id":43411,"date":"2025-04-19T03:55:18","date_gmt":"2025-04-19T03:55:18","guid":{"rendered":"https:\/\/www.europesays.com\/de\/43411\/"},"modified":"2025-04-19T03:55:18","modified_gmt":"2025-04-19T03:55:18","slug":"was-ist-echt-was-ist-fake-der-deepfake-scanner-aus-leipzig-gespraech-mit-johannes-wobus-video-%c2%b7-leipziger-zeitung","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/de\/43411\/","title":{"rendered":"Was ist echt, was ist Fake? Der Deepfake-Scanner aus Leipzig \u2013 Gespr\u00e4ch mit Johannes Wobus + Video \u00b7 Leipziger Zeitung"},"content":{"rendered":"<p>Jeder wei\u00df: Bilder, Videos und Audios lassen sich heute, mit geringen Kenntnissen und Aufwand, per frei verf\u00fcgbarer Software leicht manipulieren. Ob nun pl\u00f6tzlich eine Politikerin oder ein Politiker etwas \u201eAufregendes\u201c sagt, pl\u00f6tzlich ein Promi in einer pornografischen Videosequenz oder einem Bild auftaucht oder in einer Whatsapp-Sprachnachricht das Kind dringend um Geld bittet, die negativen oder kriminellen Aspekte sind bekannt.<\/p>\n<p>Politik, NGOS, B\u00fcrgerinnen und B\u00fcrger fordern Regulierung von, zumeist KI generierten, Deepfakes, aber wie erkennt man diese?\u00a0Johannes Wobus aus Leipzig <a href=\"https:\/\/www.l-iz.de\/bildung\/medien\/2024\/05\/konnen-auge-ohren-trauen-gesprach-johannes-wobus-deepfakes-590889\" target=\"_blank\" rel=\"noopener\">k\u00fcndigte 2024 in unserem Gespr\u00e4ch einen Deepfake-Generator f\u00fcr die Erkennung dieser an<\/a> und hat uns das Modell jetzt vorgestellt. Wir trafen uns mit ihm zum Gespr\u00e4ch. Der Autor und Johannes Wobus sind seit der <a href=\"https:\/\/www.l-iz.de\/wirtschaft\/wirtschaft-leipzig\/2024\/04\/otmr-uber-leipzigs-dachern-technologie-recht-585990\" target=\"_blank\" rel=\"noopener\">OTMR 2024<\/a> per Du, wir haben das im Gespr\u00e4ch beibehalten.<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2025\/04\/609d45cc1a904d8e8977177c2611d6ca.gif\" width=\"https:\/\/www.l-iz.de\/bildung\/medien\/2025\/04\/1\" height=\"https:\/\/www.l-iz.de\/bildung\/medien\/2025\/04\/1\" alt=\"\"\/><\/p>\n<p><a href=\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2025\/04\/Original-und-bearbeitet.jpg\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-622488 size-full\" src=\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2025\/04\/Original-und-bearbeitet.jpg\" alt=\"Zwei Portr\u00e4ts in schwarz\/wei\u00df zeigen Johannes Wobus, links Originalbild, rechts KI bearbeitet\" width=\"2048\" height=\"1024\"  \/><\/a>Johannes Wobus, Bild: Axel Schneega\u00df, links Original, rechts Resultat eines Loratrainings (Basis: FLUX)<\/p>\n<p><b>Hallo Johannes, sch\u00f6n, dass es geklappt hat. Erst einmal f\u00fcr unsere Leserinnen und Leser, was ist Dein beruflicher Hintergrund?<\/b><\/p>\n<p>Ich bin Softwareentwickler und Data Scientist, die Bezeichnung hat <a href=\"https:\/\/www.l-iz.de\/leben\/gesellschaft\/2024\/07\/ersetzt-ki-anwalt-einsatz-beachten-gesprach-peter-hense-597415\" target=\"_blank\" rel=\"noopener\">Peter Hense<\/a> irgendwann mal eingef\u00fchrt. Ich finde die neue Bezeichnung zutreffend. Ich besch\u00e4ftige mich schon sehr lange mit Softwareentwicklung, der Analyse von gro\u00dfen Datenmengen und seit knapp vier Jahren, ziemlich in Vollzeit, mit k\u00fcnstlicher Intelligenz.<\/p>\n<p><b>K\u00fcnstliche Intelligenz, das war ja ein Thema in unserem letzten Gespr\u00e4ch. Du hast gesagt, Du willst ein Tool zur Analyse und Erkennung von Deepfakes entwickeln. Das hast Du jetzt geschafft. Was kann man damit analysieren?<\/b><\/p>\n<p>Du musst Dir die Software modular vor Augen f\u00fchren, die nennen wir sie mal \u201eSuite\u201c kann erkennen und analysieren, ob Videos vollsynthetisch oder teilsynthetisch sind. Teilweise ist es auch m\u00f6glich den Generator, mit dem diese ver\u00e4ndert oder erstellt wurden, zu identifizieren. Ein anderes Modul ist in der Lage, Audios zu scannen, ebenfalls als vollsynthetisch oder teilsynthetisch. Seit einigen Tagen bin ich auch in der Lage, gefakte Bilder zu erkennen.<\/p>\n<p><b>Mit vollsynthetisch oder teilsynthetisch ist mit KI ver\u00e4ndert oder komplett KI generiert gemeint?<\/b><\/p>\n<p>Genau, teilsynthetisch kannst Du Dir so vorstellen, als diese klassischen Gesichtsaustausch-Sachen, besonders in diesem unsch\u00f6nen Element der Deepfake-Pornografie, dar\u00fcber muss man ja auch leider reden. Es gibt ja auch einige F\u00e4lle, bei denen in Zoom-Meetings mit KI ein fremder Kopf auf eine Person gesetzt wurde. Ich denke, in zwei bis drei Wochen werde ich ein Update ausrollen, dann wird nicht prim\u00e4r der Kopf betrachtet, sondern der Mund. Die M\u00fcnder werden ja auch ausgetauscht.<\/p>\n<p><b>Deepfakes sind ja ein gro\u00dfes Thema, sowohl im politischen, im wirtschaftlichen, als auch im privaten Bereich. Es gibt jede Menge frei verf\u00fcgbare Programme, mit denen man Deepfakes herstellen kann. Daf\u00fcr sind oft keine gro\u00dfen Vorkenntnisse erforderlich. Kann Dein Programm jeder bedienen oder ist das nur etwas was f\u00fcr Spezialisten?<\/b><\/p>\n<p>Das ist eine wirklich witzige Frage. Ich hatte erst diese Woche einen sehr guten Freund zu Gast, der mich immer wieder ausschimpft. Du musst mehr machen mit der Oberfl\u00e4chengestaltung, ich habe davon leider keine Ahnung. Ich bin eher datengetrieben. Ich denke, dass ich demn\u00e4chst ein besseres Layout, als das, was Du heute gesehen hast, freischalten werde. Aber mit relativ wenig Schulung, k\u00f6nnen das auch Laien bedienen. Also Menschen, die einen Computer bedienen k\u00f6nnen, k\u00f6nnen diese Programme auch bedienen.<\/p>\n<p><b>Ist das Programm eher etwas f\u00fcr Firmen und Organisationen, oder ist das auch etwas f\u00fcr den privaten Nutzer?<\/b><\/p>\n<p>Die Hauptzielgruppe sind nat\u00fcrlich Firmen, Beh\u00f6rden, Institutionen. F\u00fcr den privaten Nutzer ist das aber auch etwas. Wir haben ja auch die, ich nenne das mal liebevoll, Seuche der Schockanrufe. Es kann schon interessant sein, wenn man ein unklares Audio-File, eine unklare Sprachnachricht \u00fcber WhatsApp geschickt bekommt, gegenpr\u00fcft, mit der einen Applikation, die ich Dir gezeigt habe. Also, es w\u00e4re schon was f\u00fcr den privaten Nutzer, aber ich bin wirklich nicht kreativ begabt genug, um daraus eine gut aussehende App zu bauen, die man auch verwenden kann. Aber da bin ich tats\u00e4chlich dran.<\/p>\n<p><b>Also ist die Arbeit am Interface noch im Gange?<\/b><\/p>\n<p>Genau, gefakte Audios, Videos und Bilder, hinsichtlich der Zielgruppe, betrifft es leider mittlerweile uns alle.<\/p>\n<p><b>Auf technische Details wollen wir hier nicht eingehen, das w\u00fcrde den Rahmen sprengen. Es wird ja auch eine Art Wettbewerb. Die KI zur Generierung von Deepfakes wird immer besser. Du wirst Deine Programme nat\u00fcrlich auch immer wieder anpassen und updaten m\u00fcssen, damit auch die n\u00e4chste Generation der KI-Generierung noch erkannt wird.<\/b><\/p>\n<p>Das ist richtig, beim Video Deepfake-Scanner, war das letzte Trainingsstadium Stand Anfang 2025. Seitdem hat sich unfassbar viel ver\u00e4ndert. Die Chinesen haben ihre Modelle auf den Markt geworfen. Und ich war da sehr, sehr unsicher, unter uns gesagt, ob die Modelle etwas taugen. Alle Proben, die ich gezogen habe, mit besagten Modellen, ergaben teilweise Erkennungswahrscheinlichkeiten oder Erkennungssicherheiten in H\u00f6he von weit \u00fcber 90 Prozent.<\/p>\n<p>Das h\u00e4ngt mit dem speziellen Trainingsverfahren zusammen. Ich gehe im Grunde auf die kleinsten Elemente der zu analysierenden Medien. Bei Videos w\u00e4ren das Pixel und die Pixel-Natur. Wir wollen ja nicht zu technisch werden, wie Du gesagt hast. Und bei Audios gehe ich auf Segmente, vergleichbar mit einem Frame oder einem Pixel.<\/p>\n<p><b>Gibt es schon Interessenten daf\u00fcr?<\/b><\/p>\n<p>Es gibt einige Interessenten, wir f\u00fchren Gespr\u00e4che mit zwei relativ bekannten NGOs bzw. Vereinen. Hier im Leipziger Dunstkreis f\u00fchre ich einige Gespr\u00e4che mit pers\u00f6nlich befreundeten Lehrerinnen und Lehrern. Dann gibt es im Bereich der Beh\u00f6rden immer mal Anfragen, wo wir jetzt in tiefere Gespr\u00e4che hereingehen. Der Videoscanner wird bereits jetzt schon verwendet, das ist richtig.<\/p>\n<p><b>Kannst Du auch schon eine Referenz nennen oder noch nicht?<\/b><\/p>\n<p>Nein, auf gar keinen Fall. Ich kann nur so viel sagen, dass im Bereich der Beh\u00f6rden schon etwas eingesetzt wird.<\/p>\n<p><b>Wenn sich jemand f\u00fcr den Deepfake-Scanner interessiert, gibt es eine Webseite und wie kommt man an das Produkt ran?<\/b><\/p>\n<p>Selbstverst\u00e4ndlich gibt es <a href=\"https:\/\/dnid.me\/\" target=\"_blank\" rel=\"noopener\">unsere Webseite<\/a>, da kann man auch schon mal testen. F\u00fcr Interessenten ist es wichtig folgendes zu wissen: Wir haben gewisse interne \u2013 nennen wir es moralische, wobei das nat\u00fcrlich hochgegriffen ist \u2013 Standards. Es findet zuerst ein Kennenlerngespr\u00e4ch statt, in dem man kl\u00e4rt: Wo ist der Einsatz, welches Klientel wird betreut?<\/p>\n<p>Uns ist sehr wichtig, gerade im Bereich des Hatespeech etwas zu machen. Wie wir beide ja wissen, diese Fakes sind zwar eine feine Sache, man kann mit KI wunderbare Kunstwerke generieren, aber man kann auch gezielt den Ruf von Menschen zerst\u00f6ren. Das sind tats\u00e4chlich derzeit zwei Gespr\u00e4chslinien im Bereich Abwehr von Deepfake-Pornografie.<\/p>\n<p><b>Vielen Dank f\u00fcr das Gespr\u00e4ch und die Vorf\u00fchrung des Scanners. Weiterhin viel Erfolg und wir werden das weiter verfolgen.<\/b><\/p>\n<p>Johannes hat uns die Software selbstverst\u00e4ndlich vorgef\u00fchrt, die Ergebnisse waren eindeutig. KI-generierte Videos und Stimmen wurden erkannt. Im Beispielvideo sind zwei Tests zu sehen, diese wurden mit frei im Netz verf\u00fcgbaren KI-generierten Videos durchgef\u00fchrt und zeigen die Funktionsweise des Scanners.<\/p>\n<\/p>\n<p>\u00a0<\/p>\n<p>Neben der Verfeinerung der schon verf\u00fcgbaren Scanner arbeitet Johannes momentan an der Erkennung von KI-generierten Texten. Erste Ergebnisse, die hoffnungsfroh stimmen, liegen vor. Wir werden berichten, wenn diese Software einsatzbereit ist.<\/p>\n<p><a href=\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2025\/04\/Textscanner2.png\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-622491 size-full\" src=\"https:\/\/www.europesays.com\/de\/wp-content\/uploads\/2025\/04\/Textscanner2.png\" alt=\"Screenshot einer Webseite, Textpr\u00fcfung auf KI-Generierung\" width=\"2111\" height=\"1408\"  \/><\/a>Screenshot Textscanner mit einem KI-generierten Text. Bild: Johannes Wobus<\/p>\n","protected":false},"excerpt":{"rendered":"Jeder wei\u00df: Bilder, Videos und Audios lassen sich heute, mit geringen Kenntnissen und Aufwand, per frei verf\u00fcgbarer Software&hellip;\n","protected":false},"author":2,"featured_media":43412,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1832],"tags":[3364,29,30,198,2134,1256,71,21949,859,5329],"class_list":{"0":"post-43411","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-leipzig","8":"tag-de","9":"tag-deutschland","10":"tag-germany","11":"tag-internet","12":"tag-interview","13":"tag-kuenstliche-intelligenz","14":"tag-leipzig","15":"tag-medientechnologie","16":"tag-sachsen","17":"tag-video"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/114362615325856695","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/43411","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=43411"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/43411\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/43412"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=43411"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=43411"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=43411"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}