close notice<\/p>\n
\n This article is also available in It was translated with technical assistance and editorially reviewed before publication.\n <\/p>\n \n Don\u2019t show this again.\n<\/p>\n Der KI-Chatbot Grok wurde zuletzt daf\u00fcr benutzt, \u00f6ffentlich auf X jede Stunde tausende sexualisierte Deepfakes, prim\u00e4r von Frauen, zu erstellen \u2013 fast 100 Mal so viele solcher Bilder wie auf f\u00fcnf anderen daf\u00fcr genutzten Plattformen zusammen. Das hat eine 24-st\u00fcndige Analyse einer Deepfake-Forscherin ergeben, deren Ergebnis die Nachrichtenagentur Bloomberg zusammenfasst. Damit gibt es f\u00fcr das seit Tagen diskutierte Problem jetzt auch konkrete Zahlen. Unterdessen hat das US-Magazin Wired darauf hingewiesen, dass Inhalte, die der Chatbot von Elon Musks KI-Firma auf einer eigenen Website generiert, noch viel problematischer sind. Das deuten von Google indexierte und in der Suche auffindbare Inhalte an, die Nutzer erstellt haben. Eigentlich sind diese nicht \u00f6ffentlich.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Grok macht immer weiter<\/p>\n Wie Bloomberg erl\u00e4utert<\/a>, hat die Forscherin Genevieve Oh f\u00fcr ihre Analyse des X-Accounts von Grok dessen Antworten in einem 24 Stunden langen Zeitraum Anfang der Woche analysiert. Das Ausma\u00df der dort \u00f6ffentlich und in den meisten F\u00e4llen ohne Zustimmung der Abgebildeten generierten sexuellen Fake-Bilder sei \u201ebeispiellos\u201c, zitiert die Nachrichtenagentur eine Anw\u00e4ltin, die sich mit der Thematik auskennt. Es habe bis jetzt keine Technik gegeben, die die Generierung von t\u00e4uschend echt aussehenden, aber falschen Aufnahmen fast nackter Personen so einfach macht und welche gleichzeitig so weit verbreitet ist. Auf dem Kurznachrichtendienst X kann man dem Chatbot ein Foto schicken und um eine Version bitten, in der die gezeigte Person fast keine Kleidung anhat. Grok kommt dem weiter nach.<\/p>\n Die sexualisierten Deepfakes von Grok sorgen seit Tagen f\u00fcr Emp\u00f6rung in aller Welt. Nutzer verwenden den KI-Account sogar, um Fotos von Minderj\u00e4hrigen digital \u201ezu entkleiden\u201c<\/a>. Die Erstellung dieser sexualisierten Aufnahmen ist ohne Einverst\u00e4ndnis der Betroffenen m\u00f6glich, die Ergebnisse landen \u00f6ffentlich einsehbar auf dem Kurznachrichtendienst. Obwohl X \u00fcber den KI-Account die Behauptung hat verbreiten lassen, dass es sich nur um \u201evereinzelte F\u00e4lle\u201c gehandelt habe und ein urs\u00e4chliches \u201eVersagen der Sicherheitsvorkehrungen\u201c behoben wurde, h\u00f6rt der Chatbot nicht mit der Generierung auf. Mehrere Staaten und die EU haben das teils massiv kritisiert und Gegenma\u00dfnahmen versprochen<\/a>; tats\u00e4chliche Konsequenzen gibt es aber weiterhin nicht.<\/p>\n Derweil hat das US-Magazin Wired entdeckt<\/a>, dass eine L\u00fccke auf der Website von Grok<\/a> noch deutlich verst\u00f6rendere Inhalte verr\u00e4t, die Nutzer dort erstellen lassen. Diese gehen wohl davon aus, dass das nicht \u00f6ffentlich ist. Im Sommer war aber publik geworden, dass dort generierte KI-Inhalte von Google indexiert werden, wenn sie mithilfe des \u201eTeilen\u201c-Buttons etwa \u00fcber Messenger verbreitet werden. In diesen Inhalten finden sich fotorealistische KI-generierte Videoclips mit sexualisierten Deepfakes, auf denen noch Blut hinzukommt. Auch Clips, die scheinbar prominente Frauen zeigen, geh\u00f6ren demnach dazu. Sogar kurze Filme, die scheinbar Minderj\u00e4hrige zeigen, gibt es, hat die KI-Forschungsorganisation AI Forensics herausgefunden. Derartige Inhalte lassen sich direkt per Google finden.<\/p>\n \u201eFreier Fall in die Abgr\u00fcnde der Verdorbenheit\u201c<\/p>\n Weiterlesen nach der Anzeige<\/p>\n \u201eEs f\u00fchlt sich an, als w\u00e4ren wir von einer Klippe gest\u00fcrzt und w\u00fcrden jetzt im freien Fall in die Abgr\u00fcnde der menschlichen Verderbtheit st\u00fcrzen\u201c, zitiert Wired die Einsch\u00e4tzung der Rechtsprofessorin Clare McGlynn, die sich mit bildbasiertem Missbrauch besch\u00e4ftigt. \u201eUnmenschliche Impulse\u201c einiger Menschen w\u00fcrden durch die Technik ohne Schutzvorkehrungen oder ethische Grenzen ermutigt. Unklar ist, ob und welche Ma\u00dfnahmen die KI-Generierung von illegaler Pornografie \u2013 etwa zu Missbrauch \u2013 verhindert. Auf X m\u00fcsse man sich wenigstens einloggen, um bestimmte Inhalte zu sehen, bei Grok gebe es augenscheinlich \u00fcberhaupt keine Zugriffskontrolle. Gleichzeitig hat Wired Internetforen gefunden, in denen Personen sich dar\u00fcber austauschen, wie sie die Grok-KI dazu bekommen, jegliche Inhalte zu generieren.<\/p>\n
\n English<\/a>.<\/p>\n