close notice<\/p>\n
\n This article is also available in It was translated with technical assistance and editorially reviewed before publication.\n <\/p>\n \n Don\u2019t show this again.\n<\/p>\n Die KI Grok, die direkt in die Plattform X integriert ist und von Elon Musks Konzern xAI betrieben wird, hat in den vergangenen Tagen einen handfesten Skandal ausgel\u00f6st. Nutzer haben die Bildbearbeitungsfunktion des generativen KI-Systems verwendet, um Fotos von Frauen und sogar Minderj\u00e4hrigen digital zu entkleiden und sexualisierte Versionen der Aufnahmen zu erzeugen. Diese Deepfakes wurden \u00f6ffentlich auf X gepostet, was zu heftiger Emp\u00f6rung f\u00fchrte.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Agenturen und Medien wie Bloomberg, Reuters und Politico beschreiben, wie Grok auf einfache Anfragen wie \u201eentferne ihre Kleidung\u201c oder \u201esetze sie in einen Bikini\u201c reagierte und entsprechende Bilder generierte, die teilweise oder vollst\u00e4ndig entbl\u00f6\u00dft wirkten. Besonders brisant sind F\u00e4lle, in denen Jugendliche und Kinder betroffen waren.<\/p>\n \u00dcber den X-Account von Grok selbst ist in mehreren Postings die Rede davon, es habe \u201evereinzelte F\u00e4lle\u201c gegeben<\/a>, in denen Nutzer KI-Bilder von Minderj\u00e4hrigen in \u201eknapper Bekleidung\u201c erhalten h\u00e4tten. Dazu kommt der Hinweis auf ein \u201eVersagen der Sicherheitsvorkehrungen\u201c, was gegenw\u00e4rtig behoben werde<\/a>. Die Vorf\u00e4lle h\u00e4tten \u201egegen ethische Standards und m\u00f6glicherweise gegen US-amerikanische Gesetze zu kinderpornografischem Material\u201c versto\u00dfen<\/a>. Weiter hei\u00dft es: \u201exAI \u00fcberpr\u00fcft den Vorfall, um k\u00fcnftige Probleme zu vermeiden.\u201c<\/p>\n Aus den \u00c4u\u00dferungen \u00fcber das Grok-Konto geht nicht klar hervor, ob auch diese rein automatisch generiert oder zumindest menschlich \u00fcberpr\u00fcft wurden. Das KI-System erweckt den Eindruck, f\u00fcr sich selbst zu sprechen. In einer fr\u00fcheren Stellungnahme zu den Vorkommnissen soll xAI pauschal etwa gegen\u00fcber Reuters erkl\u00e4rt haben<\/a>: \u201eDie etablierten Medien l\u00fcgen.\u201c<\/p>\n Franz\u00f6sische Justiz ermittelt<\/p>\n Viele der anst\u00f6\u00dfigen Bilder wurden sp\u00e4ter gel\u00f6scht, doch Screenshots zirkulieren weiter. Betroffene Frauen und Teenager beklagen sich, dass ihre auf X geposteten Fotos ohne ihr Wissen manipuliert worden seien, was ihre W\u00fcrde verletze.<\/p>\n Vor allem in Frankreich reagierte die Politik prompt. Die Hochkommissarin f\u00fcr Kinder, Sara El Ha\u00efry, zeigte sich emp\u00f6rt und forderte den Medienregulierer Arcom auf, die F\u00e4lle auf Basis des Digital Services Act (DSA)<\/a> zu pr\u00fcfen. Gleich drei Ressortchefs aus dem franz\u00f6sischen Kabinett \u2013 Wirtschaftsminister Roland Lescure, KI-Ministerin Anne Le H\u00e9nanff und Gleichstellungsministerin Aurore Berg\u00e9 \u2013 erstatteten Anzeige bei der Pariser Staatsanwaltschaft und meldeten die Inhalte an die Meldeplattform Pharos zur sofortigen Entfernung. Sie erkl\u00e4rten gemeinsam: Das Internet sei weder rechts- noch straffrei. Zugleich wandten sich die Abgeordneten Arthur Delaporte und Eric Bothorel an die Justiz.<\/p>\n Die Staatsanwaltschaft in Paris best\u00e4tigte gegen\u00fcber Politico<\/a>, dass die Vorf\u00e4lle in eine laufende Untersuchung gegen X einflie\u00dfen. Diese umfasse bereits Antisemitismus und Holocaust-Leugnung durch Grok<\/a>. Das Delikt k\u00f6nnte mit bis zu zwei Jahren Haft f\u00fcr Verantwortliche beziehungsweise einer Geldbu\u00dfe geahndet werden.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Auch international hagelt es Kritik: In Indien forderte das IT-Ministerium einen Bericht von X. In Gro\u00dfbritannien mahnte eine Ministerin strengere Regeln an. xAI positioniert Grok mit Funktionen wie \u201eSpicy Mode\u201c f\u00fcr suggestive Inhalte bewusst freiz\u00fcgiger als Konkurrenzmodelle wie ChatGPT oder Gemini. Doch Experten warnen seit Langem vor daraus erwachsenden Risiken. Auch Kinderschutzorganisationen schlugen bereits im Vorjahr Alarm. Die j\u00fcngsten Entgleisungen bei Grok unterstreichen auch erneut die dunkle Seite generativer KI.<\/p>\n
\n English<\/a>.<\/p>\n