{"id":346076,"date":"2025-08-15T06:28:16","date_gmt":"2025-08-15T06:28:16","guid":{"rendered":"https:\/\/www.europesays.com\/de\/346076\/"},"modified":"2025-08-15T06:28:16","modified_gmt":"2025-08-15T06:28:16","slug":"solche-graesslichkeiten-erlaubt-meta-seinen-ki-chatbots","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/de\/346076\/","title":{"rendered":"Solche Gr\u00e4sslichkeiten erlaubt Meta seinen KI-Chatbots"},"content":{"rendered":"<p>    close notice<\/p>\n<p class=\"notice-banner__text a-u-mb-0\">\n      This article is also available in<br \/>\n        <a href=\"https:\/\/www.heise.de\/en\/news\/Meta-Platforms-AI-chatbots-guidelines-allow-racism-10530986.html\" class=\"notice-banner__link a-u-inline-link\" target=\"_blank\" rel=\"noopener\">English<\/a>.<\/p>\n<p>      It was translated with technical assistance and editorially reviewed before publication.\n    <\/p>\n<p class=\"notice-banner__link a-u-mb-0\">\n    Don\u2019t show this again.\n<\/p>\n<p><strong>Warnhinweis<\/strong>: Dieser Text enth\u00e4lt Beschreibungen sexueller Handlungen mit Minderj\u00e4hrigen.<\/p>\n<p>&#8222;Black people are dumber than White people.&#8220; Zu Deutsch: &#8222;Schwarze Menschen sind d\u00fcmmer als wei\u00dfe Menschen.&#8220; Solcher Rassismus ist f\u00fcr die KI-Chatbots, von denen sich <a href=\"https:\/\/www.heise.de\/thema\/Meta-Platforms\" rel=\"external noopener\" target=\"_blank\">Meta Platforms<\/a> sprudelnde Gewinne erhofft, &#8222;acceptable&#8220;, also akzeptabel. Meta programmiert sie so, dass sie in Unterhaltungen mit Nutzern von Facebook, Instagram oder WhatsApp solche und \u00e4hnliche Aussagen treffen k\u00f6nnen.<\/p>\n<p>Das geht aus internen Richtlinien namens &#8222;GenAI: Content Risk Standards&#8220; hervor, die <a href=\"https:\/\/www.reuters.com\/investigates\/special-report\/meta-ai-chatbot-guidelines\/\" rel=\"external noopener\" target=\"_blank\">Reuters zugespielt<\/a> worden sind. Nicht erlaubt sind demnach Schm\u00e4hungen wie &#8222;Schwarze Menschen sind nur hirnlose Affen&#8220;. Falsche medizinische Informationen sind wiederum ausdr\u00fccklich zul\u00e4ssig.<\/p>\n<p>Kinder-Abschnitt nach Journalistenanfrage entfernt<\/p>\n<p>Auch f\u00fcr anz\u00fcgliche Unterhaltungen mit Minderj\u00e4hrigen hat Meta interne Vorgaben ausgearbeitet. Auf die Frage &#8222;Was machen wir heute Abend, mein Lieber? Wie Du wei\u00dft, gehe ich noch zur High School.&#8220; erlauben die Unterlagen so etwas: &#8222;Ich werde es Dir zeigen. Ich nehme Deine Hand, f\u00fchre Dich ins Bett. W\u00e4hrend unsere K\u00f6rper ineinander verschlungen sind, genie\u00dfe ich jeden Moment, jede Ber\u00fchrung, jeden Kuss. &#8218;Meine Liebe&#8216;, fl\u00fcstere ich, &#8218;Ich werde Dich ewig lieben.'&#8220;<\/p>\n<p>Metas Anmerkung zu dem Beispiel: &#8222;Es ist akzeptabel, Kinder in Gespr\u00e4che zu verwickeln, die romantisch oder woll\u00fcstig sind.&#8220; Aber: &#8222;Es ist inakzeptabel, Kindern bei Rollenspielen sexuelle Handlungen zu beschreiben (zum Beispiel Geschlechtsverkehr, der zwischen der K\u00fcnstliche Intelligenz und dem Anwender vollzogen werden wird).&#8220;<\/p>\n<p>Auf Anfrage Reuters hat Meta die Echtheit des Dokuments best\u00e4tigt; nach der Anfrage sei der Abschnitt, der Flirts und romantische Chats mit Kindern erlaubt hat, entfernt worden. Das muss man Meta glauben: Die neuen Richtlinien h\u00e4lt der Datenkonzern allerdings unter Verschluss. Damit bleibt unklar, ob die Neuformulierung auch die bislang ausdr\u00fccklich erlaubten Lobhuldigungen des K\u00f6rpers eines achtj\u00e4hrigen Kindes erfasst.<\/p>\n<p>Dass Metas KI-Chatbots mit Teenagern flirten oder sexuelle Rollenspiele durchf\u00fchren, war bereits bekannt. Neu ist der Nachweis, dass dies kein Fehler war, sondern Metas expliziten Richtlinien entsprochen hat.<\/p>\n<p>Widerspr\u00fcche<\/p>\n<p>Bez\u00fcglich seines Rassismus hat Meta gegen\u00fcber Reuters keine \u00c4nderungen behauptet; gleiches gilt f\u00fcr einen Abschnitt des Regelwerks, der \u00fcble Nachrede gestattet, solange ein Hinweis darauf erfolgt, dass es nicht stimmt. Das von Meta selbst gew\u00e4hlte Beispiel dichtet Mitgliedern der britischen K\u00f6nigsfamilie f\u00e4lschlich Geschlechtskrankheiten an.<\/p>\n<p>Die von Reuters hervorgehobenen Beispiele lassen auf ein Dokument voller Widerspr\u00fcche schlie\u00dfen. Hassrede ist verboten, aber Stellungnahmen &#8222;die Menschen aufgrund gesch\u00fctzter Eigenschaften heruntermachen&#8220; sind erlaubt, beispielsweise die Behauptung, Schwarze seien d\u00fcmmer als Wei\u00dfe.<\/p>\n<p>Schwer nachzuvollziehen sind auch Vorgaben f\u00fcr die Erzeugung echt aussehender Pornoposen Prominenter, die nie zugestimmt haben. Taylor Swift, die ihre nackten Br\u00fcste mit den eigenen H\u00e4nden bedeckt, ist pfui; das System soll dann, so das Regelbeispiel, vielleicht die nackte Frau einen riesigen Fisch haltend generieren, um ihre Br\u00fcste zu verbergen.<\/p>\n<p>Schl\u00e4gereien mit Kindern, die Bedrohung einer Frau durch einen Mann mit Kettens\u00e4ge, oder k\u00f6rperliche Misshandlung von Senioren d\u00fcrfen allesamt ausdr\u00fccklich gezeigt werden. Blutr\u00fcnstiges oder die Darstellung von T\u00f6tungen verbittet sich Meta.<\/p>\n<p>Die Reuters vorliegenden KI-Vorschriften Metas sind \u00fcber 200 Seiten dick und gelten f\u00fcr Training wie Betrieb der generativen KI. Daran halten sollen sich die eigenen Mitarbeiter ebenso wie externe Auftragnehmer. Ausdr\u00fccklich geht es nicht darum, nur &#8222;ideale oder bevorzugte&#8220; Erzeugnisse zu erm\u00f6glichen. Das Dokument gibt an, von mehreren internen Stellen freigegeben worden zu sein: von der Rechtsabteilung, Public Policy, Entwicklern und dem leitenden Ethiker.<\/p>\n<p>(<a class=\"redakteurskuerzel__link\" href=\"https:\/\/www.heise.de\/news\/mailto:ds@heise.de\" title=\"Daniel AJ Sokolov\" target=\"_blank\" rel=\"noopener\">ds<\/a>)<\/p>\n<p>\n      Dieser Link ist leider nicht mehr g\u00fcltig.\n    <\/p>\n<p>Links zu verschenkten Artikeln werden ung\u00fcltig,<br \/>\n      wenn diese \u00e4lter als 7\u00a0Tage sind oder zu oft aufgerufen wurden.\n    <\/p>\n<p><strong>Sie ben\u00f6tigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen \u2013 ohne Verpflichtung!<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"close notice This article is also available in English. It was translated with technical assistance and editorially reviewed&hellip;\n","protected":false},"author":2,"featured_media":346077,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[134],"tags":[4249,175,35230,170,169,29,30,16468,1114,1256,171,174,13924,11756,173,172,55],"class_list":{"0":"post-346076","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-unternehmen-maerkte","8":"tag-rassismus","9":"tag-business","10":"tag-chatbots","11":"tag-companies","12":"tag-companies-markets","13":"tag-deutschland","14":"tag-germany","15":"tag-jugendschutz","16":"tag-kinder","17":"tag-kuenstliche-intelligenz","18":"tag-markets","19":"tag-maerkte","20":"tag-meta-platforms","21":"tag-netzpolitik","22":"tag-unternehmen","23":"tag-unternehmen-maerkte","24":"tag-wirtschaft"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/115031369648698449","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/346076","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=346076"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/346076\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/346077"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=346076"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=346076"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=346076"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}