Stuttgart (dpa) – Ob Amokl\u00e4ufe in Schulen, rassistische oder antisemitische Attentate: Im Grunde kann man die Uhr danach stellen, wann solche Vorf\u00e4lle im Netz debattiert werden. Da gibt es nicht nur Entsetzen oder Anteilnahme f\u00fcr Opfer und Hinterbliebene. Eine sogenannte Fanszene feiert die T\u00e4ter. Die Landesanstalt f\u00fcr Kommunikation Baden-W\u00fcrttemberg (LFK) hat sich das Ph\u00e4nomen im Rahmen einer Schwerpunktanalyse genauer angeschaut.<\/p>\n
Was ist die \u00abAttent\u00e4ter-Fanszene\u00bb?<\/p>\n
Auf sozialen Netzwerken kursieren Inhalte, die Attent\u00e4tern oder Amokl\u00e4ufern huldigen. Nutzer und Nutzerinnen heroisieren sie, suggerieren romantische oder freundschaftliche Beziehungen zu ihnen oder verherrlichen, verharmlosen oder billigen ihre Taten.\u00a0<\/p>\n
Mit Blick auf Rechtsterroristen h\u00e4lt der Verfassungsschutz Baden-W\u00fcrttemberg fest, dass Online-Akteure der \u00abAttent\u00e4ter-Fanszene\u00bb oft recht jung seien. \u00abDennoch weisen sie eine extreme Gewaltaffinit\u00e4t auf, wodurch sie innerhalb der Szene sowohl sich selbst als auch andere Personen immer weiter radikalisieren.\u00bb<\/p>\n
Wie gef\u00e4hrlich ist das?<\/p>\n
Zum einen werden Menschen laut Verfassungsschutz im Extremfall dazu motiviert, Gewaltfantasien umzusetzen. \u00abDie Attent\u00e4ter-Fanszene gilt dabei auch deshalb als besonders gef\u00e4hrlich, weil sie sich selbst verst\u00e4rkt\u00bb, hei\u00dft es \u00e4hnlich in der LFK-Schwerpunktanalyse. Jede Gewalttat k\u00f6nne zu einer neuen Welle an Fan-Inhalten f\u00fchren.\u00a0<\/p>\n
Zum anderen k\u00f6nnen derartige Darstellungen und Kommentare gegen Jugendschutzrecht versto\u00dfen, wie die f\u00fcr den Jugendmedienschutz im Internet zust\u00e4ndige LFK betont. Werden Straftaten gebilligt, k\u00f6nnte das au\u00dferdem strafrechtlich relevant sein.<\/p>\n
Wie sehen solche Inhalte aus?<\/p>\n
Ganz unterschiedlich: Es gibt KI-generierte Videos, in denen T\u00e4ter tanzend gezeigt werden, w\u00e4hrend die Anzahl der ermordeten Opfer eingeblendet wird (Rampage-Dance-Videos). Es gibt Gameplay-Videos, in denen Anschl\u00e4ge oder Amokl\u00e4ufe nachgespielt werden. \u00abZiel ist dabei oft, die eigentliche Tat zu \u00fcbertrumpfen\u00bb, sagt ein LFK-Experte. So gehe es etwa beim nachgestellten Anschlag auf die Synagoge von Halle (Saale) darum, anders als der echte T\u00e4ter in das Geb\u00e4ude zu gelangen und dort zu t\u00f6ten.<\/p>\n
Um zu verhindern, dass Videos schnell gefunden und gel\u00f6scht werden, nutzen Ersteller solcher Inhalte demnach Umschreibungen, Emojis oder abgewandelte Schreibweisen (Algospeak). T\u00e4ter w\u00fcrden beispielsweise als \u00abSchauspieler\u00bb bezeichnet, Hashtags suggerierten ein fiktives Geschehen, und in Texten stehe in Bezug auf die Opfer-Zahl, dass T\u00e4ter soundsoviele \u00abUmarmungen\u00bb\/\u00abGeschenke\u00bb verteilt h\u00e4tten.\u00a0<\/p>\n
Welche konkreten Beispiele gibt es?<\/p>\n
Im Juli hatte ein 16-J\u00e4hriger zwei Sch\u00fclerinnen an einem Gymnasium im oberbayerischen Schongau mit einem Messer schwer verletzt. Laut Ermittlern soll der Kroate in sozialen Netzwerken Amokl\u00e4ufe verherrlicht haben. Im Zusammenhang mit einem t\u00f6dlichen Schwertangriff auf eine 17-J\u00e4hrige im schwedischen Fagersta im August steht das ebenfalls im Raum.<\/p>\n
Was hat die LFK untersucht?<\/p>\n
Die LFK untersuchte, wie einfach Minderj\u00e4hrige auf TikTok mit solchen Inhalten in Kontakt kommen k\u00f6nnen. Sie legte nach eigenen Angaben einen Account mit einem Nutzeralter von 16 Jahren an und simulierte dem Algorithmus ein Interesse an entsprechendem Material. Die Beh\u00f6rde habe sich gezielt TikTok ausgesucht, weil dort besonders viele Kinder und Jugendliche unterwegs seien.<\/p>\n
Was ist dabei herausgekommen?<\/p>\n
Mehr als ein F\u00fcnftel der auf der For-You-Page ausgespielten Videos habe nach dem \u00abTraining\u00bb des Algorithmus unterst\u00fctzend auf Attent\u00e4ter oder Amokl\u00e4ufer Bezug genommen. Zudem stellte die LFK etwa fest, dass bei Eingabe ins Suchfeld zu Vornamen h\u00e4ufig Nachnamen von T\u00e4tern oder Begriffe aus der Szene vorgeschlagen w\u00fcrden.\u00a0<\/p>\n
In der Desktop-Version gebe es von TikTok automatisch generierte KI-Zusammenfassungen, die die verzerrenden Darstellungen und Wortwahl aus Beschreibungen der User aufgreifen – und das Ganze auch mal weitertreiben etwa mit der Frage, was ein \u00abActor\u00bb als N\u00e4chstes tun solle.\u00a0<\/p>\n
Regte die LFK zun\u00e4chst \u00fcber User-Meldungen ein Entfernen an, seien diese Inhalte – bis auf zwei Ausnahmen – erst nach den darauffolgenden Meldungen \u00fcber ein gesondertes Meldeportal f\u00fcr Beh\u00f6rden entfernt worden. Selbst wenn problematische Inhalte gel\u00f6scht seien, tauchten sie rasch in \u00e4hnlicher Form oder auf anderen Accounts wieder auf.\u00a0<\/p>\n
Was sagt TikTok dazu?<\/p>\n
Das Unternehmen reagierte auf eine Anfrage der Deutschen Presse-Agentur zun\u00e4chst nicht. In fr\u00fcheren Stellungnahmen, in denen es etwa um Hatespeech, Extremismus und Radikalisierung geht, distanziert sich TikTok von der Verbreitung hasserf\u00fcllter Ideologien. Gewaltt\u00e4tige oder hasserf\u00fcllte Akteure zu f\u00f6rdern, sei verboten. Das Gros gemeldeter Inhalte werde binnen 24 Stunden entfernt. Viele auch, bevor sie \u00fcberhaupt gemeldet w\u00fcrden.\u00a0<\/p>\n
Ist TikTok das einzige soziale Netzwerk, auf dem Attent\u00e4ter gefeiert werden?<\/p>\n
Nein. Anfang des Jahres haben das Landeskriminalamt Baden-W\u00fcrttemberg und die Generalstaatsanwaltschaften Stuttgart und M\u00fcnchen nach eigenen Angaben die weltweit erste kriminologische Studie zur deutschen \u00abTerrorgramszene\u00bb vorgestellt. Es gehe um ein rechtsextremistisches Netzwerk, das vor allem \u00fcber den Messenger-Dienst Telegram terroristische Gewalt bef\u00fcrworte und propagiere. \u00abAnschl\u00e4ge und Amoktaten werden verherrlicht, und es wird zur Nachahmung aufgerufen\u00bb, hie\u00df es.\u00a0<\/p>\n
Was passiert nun?<\/p>\n
Die LFK hat ihre Erkenntnisse den zust\u00e4ndigen Beh\u00f6rden auf europ\u00e4ischer Ebene \u00fcbergeben, damit die Europ\u00e4ische Kommission m\u00f6gliche Verst\u00f6\u00dfe pr\u00fcfen und in Verfahren gegen TikTok einbinden kann. Ferner ist sie mit Strafverfolgungsbeh\u00f6rden wie dem Bundeskriminalamt im Austausch.<\/p>\n
Was tun?<\/p>\n
Die LFK fordert unter anderem, dass T\u00e4ter-Namen und Ausweichbegriffe bei der Suche konsequent gesperrt und keine KI-Zusammenfassungen erstellt werden. Ferner sollte die Moderation verbessert und schneller auf User-Hinweise reagiert werden.\u00a0<\/p>\n
Um die Gefahr einer Identifikation mit den T\u00e4tern zu reduzieren und keine Nachahmungstaten zu befeuern, empfehlen die Fachleute, in Berichten \u00fcber Taten nicht zu stark auf die schiere Anzahl der Toten zu fokussieren, Tatmotive nicht unzul\u00e4ssig zu vereinfachen und weder die Namen der T\u00e4ter zu nennen noch Fotos von ihnen zu zeigen.<\/p>\n","protected":false},"excerpt":{"rendered":"Stuttgart (dpa) – Ob Amokl\u00e4ufe in Schulen, rassistische oder antisemitische Attentate: Im Grunde kann man die Uhr danach…\n","protected":false},"author":2,"featured_media":1279234,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[1830],"tags":[1634,3364,29,30,1724,198,1584,1441],"class_list":["post-1279233","post","type-post","status-publish","format-standard","has-post-thumbnail","category-stuttgart","tag-baden-wuerttemberg","tag-de","tag-deutschland","tag-germany","tag-gesellschaft","tag-internet","tag-kriminalitaet","tag-stuttgart"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/117210486190807012","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1279233","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=1279233"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/1279233\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/1279234"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=1279233"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=1279233"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=1279233"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}