Der Fall um Schauspielerin Collien Fernandes lenkt die Aufmerksamkeit derzeit auf digitale Gewalt und Deepfakes. Doch nicht nur Prominente und Erwachsene laufen Gefahr, Opfer zu werden. Auch unter Kindern und Jugendlichen haben Künstliche Intelligenz (KI) und damit entsprechende Anwendungen, mit deren Hilfe etwa Deepfakes – also KI-generierte, gefälschte Medien – angefertigt werden können, längst Einzug gehalten. Das bestätigt auch die JIM-Studie aus dem Jahr 2025. Auch an Schulen in Stuttgart und Baden-Württemberg sind Deepfakes ein Thema.

Genaue Zahlen zu Fällen in Verbindung mit Deepfakes gibt es laut Angaben der Polizei nicht. Das Problem: Derzeit ist die Anfertigung solcher KI-Inhalte kein expliziter Straftatbestand und daher auch nicht direkt anzeigbar. Betroffene können lediglich auf andere Paragrafen im Strafrecht verweisen, etwa das Recht am eigenen Bild.

Deepfakes und KI-Missbrauch sind auch an Schulen in Stuttgart Thema

Auch das Staatliche Schulamt Stuttgart kann auf Anfrage unserer Redaktion keine konkreten Fälle oder Zahlen nennen. Dass das Thema an Schulen präsent ist, bestätigen jedoch Präventionsmaßnahmen rund um das Thema KI, die im Bildungsplan enthalten sind, etwa das Fach Information- und Medienbildung. Darauf verweist die stellvertretende Amtsleiterin Birgit Popp-Kreckel auf Anfrage. Sie erklärt zudem: Fast alle Schulen der Sekundarstufe 1 in Stuttgart nehmen zudem an Präventionsprogrammen der Polizei teil.

Manfred Birk, geschäftsführender Schullleiter der Stuttgarter Gymnasien, ergänzt einen Aufruf des Zentrums für Schulqualität und Lehrerbildung (ZSL). Demnach sind Schulen in Stuttgart und Baden-Württemberg seit März 2025 dazu verpflichtet, eigene Schutzkonzepte gegen sexualisierte Gewalt zu entwickeln.

Der Schulleiter berichtet von einem Fall, in dem eine Schülerin ans Stuttgarter Gymnasium gekommen sei, die ihre vorige Schule aufgrund eines Falles von digitaler Gewalt verlassen habe. Damit es zu Fällen wie diesen gar nicht erst komme, sei die präventive Aufklärung im Klassenzimmer entscheidend, so Birk.

Der geschäftsführender Schulleiter für die Stuttgarter Gymnasien und Schulleiter des Stuttgarter Dillmann-Gymnasiums, Manfred Birk Foto: Lichtgut/Leif Piechowski Medienpädagogin berichtet von gefälschten Nacktbildern von Schülerin

Dass Deepfakes auch an Schulen ein Thema sind, bestätigen nicht nur Schulvertreter. „Es ist ein Phänomen, das auch Kinder und Jugendliche betrifft“, sagt auch Saskia Nakari. Die Medienpädagogin gibt im Auftrag des Landesmedienzentrums Baden-Württemberg und des Stadtmedienzentrums Stuttgart Workshops für Schülerinnen und Schüler, bildet Lehrkräfte, Kriminalbeamte und pädagogische Fachkräfte zu digitalen Grenzüberschreitungen weiter und informiert Eltern. Zudem ist sie Host des Podcasts „SchoolCrime – Smartphones in Kinderhand“, der Kriminalfälle aus dem Schulalltag aus Expertensicht beleuchtet.

Die Medienpädagogin berichtet von einem Fall an einer Schule in Baden-Württemberg, bei dem ein Schüler ein Klassenfoto genutzt habe, um gefälschte Nacktbilder seiner Mitschülerinnen anzufertigen. In einem anderen Fall seien KI-generierte Fake-Fotos über die Social-Media-Plattform TikTok verbreitet worden.

Schulen Handwerkszeug mitgeben und Schüler und Eltern aufklären: Medienpädagogin Saskia Nakari arbeitet zum Thema Jugendmedienschutz. Foto: Landesmedienzentrum BW

Das Problem von Deepfakes habe mit dem Einzug von KI in den vergangenen Jahren zugenommen. Schülerinnen und Schüler gerieten häufig an sogenannte „Nudify“-Apps, die mithilfe von KI ohne Einwilligung der betroffenen Personen gefälschte Nacktbilder erstellen, so die Expertin. „Wenn heute mit KI so viel möglich ist, muss ja klar sein, dass das auch diesen Bereich betrifft.“

Sexualisierte Gewalt im digitalen Raum durch Aufklärung vermeiden

Das unterstreicht auch Benjamin Köhler, Rektor des Königin-Charlotte-Gymnasiums (KCG) in Stuttgart-Möhringen. „Wenn ein Problem in der Gesellschaft vorhanden ist, ist das auch an Schulen ein Thema. Natürlich spielen Deepfakes bei Schülerinnen und Schülern eine Rolle, seitdem es diese Möglichkeit gibt.“

Darüber will der Lehrer aufklären. Mit Unterstützung der Vector-Stiftung und der Stadt Stuttgart hat er seine Schule im vergangenen Jahr zur Pilotschule in Sachen KI gemacht. Viermal pro Schuljahr finden dort KI-Schulungen statt, zudem gehen spezielle Teams in die Klassen und informieren zum Thema sexualisierte Darstellungen und deren Folgen für Betroffene.

Ein Schritt, den auch Medienpädagogin Saskia Nakari unterstützt. Gleichermaßen spielt für sie die Aufklärung des Lehrpersonals eine wichtige Rolle. „Die Schulen brauchen zum Teil noch mehr Handwerkszeug, um in solchen Situationen richtig zu reagieren und dem betroffenen Kind geholfen werden kann, ohne, dass es bloßgestellt wird“, sagt sie. Schulen seien dazu angehalten, auch spezialisierte Fachberatungsstellen im Bereich sexualisierter Gewalt hinzuzuziehen.

Medienpädagogin: Viele Eltern wissen nicht, was im Netz möglich ist

Doch nicht nur an Schulen ist Aufklärung gefragt. Während viele Kinder und Jugendliche über die Anwendungen Bescheid wissen, seien die Gefahren bei Eltern oft noch nicht angekommen, so Saskia Nakari. „Erwachsene müssen mehr darüber Bescheid wissen, welche Möglichkeiten im digitalen Raum bestehen, virtuell Gewalt auszuüben.“

Das beginne bereits im Klassenchat, bei dem, wie auch im realen Klassenraum, klare Umgangsregeln gelten sollten. Ohnehin könne eine Unterscheidung zwischen analogem und digitalem Raum so gar nicht mehr getroffen werden, so die Expertin.

„Sexting ist für Jugendliche zum Teil so etwas wie ein Vorspiel“

Denn Beziehungen unter Jugendlichen fänden längst auch digital statt. „Sexting via Kurznachrichten beispielsweise ist für Jugendliche zum Teil so etwas wie ein virtuelles Vorspiel“, erklärt Nakari.

Das berge Gefahren, wenn Jugendliche aus einem Impuls heraus Nacktbilder verschickten, ohne über die Konsequenzen nachzudenken. „Wir dürfen das Thema nicht tabuisieren, sondern müssen mit Kindern und Jugendlichen offen darüber sprechen und ihnen Tipps geben“, so die Expertin. „Da sollten wir als Erwachsene ernstzunehmende Ansprechpartner sein.“

Damit auch Deepfakes künftig als Straftat gewertet werden und Fälle zur Anzeige gebracht werden können, kündigte Bundesjustizministerin Stefanie Hubig (SPD) kürzlich an, diese Gesetzeslücke schließen und Betroffene digitaler Gewalt darüber hinaus unterstützen zu wollen – etwa über richterlich angeordnete Account-Sperren auf Social Media.

„Eine Katastrophe“: Schulleiter fordern gesetzliche Grundlage und mehr Jugendschutz

Auch Schulleiter Manfred Birk wünscht sich in derartigen Missbrauchsfällen eine gesetzliche Grundlage. „Wenn Täter und Opfer auf dieselbe Schule gehen, ist ein solcher Fall zumindest innerhalb der schulischen Disziplinarmaßnahmen justiziabel, für eine offizielle Strafanzeige fehlt dafür aber noch die gesetzliche Grundlage.“

Auf eine juristische Entwicklung hofft auch Schulleiter Benjamin Köhler – auch was den Jugendschutz im Netz angeht. „Wenn ich mir anschaue, wann man Kindern und Jugendlichen derzeit online verfügbar macht, das ist eine Katastrophe. Es ist eine ständige Einladung Dinge zu tun, die schlimme Konsequenzen haben.“

Studie zu Jugendlichen und KI

JIM-Studie 2025
Die JIM-Studie des Medienpädagogischen Forschungsverbunds Südwest dokumentiert jährlich das Mediennutzungsverhalten von Kindern und Jugendlichen. Laut der Studie aus dem Jahr 2025 nutzt mit 91 Prozent eine große Mehrheit der 12- bis 19-Jährigen heutzutage KI.

Sexualisierte Gewalt durch KI
Das gemeinsame Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet, jugendschutz.net, bearbeitete laut Angaben des Bundesministeriums für Bildung, Familie, Senioren und Jugend im Jahr 2023 bundesweit 7.645 Verstoßfälle. Davon waren zwei Drittel sexualisierter Gewalt zuzuordnen.