Mobbing, Belästigung, Cybergrooming, radikale Inhalte: Social Media hat ganz eigene Dynamiken, die es insbesondere Eltern schwierig machen, ihre Kinder vor schädlichen Inhalten zu schützen. Das bayerische Kultusministerium hatte darum zum Schulanfang angekündigt, einen Chat- und Social-Media-Kompass umzusetzen, mit dem Kinder und Jugendliche lernen sollen, reflektiert mit Instagram, TikTok und Co. umzugehen. Ein Start-up aus München hat sich zur Aufgabe gemacht, mit einer KI-App ein zusätzliches Schutzschild zu entwickeln.

Social-Media-Verbot für Kinder und Jugendliche immer wieder in der Diskussion

Das Thema Social-Media-Verbot beschäftigt viele Länder. In Australien wurde im vergangenen Jahr ein Verbot für Kinder und Jugendliche unter 16 Jahren umgesetzt. Doch es wurden bereits Schlupflöcher gefunden, wie trotzdem Accounts erstellt und geführt werden können. In Frankreich wollte man als erstes europäisches Land ebenfalls ein Verbot umsetzen.

Im August hat der Verfassungsrat das Vorhaben aber gekippt. Der Verfassungsrat kritisierte unter anderem, dass die Regelung zu pauschal sei und auch Dienste erfassen könne, bei denen Risiken für Minderjährige nicht nachgewiesen seien. Zudem habe das Gesetz die Privatsphäre der Nutzer bei der notwendigen Alterskontrolle nicht ausreichend geschützt.

Münchner Duo entwickelt App, die Social-Media-Nutzung scannt

Ähnlich sehen das Leonardo Benini und Alexander Wolters. Die zwei 23-Jährigen aus München haben deshalb eine Lösung entwickelt, die wie ein digitales Schutzschild funktionieren soll: die App „Helmit“. Die KI der App soll andere Apps wie Instagram, Mailanbieter oder WhatsApp scannen und etwa Eltern informieren, wenn sie verdächtige Inhalte erkennt. Die Gründer versprechen dabei, dass die KI nicht die gesamten Chats lese. Zudem sollen Eltern mit der App Inhalte filtern, Apps sperren und eine Bildschirmzeit festlegen können.“

Der Elternblog Medienzeit hat die App getestet. Nachholbedarf gebe es bei der Verbindung mit YouTube und in einigen Fällen löse die App auch mal einen Fehlalarm aus. Überwiegend habe die Helmit aber überzeugt. Die App „hat unseren Blick auf das, was im digitalen Alltag passiert, deutlich geschärft. Und es hat dazu geführt, dass wir häufiger und konkreter mit unserem Kind im Austausch sind.“ Das Fazit endet aber auch klar mit der Einschätzung, dass das Programm keine Gespräche oder Begleitung ersetze: „Es ist ein Werkzeug, das unterstützt.“ (mit dpa)