De gedachte is simpel: verban gewoon álle extremistische content van sociale media. Haatdragende plaatjes en filmpjes, waarin geweld wordt verheerlijkt of wordt opgeroepen, worden dan gefilterd.
Maar toen Bibi van Ginkel en vier andere onderzoekers zich wierpen op die taak, constateerden ze dat het helemaal niet zo simpel is, zo blijkt uit een dinsdagochtend verschenen onderzoek. „Veel informatie kun je op meerdere manieren interpreteren”, zegt Van Ginkel. „Je houdt daardoor altijd een grijs gebied. Er is geen raamwerk waar je alles doorheen kunt gooien waarna alleen nog de content overblijft die er mág zijn en die niet stiekem extremistisch is.”
Veel content is satirisch, humoristisch of heeft een verborgen extremistische boodschap
Bibi van Ginkel.
Foto Susanne Middelberg
Zoom in
Daarmee heeft het WODC wellicht een verrassend antwoord gekregen op de vraag die het Van Ginkel stelde. Het wetenschappelijk instituut van het ministerie van Justitie en Veiligheid had gevraagd naar de mogelijkheid van zo’n „universeel toetsingskader”. Dat is ambtelijke taal voor ‘duidelijke richtlijnen’ voor wat van sociale media verwijderd kan worden omdat het extremistisch zou zijn.
Van Ginkel – expert contraterrorisme en onder meer verbonden aan het International Centre for Counter-Terrorism – en haar team trokken daarop de sociale media Reddit, TikTok en Instagram leeg. Ze bekeken posts over de rellen rondom Ajax–Maccabi Tel Aviv en de ‘White Lives Matter’-projectie op de Rotterdamse Erasmusbrug.
Fundamenteel recht
„Veel extremistische content was eenvoudig te filteren”, zegt Van Ginkel. Maar daarna werd het ingewikkelder. „Veel content is satirisch, humoristisch of heeft een verborgen extremistische boodschap. Zelfs toen we probeerden die boodschappen te herkennen, kwamen we vaak niet tot dezelfde conclusie of het echt extremistisch was.”
Verwijder je de content uit dat „grijze gebied”, zegt ze, dan botst dat met een fundamenteel recht als vrijheid van meningsuiting. Dat maakt universele richtlijnen zo ingewikkeld, stelt Van Ginkel. „Content is bijvoorbeeld awful but lawful. En je wilt niet het kind met het badwater weggooien.”
Lees ook
‘Niet elke jongere die zich online extreem gedraagt is een gewelddadige nihilist’
De context van posts is bovendien altijd anders, zegt ze. „Wat we hier normaal vinden, kan in een ander land heel anders geïnterpreteerd worden. Het denken is anders, of de humor. Satire en ironie zijn voor computers heel lastig te lezen, dus je moet de lokale context kennen waarin iets geplaatst is. Je moet goed op de hoogte zijn van trends en van hoe uitdrukkingen gebruikt en misbruikt worden door groepen. Daar zijn grote AI-modellen nog niet goed toe in staat.”
Tegelijkertijd, vervolgt Van Ginkel, „zetten grote socialemediaplatformen wel de mensen op straat die dat wél kunnen. En ze geven geen helderheid over hoe ze besluiten nemen over wat ze wel of niet verwijderen. Door rechtszaken leren we daar langzaam wel iets over, maar dat gaat traag. We lopen achter de feiten aan.”
We weten, zegt ze, „dat de echte betekenis van posts soms verborgen blijft en dat extremistische groepen daar tactisch gebruik van maken. Je probeert door die agenda heen te prikken. Maar dat gaat razendsnel. Een emoji van een beker witte melk lijkt onschuldig, maar staat voor white supremacy. Mensen delen zoiets gemakkelijk, het ziet er grappig uit. Maar de boodschap eronder is extremistisch.”
Als je dit hoort kun je denken: het is dus onmogelijk om grip te krijgen op online extremisme. Is dat zo?
„Nee, er zijn wel opties. Allereerst door jongeren online weerbaarder te maken. Ze worden online heel gemakkelijk meegenomen in extremisme, er wordt gespeeld met hun emoties. Op scholen moeten ze nog meer dan nu leren over mediawijsheid. Daarnaast kan de overheid het debat stimuleren over de rol van grote techbedrijven. Dat gesprek moet echt meer gevoerd worden.”
„Ik merk ook dat overheden het ingewikkeld vinden om van content die in het grijze gebied valt vast te stellen dat het over een grens gaat. Vaak uit angst verweten te worden de vrijheid van meningsuiting te beperken. En er zijn strakke regels nodig voor techplatforms. Dat is niet alleen aan Nederland, het moet Europees. Eis meer transparantie over hóé er gemodereerd wordt bijvoorbeeld.”
„Je kunt daarbij denken aan een soort online keurmerk dat ouders duidelijk maakt hoe bedrijven hun content modereren, of niet. Daarin mogen ook best verschillen bestaan tussen platformen, dat zijn reflecties van een pluriforme maatschappij. Maar het moet wel duidelijk zijn hoe ze modereren. En vanuit het maatschappelijk middenveld moet je scherp blijven op de achterliggende problemen, welke taal en codes worden gebruikt om extremisme te verhullen, en die kennis delen met de bedrijven.”
Dat alles veronderstelt wel dat die bedrijven welwillend zijn. Maar aan uw onderzoek wilden ze niet meewerken.
„Klopt, ze speelden mooi weer bij de NCTV. Wij wilden ze graag uitnodigen voor interviews en expertsessies. Dan mailden ze de NCTV dat wij ze best mochten benaderen. Maar letterlijk een minuut nadat ze die mail verstuurden lieten ze ons weten niet mee te willen werken. Alleen: money talks. Als zo’n keurmerk over moderatie ontbreekt, gaan mensen misschien wel naar andere platformen. Je ziet nu al dat mensen van WhatsApp overstappen naar Signal en dat WhatsApp vervolgens campagnes begint om mensen terug te halen, dat ze methodes aanpassen en tegemoet proberen te komen aan de gevoelens van onveiligheid.”
Lees ook
Kinderen worden afgeperst en aangezet tot automutilatie of zelfs moord: in deze chatgroepen worden de meest sadistische beelden gedeeld
Geef cadeau
Deel
Mail de redactie
NIEUW: Geef dit artikel cadeau
Als NRC-abonnee kun je elke maand 10 artikelen cadeau geven aan iemand zonder NRC-abonnement. De ontvanger kan het artikel direct lezen, zonder betaalmuur.
Waarom je NRC kan vertrouwen