Verkiezingen en online manipulatie – NRC

De ruiten zitten er weer in en de tijdelijke borden met ‘democratie laat zich niet breken’ zijn uit de kozijnen verwijderd. Vanwege het oproer na de Malieveldrellen van afgelopen september herinnert het D66-partijkantoor pal aan de overkant van de straat Pieter van Boheemen nog elke dag aan zijn missie. Op zaterdag 20 september werd het pand doelwit van rechts-extremisten die de ramen ingooiden en een brandende afvalcontainer naar binnen probeerden te rijden.

Van Boheemen is directeur van Post-X Society, een kleine organisatie en draait op projectfinanciering van onder meer Stichting Democratie en Media. Het kantoor huist in het voormalige gebouw van Staalbankiers in Den Haag, dat dus uitkijkt op het Landelijk Bureau van D66. Het politieke geweld dat de partij trof, relateert Van Boheemen direct aan de oproepen tot geweld en gewelddadige beelden die in aanloop naar de Tweede Kamerverkiezingen van 29 oktober veelvuldig rondgingen op online platforms als Facebook en TikTok. Daar waren met AI gegenereerde beelden te zien van nationalistische volksopstanden en mishandeling van politici als Frans Timmermans en Jesse Klaver. Op dit moment richt de haat zich in AI-filmpjes op TikTok onder meer op de beoogde nieuwe premier Rob Jetten. Caroline van der Plas basketbalt met zijn hoofd in de Tweede Kamer en Donald Trump kiepert de D66-leider van een brug.

Pieter van Boheemen van Stichting Post-X Society.

Foto Els van den Hoek

Zoom in

„Er is genoeg onderzoek waaruit blijkt dat online haatcampagnes uiteindelijk resulteren in daadwerkelijk geweld. Dat Frans Timmermans in aanloop naar de verkiezingen werd belaagd in een Amsterdams café was geen toeval, gezien de haat die hem online ten deel viel”, zegt Van Boheemen.

Met de gemeenteraadsverkiezingen van 18 maart op komst is Van Boheemen op zoek naar nieuwe financiers om, net als in aanloop naar de Tweede Kamerverkiezingen, de online platforms te monitoren. Donderdag publiceert Post-X Society – samen met UvA-onderzoekers en de onderzoeksorganisaties AI Forensics, Trollrensics en Justice for Prosperity – een rapport over de voorbije verkiezingen. Volgens de onderzoekers verliepen de Tweede Kamerverkiezingen nog „vrij en eerlijk”, maar neemt de dreiging van online manipulatie snel toe.

Jullie schrijven dat de verkiezingen „onder dreiging” verliepen. Wat bedoelen jullie daarmee?

„We hebben gezien dat vanuit Vietnam en West-Afrika op een gecoördineerde manier de zichtbaarheid van Frans Timmermans en van politici van de PVV en FVD werd vergroot. We hebben gezien dat kunstmatige AI-beelden op grote schaal werden ingezet om politieke kandidaten zwart te maken, onder meer door Tweede Kamerleden van de PVV. We zagen dat online platforms niet reageerden op meldingen over content die duidelijk in overtreding is met hun eigen beleid. De nationale toezichthouder kan weinig doen, want het toezicht op de grote platforms is belegd bij de Europese Commissie in Brussel. Of die wat met meldingen doet en zo ja wat, is onduidelijk. Er zijn dus allerlei structurele tekortkomingen en er zijn individuen, politieke partijen en vermoedelijk ook andere landen die gemotiveerd zijn om daar misbruik van te maken.”

Bij buitenlandse inmenging ging het om duizenden Vietnamese ‘likes’ op de Facebookpagina van Frans Timmermans en om honderden Afrikaanse X-accounts die de PVV en FVD versterkten met likes en retweets. Is dit zo groot dat het invloed kan hebben?

„Dat valt natuurlijk niet te bewijzen. Heeft dit een zetel verschil gemaakt of niet, dat weet je niet. Maar je weet ook niet of wij alles hebben gevonden wat er aan buitenlandse inmenging heeft plaatsgevonden. Waarschijnlijk is er meer gebeurd dan wij hebben gezien.”

We weten uit eerder onderzoek dat dit soort beïnvloedingsoperaties door buitenlandse ’troll farms’, die tegen betaling partijen en kandidaten ondersteunen. In theorie kunnen de opdrachten daarvoor ook uit Nederland zijn gekomen, toch?

„In theorie zou dat kunnen ja. Het inkopen van die Vietnamese likes heeft misschien maar enkele euro’s gekost. We hebben het bedrijf gevonden dat de opdracht heeft uitgevoerd, maar we weten niet wie ervoor heeft betaald. was het wel bedoeld om Timmermans in diskrediet te brengen, omdat het dan zou lijken of GroenLinks-PvdA zelf likes had ingekocht. Die operatie via Afrika was groter en we weten dat Rusland eerder via dezelfde route verkiezingen heeft beïnvloed. . We weten niet van wie de opdracht is gekomen.”

Wat heeft vanuit de online platforms volgens jou de grootste invloed gehad op de verkiezingen?

„De haatcampagnes en de daaruit voortvloeiende beeldvorming over partijen en politici die daar het doelwit van zijn. Vooral Frans Timmermans was het doelwit en ik denk dat dat zijn imago wel heeft geschaad.”

Veel uiterst rechtse politici zullen vermoedelijk zeggen dat vrijheid van meningsuiting hoort bij een democratie, tenzij er sprake is van strafbare uitingen.

„Strafbare uitingen moet je sowieso aanpakken. En dat gebeurt nu meestal ook al niet. We zagen dat filmpjes met oproepen tot geweld of mishandeling van politici een groot bereik hadden en niet werden verwijderd als je daar op het platform een melding van maakte. Pas toen journalisten erover schreven, gebeurde er wat. De consequenties voor de online platforms vanwege het verspreiden van dit soort beelden blijven ook onduidelijk. De ACM [Autoriteit Consument en Markt] verwijst naar de Europese Commissie, want de grote platforms vallen onder toezicht van Brussel. Misschien gaat de Commissie meldingen uit Nederland gebruiken voor rechtszaken die ze voeren tegen X en TikTok, maar zeker weten we dat niet.

Eigenlijk zou je voor de digitale wereld een toezichthouder willen die bij TikTok binnenstapt als er strafbare uitingen op het platform worden gedaan

„Rond de verkiezingen bleek een scheur in een plafond te zitten van een winkelcentrum in Nieuwegein. De gemeente liet het winkelcentrum direct sluiten om het gevaar te onderzoeken. Eigenlijk zou je ook voor de digitale wereld een toezichthouder willen die bij TikTok binnenstapt als er strafbare uitingen op het platform worden gedaan en ter plekke vraagt wat ze eraan doen.

„Als het gaat om niet strafbare uitingen formuleren de platforms allerlei gedragsregels om polariserende content tegen te gaan, die ze vervolgens nauwelijks handhaven. Onder invloed van Trump hebben Amerikaanse platforms flink gesneden in de moderatie, waardoor er nu weer veel meer polariserende uitingen mogelijk zijn.”

Wat is het grootste gevaar voor aankomende verkiezingen?

„Het lukt steeds minder goed om van AI-beelden te bepalen of ze nep zijn of niet. Zodra er iets gebeurt, gaan er direct gemanipuleerde AI-beelden rond. Zo ook recent na de schietpartij in Minneapolis, waarbij een 37-jarige vrouw door een ICE-agent werd doodgeschoten. Individuen of partijen die dit soort beelden manipuleren kunnen dus een steeds grotere invloed krijgen. In Nederland zagen we in aanloop naar de verkiezingen iemand die een anti-azc-lied had gemaakt met AI. Dat belandde op nummer 2 in de Spotify Top 50. Ook het betalen van kan een steeds hogere vlucht nemen nu de regels rond advertenties van politieke partijen zijn aangescherpt en de online platforms vervolgens hebben besloten om helemaal geen politieke advertenties meer toe te staan, omdat ze die regels te ingewikkeld zeggen te vinden. TikTokker Mees Wijnants is bijvoorbeeld regelmatig te gast in uitzendingen van FVD en heeft bijna 154.000 volgers. Zo iemand kan een invloedrijke stem zijn.

Wat moet er gebeuren?

„Het is eigenlijk te gek voor worden dat wij als particuliere organisaties deze risico’s monitoren. Het toezicht vanuit de overheid moet veel strenger worden.”

Geef cadeau

Deel

Mail de redactie

De journalistieke principes van NRC