Nieuws in het kort

  • De onderzoeksredactie van RTL Nieuws heeft op X (voorheen Twitter) en met hulp van het Nederlandse softwarebedrijf Trollrensics meer dan 550 nepaccounts gevonden, die zich voor en na de Tweede Kamerverkiezingen actief hebben bemoeid met politieke en polariserende berichten.
  • Dat gebeurde onder meer door berichten te delen en kleine zeer actieve en uitgesproken accounts massaal te volgen. Daardoor zijn tweets en gebruikers populairder voorgesteld en zijn deze vermoedelijk bij meer X-gebruikers op hun tijdlijn verschenen.
  • De nepaccounts, die opereren met nepnamen en namen van bekende Nederlanders, worden voornamelijk aangestuurd vanuit landen in West-Afrika. Zo zijn 225 accounts te herleiden naar Nigeria.
  • Meerdere deskundigen zien aanwijzingen voor Russische invloed.

“Journalist en auteur Wierd Duk introduceerde de term ‘asielplaag’ in de talkshow NIEUWS VAN DE DAG. In verband met de (grote) groep Syriërs, kunnen we inderdaad spreken van een ware ‘asielplaag'”, post gebruiker Jan-Willem Bakker begin september op X (voorheen Twitter). Het bericht wordt meerdere keren gedeeld, onder wie op 7 september om 23.51 uur door een gebruiker met als accountnaam Anock Van Dinik.

Op het oog niets geks, al is de naam van de retweeter wel bijzonder. Zo komt de voornaam Anock niet voor in de Nederlandse voornamendatabank van het Meertens Instituut en is het in Nederland niet gebruikelijk om ‘Van’ met een hoofdletter te schrijven. Ook valt op dat deze Anock Van Dinik na een jarenlange radiostilte op 7 september tussen 23.51 uur en 23:54 uur in recordtempo 38 retweets van Nederlandse accounts plaatst. De inhoud varieert, maar de meeste tweets gaan over onderwerpen die de samenleving verdelen, zoals migratie of de situatie in Gaza.

Selectie retweets van Anock Van Dinik

RTL Nieuws ontdekte dat er op X veel meer accounts onder dezelfde naam actief zijn of waren. Eén daarvan is na de verkiezingen omgedoopt tot het account van een gebruiker met de al even opmerkelijke naam Elizabath van dan Berg. Ook de profielfoto werd gewijzigd in een Russische vlag met de tekst: ‘Ik ben niet in oorlog met Rusland’.

Onderstaande accounts uit het netwerk van Anock Van Dinik zijn allemaal aan elkaar verbonden. Bijvoorbeeld doordat dezelfde naam, foto’s of biografie wordt of werd gebruikt. Klik op een foto voor meer informatie over de gelijkenissen.

Anock komt uit Ghana

Anock, Elizabath en veel andere vergelijkbare accounts komen helemaal niet uit Nederland. RTL Nieuws ontdekte dat het merendeel vanuit Ghana opereert. Van daaruit worden Nederlandse berichten geretweet en worden veel Nederlandse accounts gevolgd.

Door te zoeken op namen en met behulp van software van het Nederlandse bedrijf Trollrensics, dat onderzoek doet naar opvallend gedrag op sociale media, ontdekte RTL Nieuws nog veel meer nepaccounts. Daarvoor is onder meer gekeken naar overeenkomende namen, profielfoto’s en biografieën en aanmaakdata. In totaal zijn op deze manier 550 nepprofielen geïdentificeerd. 

Het merendeel van deze accounts is net als Anock en Elizabath actief vanuit West-Afrika. Naast Ghana valt vooral ook Nigeria op. Zeker 225 nepaccounts worden aangestuurd vanuit dat land.

Rechtse retweets 

De 550 gevonden nepaccounts waren sinds 1 oktober goed voor ruim 23.000 berichten op X. Het overgrote merendeel hiervan waren retweets van andere accounts. Zo zijn posts van ruim 440 Nederlandstalige accounts versterkt. Het gaat voornamelijk om politici en rechtsgeoriënteerde opiniemakers.

De politieke partij die de meeste retweets kreeg van de nepaccounts is Forum voor Democratie. Tweets vanuit het partijaccount, maar ook van partijleider Lidewij de Vos en Thierry Baudet werden op die manier versterkt. Zo werd een dag voor de verkiezingen bijvoorbeeld een oproep van Baudet om op FvD te stemmen gedeeld. Ook Geert Wilders en zijn PVV konden rekenen op extra aandacht. 

Ook van andere partijen of politici worden berichten gedeeld, maar het zijn er aanzienlijk minder. Zo vond RTL Nieuws voor CDA en VVD bijvoorbeeld maar 1 retweet.

Bericht over verkiezingsfraude vaak gedeeld

Opiniemakers met meerdere retweets van de buitenlandse nepaccounts zijn onder anderen presentatrice Raisa Blommestijn en rapper Kafka. Het bericht dat de meeste retweets vanuit de nepaccounts kreeg, is een bericht waarin door gebruiker Dutch Digger News verkiezingsfraude wordt gesuggereerd.

“Dit netwerk speelt in op hoe er wordt gedacht over bepaalde onderwerpen. Het gevolg: een vals beeld van de populariteit van sommige accounts of posts die plots veel likes krijgen en gedeeld worden”, zegt onderzoeker Luuk Ex van het Rathenau Instituut. Dat instituut is door de Tweede Kamer gevraagd om onderzoek te doen naar de technische mogelijkheden die sociale media platformen bieden om kandidaten te bevoordelen.

Volgens Ex krijgen gebruikers van X door het gedrag van de nepaccounts mogelijk een verstoord beeld van bepaalde politici en issues. “X was al niet representatief voor wat Nederland denkt, maar deze accounts proberen uiterst rechtse en anti-institutionele standpunten populairder te laten lijken dan ze waarschijnlijk zijn.”

Een ander mogelijk doel is volgens Ex het zaaien van verdeeldheid. “Er wordt gemengd in onderwerpen waarover politieke verdeeldheid is. Dit kan gebeuren met het doel om mensen tegen elkaar op te zetten. Verdeeldheid in een land te vergroten. Het lijkt hierdoor alsof Nederlanders verdeelder zijn dan ze in werkelijkheid zijn.”

‘Herhaling effectief’

Volgens universitair docent politieke communicatie en journalistiek Tom Dobber (UvA) ‘bespelen’ de nepaccounts X door berichten van radicaalrechtse gebruikers te versterken. Volgens Dobber zijn mensen geneigd meer in een boodschap te geloven als die maar vaak herhaald wordt. “We weten uit onderzoek dat dat behoorlijk effectief is. Dus deze berichten dragen bij aan het creëren en bestendigen van een wereldbeeld zoals de beïnvloeder dat graag ziet.”

Er zijn al langer zorgen over bots, trollen en mogelijk ongewenste beïnvloeding via sociale media. Zo werd vorig jaar in Roemenië een stemronde tijdens de verkiezingen ongeldig verklaard, nadat berichten op sociale media mogelijk doelbewust kiezers richting een van de kandidaten probeerden te lokken. In juli besloot het Franse Openbaar Ministerie het platform X strafrechtelijk te onderzoeken, omdat het via het algoritme ruimte zou geven aan buitenlandse inmenging.

Likes niet te traceren

In het onderzoek is gekeken naar eigen berichten, retweets, reacties en volgacties. Allemaal hebben een positief effect op het algoritme van X. Veelgedeelde berichten en populaire gebruikers verschijnen sneller in de tijdlijn van gebruikers. Ook likes op berichten dragen bij aan zichtbaarheid. Onder de nieuwe eigenaar Elon Musk heeft X echter besloten om likes af te schermen. Hierdoor is wel te zien hoe vaak een bericht is geliket, maar niet door wie. 

Afgelopen zomer stuurde de Autoriteit Consument en Markt (ACM) de grootste sociale mediaplatforms in Nederland, waaronder X, een brief met het oog op de verkiezingen. In de brief wees de ACM op de verplichting van platformen om negatieven effecten op verkiezingsprocessen te analyseren en waar nodig maatregelen te nemen. 

‘Aanwijzingen voor Russische invloed’

Ook de Algemene Inlichtingen en Veiligheidsdienst (AIVD) waarschuwt al langer voor beïnvloedingsactiviteiten rond verkiezingen. De dienst zegt in een reactie op het onderzoek van RTL Nieuws geen signalen te hebben van ‘een grootschalige campagne gericht op Nederland waar de hand van een statelijke actor achter zit’.

Directeur Jelle Postma van Justice for Prosperity, dat onderzoek doet naar democratische ondermijning, wijst erop dat ’trolfabrieken’ in West-Afrika die desinformatie verspreiden eerder zijn gelinkt aan Rusland. Volgens Postma staat vast dat ‘Russen vanuit West-Afrika dit soort operaties runnen.’

Ook universitair docent Tom Dobber van de UvA vermoedt dat Rusland betrokken is. “De steun voor Forum voor Democratie wijst in die richting. Rusland ziet FvD als vriendelijk tegenover Rusland, onder andere vanwege de standpunten over wapenleveranties aan Oekraïne. We hebben in de VS ook bewijs gezien van dit soort beïnvloedingscampagnes gericht op enerzijds het helpen van kandidaat A, het beschadigen van kandidaat B en tegelijk het versterken van bestaande spanningen in de samenleving.”

Accounts ook actief op andere social media

Het onderzoek van RTL Nieuws richtte zich vooral op het platform X (voorheen Twitter). Veel profielnamen en foto’s van nepaccounts komt de onderzoeksredactie echter ook tegen op andere social mediakanalen, zoals Facebook, TikTok en Instagram. 

Zo claimt een gebruiker op Facebook met de naam Anock van Dinik de officiële fanpagina van schaatser Jutta Leerdam te zijn. Eerder was hetzelfde account lid van Koreaanse politieke Facebookgroepen. In hoeverre ook op andere platformen signalen van mogelijke beïnvloeding zijn door het op X gevonden netwerk, is niet nader onderzocht.

Namen BN-ers misbruikt

De accounts zijn niet alleen actief onder verzonnen namen. Ook namen van bekende Nederlanders worden misbruikt voor nepprofielen. Het gaat bijvoorbeeld om muzikant Andre Rieu, actrice Karin Bloemen en voormalig politicus Henk Otten. 

Ook op X werd de naam van Jutta Leerdam misbruikt. Op 26 september verscheen daar een nieuw account onder haar naam. Al snel volgde het account van deze nep-Jutta tal van polariserende accounts en werd er van alles geretweet. 

Na de verkiezingen is ook dit complete profiel gewijzigd. Nep-Jutta heet nu Maria Bram, heeft een profielfoto met een Nexit-logo en een achtergrondfoto van een Nederlandse vlag met daarop de tekst ‘Het klopt niet’. Die tekst wordt veel gebruikt in berichten over verkiezingsfraude. Het account blijft polariserende en politiek gekleurde berichten retweeten, maar van de naam Jutta Leerdam is geen spoor meer te vinden.

Afbeelding Veel nepvolgers voor kleine gebruikers

Naast het versterken van politieke en polariserende berichten, volgen de nepaccounts ook massaal accounts die veel polariserende berichten plaatsen. Daarbij valt op dat vooral kleinere en anonieme accounts veel volgers krijgen en niet bijvoorbeeld de accounts van politici, politieke partijen of opiniemakers. 

Daardoor kan het volgens deskundigen lijken dat bepaalde accounts aanzienlijk populairder zijn, dan daadwerkelijk het geval is. De meest gevolgde kleinere accounts hebben als overeenkomst dat ook hun tijdlijn veelal bestaat uit sterk politiek gekleurde berichten.

RTL Nieuws vond in totaal 204 verschillende accounts die door meer dan 50 nepaccounts worden gevolgd. Daarnaast is van 161 accounts vast te stellen dat meer dan de helft van hun volgers uit nepaccounts bestaat.

In de volgerslijsten van deze accounts vonden RTL Nieuws en Trollrensics diverse aanwijzingen dat het aantal nepaccounts nog vele malen groter is. Zo werden bij de veel gevolgde Nederlandstalige accounts nog eens honderden niet geïdentificeerde accounts gevonden die actief zijn vanuit West-Afrika en Azië.

Omvang waarschijnlijk groter

Ook Justice for Prosperity signaleerde in eigen onderzoek al opmerkelijke zaken. Zo zag directeur Postma in aanloop naar de verkiezingen veel accounts die vrijwel gelijktijdig exact hetzelfde bericht over Geert Wilders deelden. Nu sinds kort via X te zien is van waaruit deze accounts opereren, blijkt ook hier het merendeel actief vanuit West-Afrika en Aziatische landen.

Overigens lijkt Nederland bij lange na niet het enige doelwit. Veel accounts delen ook polariserende en politiek getinte berichten uit andere met name westerse landen.

Accounts geschorst

In haar eigen gebruikersregels stelt X dat wordt opgetreden tegen onjuist gebruik. Zo mag bijvoorbeeld geen haat worden gezaaid of aangejaagd. Gebruikers mogen zich niet uitgeven voor andere personen om andere te misleiden, verwarren of bedriegen. Ook mogen de diensten van X niet worden gebruikt om informatie kunstmatig te versterken, verkiezingen te manipuleren of belemmeren.

RTL Nieuws volgde gedurende de verkiezingscampagne de 550 geïdentificeerde nepaccounts en een deel van hun netwerk op X. In de afgelopen weken lijkt het platform steeds meer van deze nepaccounts te schorsen, maar het gros van de gevonden nepaccounts is nog gewoon actief en ook na de verkiezingen worden met name polariserende berichten en accounts gepusht. Zo kregen bijvoorbeeld tweets over verkiezingsfraude en azc’s retweets uit het netwerk.

De Autoriteit Consument en Markt (ACM) laat weten dat toezicht op X een Europese aangelegenheid is. De Europese Commissie meldt via een woordvoerder dat er al onderzoek naar X wordt gedaan. Het bedrijf zou mogelijk te weinig doen om de integriteit van Europese verkiezingen te beschermen. RTL Nieuws benaderde ook X met vragen over het onderzoek. Daarop is nog niet gereageerd.

Verantwoording

Dit onderzoek is uitgevoerd door RTL Nieuws-journalisten Jesse van Amerongen, Hidde Stoker, Eric van den Berg en Jasper Bunskoek. Door accounts op te sporen op het platform X en patronen te herkennen, zijn de 550 nepprofielen geïdentificeerd.

Het bedrijf Trollrensics, dat veel onderzoek doet naar inauthentiek gedrag op sociale media, stelde in het kader van de Tweede Kamerverkiezingen haar software ter beschikking voor nadere analyses. Met behulp daarvan zijn bijvoorbeeld alle volgers en volgenden van de 550 accounts in kaart gebracht en alle geplaatste berichten geautomatiseerd verzameld, inclusief metadata. Zo kon bijvoorbeeld ook worden bepaald wanneer accounts actief zijn en wanneer zij exact zijn opgericht. De software maakt het ook mogelijk om accounts te blijven volgen, ook als zij van naam en gebruikersnaam veranderen.

Door accounts te volgen kon eveneens via de software worden vastgesteld dat diverse nepprofielen hun naam, gebruikersnaam en profielfoto hebben gewijzigd gedurende het onderzoek. Sinds 23 november is van de meeste accounts op X te zien vanuit waar zij actief zijn, daardoor konden veel nepaccounts worden toegeschreven aan West-Afrikaanse en Aziatische landen.