NieuwsuurMolly Russell

Molly Russell maakt in 2017 op 14-jarige leeftijd een einde aan haar leven. De documentaire Molly vs. The Machines reconstrueert het onderzoek naar haar dood. Daaruit blijkt dat Molly voor haar dood duizenden schadelijke berichten bekeek op Instagram en Pinterest.

Het oordeel van de forensisch onderzoeker was duidelijk: Molly is overleden door zelfbeschadiging als gevolg van een depressie die is “bevorderd door schadelijk online materiaal”. Volgens haar vader Ian Russell was zijn dochter “teruggetrokken” geraakt en bracht ze steeds meer tijd door alleen op haar kamer. Ze was terecht gekomen in “de meest sombere wereld die er bestaat”, zegt hij.

Big Tech

Op sociale media bekeek Molly content over zelfbeschadiging en zelfmoord. In de laatste zes maanden van haar leven had ze 16.300 berichten op Instagram opgeslagen, geliket of gedeeld. Daarvan waren er 2.100 gerelateerd aan hopeloosheid, zelfbeschadiging, depressie en suïcide.

Haar vader houdt de Big Tech-bedrijven verantwoordelijk voor haar dood. En, zegt hij in de documentaire, “als het in ons gezin kan gebeuren, kan het iedereen overkomen”. Hij twijfelt er niet aan dat sociale media de dood van zijn dochter hebben bevorderd.

Filmmaker en scenarioschrijver Marc Silver onderzoekt al jaren de machtssystemen achter sociale media. Hij stuitte op een artikel over Molly en maakte de documentaire die deze week draait op het Movies that Matter Festival in Den Haag. “Ik zie Molly’s verhaal als de uitkomst van een systeem dat expres zo is ontworpen.”

In het Verenigd Koninkrijk volgt na een zelfdoding altijd een gerechtelijk onderzoek, een Inquest. Daarin worden ook getuigen ondervraagd. Advocaat Merry Varney stond de familie van Molly daarin bij. Ze noemt de uitkomst van het onderzoek naar de dood van Molly uniek: een rechtbank oordeelde voor het eerst dat schadelijke content kinderlevens kost.

Varney bekeek wat Molly de tijd voorafgaand aan haar dood allemaal had bekeken. “Een vloedgolf van negativiteit. Zelfs ik vond het erg moeilijk om voldoende weerstand op te bouwen. Als je die boodschappen steeds opnieuw te zien krijgt, eist dat z’n tol.”

Mentale schade

Dit jaar zijn er in de Verenigde Staten meerdere rechtszaken van start gegaan tegen Meta, het bedrijf achter Facebook en Instagram. In één van die zaken in Los Angeles, stellen ruim 1600 eisers dat de platforms bewust mentale schade veroorzaken bij jongeren. Maar de CEO van Meta, Mark Zuckerberg, vindt dat mensen niet kunnen verwachen dat de META-platforms ooit helemaal perfect zullen zijn.

Zuckerberg vindt elke vorm van reguleren censuur. Volgens regisseur Silver zouden de techbedrijven hun systemen makkelijk anders kunnen ontwerpen of veiliger kunnen maken. “Maar zonder financiële of politieke wil gebeurt dat niet.”

Reclames

Er is ontzettend veel onderzoek gedaan naar mogelijke schadelijke effecten van sociale media, zegt Esther Rozendaal, universitair hoofddocent Digitale Veerkracht. “De uitkomsten zijn niet eenduidig. Er zijn onderzoeken die schadelijke effecten aantonen, maar ook onderzoeken die daar helemaal niet zoveel bewijs voor vinden of onderzoeken die laten zien dat sociale media op een positieve manier inspireren”, zegt ze.

In een reactie op vragen van Nieuwsuur laat META weten al meer dan tien jaar te werken aan bescherming voor tieners. “Dit houdt onder andere in dat alle tieners onder de 18 standaard een privéaccount hebben, dat er beperkingen gelden voor wie hen berichten kan sturen en welke inhoud ze te zien krijgen. En dat ouders de mogelijkheid hebben om het account van hun tiener te beheren.”

Rozendaal: “Ze zeggen dat ze veel aan contentmoderatie doen en ook heel veel schadelijke content kunnen filteren. Maar tegelijkertijd weten we uit de ervaringsverhalen van de kinderen en tieners dat zij nog steeds heel veel dingen zien die zij zelf als schadelijk ervaren en als onprettig.”

Silver weet zeker dat ze in Silicon Valley zijn documentaire hebben gezien. “Daar twijfel ik niet aan. In de week dat de film uitkwam, kwam Meta ’toevallig’ met een lading reclames over hoe veilig Instagram is voor kinderen.”

De BBC heeft gemeld dat Meta en Pinterest aanzienlijke donaties hebben gedaan aan een goed doel dat is opgericht ter nagedachtenis aan Molly. Haar ouders hebben besloten geen juridische stappen te ondernemen tegen de technologiebedrijven en dat ze “nooit een schadevergoeding” zouden accepteren voor Molly’s dood.

In één zaak tegen Meta in de VS, in Los Angeles, wordt mogelijk vandaag nog een uitspraak verwacht.

Hulp nodig?

Denk je aan zelfdoding of maak je je zorgen om iemand? Praten over zelfdoding helpt en kan anoniem via de chat op www.113.nl of telefonisch op 113 of 0800-0113.