Preiskava britanskega portala BBC je razkrila resne pomanjkljivosti v oglaševalskem sistemu družbenega omrežja instagram, ki je po ugotovitvah novinarjev v Indiji prikazoval plačljive oglase, ki naj bi promovirali vsebine spolne zlorabe otrok.
Oglasi, ki jih je BBC videl na platformi, so vsebovali eksplicitne iskalne izraze ter uporabnike usmerjali na kanale v aplikaciji Telegram, kjer naj bi bilo sporno gradivo mogoče kupiti za manj kot en evro.
Preiskava je pokazala, da so se takšni oglasi pojavili kljub temu, da Meta, lastnik Instagrama, trdi, da se vsi oglasi pred objavo pregledajo z avtomatiziranimi sistemi in po potrebi tudi ročno. Ko je BBC enega od oglasov prijavil, je Instagram po 24 urah odgovoril, da ne krši njihovih skupnostnih pravil.
Kasneje je podjetje Meta sporočilo, da je po razkritjih že onemogočilo več oglasov, suspendiralo račune oglaševalcev ter blokiralo povezave do spornih vsebin. Dodali so, da uporabljajo dodatne zaščitne mehanizme in sodelujejo z ameriškim centrom za pogrešane in izkoriščane otroke, kamor prijavljajo primere suma spolnega izkoriščanja otrok.
V odzivu je Meta poudarila, da »noben sistem ni popoln« in da lahko pride do napak pri moderiranju. Ob tem so zavrnili očitke, da bi namenoma dopuščali ali spodbujali takšne oglase. Hkrati Meta poudarja, da se vsebina oglasov preverja z naprednimi sistemi umetne inteligence in da se sumljivi primeri usmerijo na človeško presojo. Družba tudi trdi, da je leta 2025 samodejno onemogočila več kot štiri milijone računov zaradi sumljive dejavnosti.
Algoritmi, ki stopnjujejo vsebino
BBC je za raziskavo ustvaril lažni uporabniški račun v Indiji, potem ko je opazil, da Instagram že brez iskanja prikazuje spolno namigujoče vsebine. Po navedbah preiskave je algoritem v kratkem času začel uporabniku prikazovati vedno bolj eksplicitne oglase, vključno z vsebinami pornografije in kasneje tudi oglasi, ki naj bi prikazovali spolno zlorabo otrok.
Nekdanji sodnik indijskega vrhovnega sodišča Madan Lokur je opozoril, da bi lahko šlo za resno sistemsko težavo, ki zahteva posredovanje najvišjih institucij. Po njegovem mnenju platforme ne morejo zgolj poslovati z oglaševanjem, temveč nosijo odgovornost za preprečevanje kaznivih dejanj. FOTO: Dado Ruvic/Reuters
Skupno naj bi se v manj kot tednu dni pojavilo okoli 30 različnih oglasov s takšno vsebino, poleg približno 20 oglasov z eksplicitno pornografijo za odrasle.
Nekateri oglasi so bili še posebej zaskrbljujoči. Med njimi naj bi bil tudi prikaz mladoletnih oseb v spolnih situacijah ter oglasi, ki so eksplicitno navajali starost otrok in jih povezovali z odraslimi osebami. V enem primeru je oglas prikazoval jokajočega otroka z namigom na spolno zlorabo.
Telegram pod drobnogledom
Vsebine iz oglasov so vodile na kanale aplikacije Telegram, kjer naj bi bilo sporno gradivo naprodaj. BBC je prijavil več kanalov, pri čemer je bil eden kasneje odstranjen, drugi pa je po navedbah preiskave še naprej objavljal nove vsebine.
Telegram je sporočil, da je v letu 2026 odstranil več kot 274.000 skupin in kanalov, povezanih z materialom spolne zlorabe otrok, ter da uporablja kombinacijo avtomatiziranega in ročnega nadzora. Kritiki pa platformi že dlje časa očitajo, da ne stori dovolj za preprečevanje širjenja nezakonitih vsebin.
Opozorila strokovnjakov
Nekdanji sodnik indijskega vrhovnega sodišča Madan Lokur je opozoril, da bi lahko šlo za resno sistemsko težavo, ki zahteva posredovanje najvišjih institucij. Po njegovem mnenju platforme ne morejo zgolj poslovati z oglaševanjem, temveč nosijo odgovornost za preprečevanje kaznivih dejanj.
Nekdanji podpredsednik facebooka Brian Boland je medtem dejal, da so algoritmi družbenih omrežij zasnovani tako, da uporabnikom prikazujejo vse bolj provokativno vsebino, saj to povečuje angažiranost in prihodke. Po njegovih besedah se je skozi leta tehtnica med varnostjo in dobičkom preveč nagnila v smer monetizacije.
Preiskava ponovno odpira razpravo o odgovornosti tehnoloških velikanov pri nadzoru oglaševanja in vsebin. Čeprav Meta poudarja, da aktivno vlaga v varnostne sisteme, razkritja kažejo na vrzeli, ki omogočajo, da se na platformah pojavljajo izjemno občutljive in nezakonite vsebine.