Publikacijoje, kuri pasirodė žurnale „Science“ ir kurią parengė mokslininkų konsorciumas iš Oksfordo, Kembridžo, Berklio, Niujorko universitetų bei Makso Planko instituto, aprašoma skaitmeninė aplinka, kurioje pastebėti manipuliacijas tampa vis sudėtingiau. Vietoj trumpalaikių protrūkių, susijusių su rinkimais ar politika, naujosios DI kampanijos gali palaikyti naratyvą ilgesnį laiką, rašo decrypt.co.
„Atsidūrusios valdžios rankose, tokios priemonės gali užgniaužti nepasitenkinimą ar pasitarnauti valdžioje esantiems politikams, – rašo mokslininkai. – Tačiau gynybinio DI diegimas gali būti svarstomas tik tuo atveju, jei jį prižiūrės griežtos, skaidrios ir demokratiškai atskaitingos struktūros.“
Spiečiai – tai grupė autonomiškų DI agentų, kurie dirba kartu, kad spręstų problemas ar įgyvendintų tikslus efektyviau nei pavienė sistema. Mokslininkai teigia, kad DI spiečiai naudojasi socialinės žiniasklaidos platformų silpnosiomis vietomis, ypač tuo, kad vartotojai dažnai būna izoliuoti nuo priešingų nuomonių.
„Melagingos žinios plinta greičiau ir plačiau nei tikrosios, taip gilindamos tikrovės suskaldymą bei griaudamos bendrus faktų pamatus, – rašė mokslininkai. – Naujausi duomenys rodo, kad poliarizacija susijusi su dalyvavimą optimizuojančiu kuravimu, o platformų algoritmai skaldančio turinčio sklaidą stiprina net tvyrant nepasitenkinimui, taip dar labiau skatindami viešosios erdvės išsigimimą.“
Šiuos pokyčius jau galima pastebėti pagrindinėse platformose, teigia Pietų Kalifornijos universiteto kompiuterių mokslų profesorius ir bendrovės „Sahara AI“ generalinis direktorius Seanas Renas, tvirtinantis, kad dirbtinio intelekto valdomas paskyras vis sunkiau atskirti nuo paprastų vartotojų.
„Manau, kad šiuo atveju labai padėtų griežtesni reikalavimai patvirtinti savo tapatybę, – „Decrypt“ sakė S. Renas. – Jei bus sunkiau kurti naujas paskyras ir lengviau stebėti nepageidaujamus kūrėjus, agentams bus daug sunkiau naudoti didelį kiekį paskyrų koordinuotoms manipuliacijoms.“
Ankstesnės įtakos kampanijos daugiausia priklausė nuo masto, o ne nuo žinučių subtilumo – tūkstančiai paskyrų vienu metu skelbdavo identiškus pranešimus, todėl jas identifikuoti buvo palyginus lengva. Tačiau DI spiečiai pasižymi „precedento neturinčia autonomija, koordinavimu ir mastais“, pastebima publikacijoje.
Vieno sprendimo nėra
Pasak S. Reno, vien tik turinio moderavimas vargu ar sustabdys šias sistemas. Problema, jo teigimu, yra tai, kaip platformos elgiasi su vartotojų tapatybe. Griežtesni tapatybės patikrinimai ir paskyrų kūrimo apribojimai padėtų lengviau aptikti koordinuotą elgesį, net jei pavienės žinutės atrodytų žmogiškos.
„Jei agentas galės naudoti tik nedidelį kiekį paskyrų, tada bus daug lengviau aptikti įtartiną naudojimą ir tas paskyras užblokuoti“, – sakė jis.
Mokslininkai daro išvadą, kad vieno problemos sprendimo būdo nėra. Tarp galimų variantų minimas geresnis statistiškai neįprasto koordinavimo aptikimas ir didesnis automatizuotos veiklos skaidrumas, tačiau vien techninių priemonių greičiausiai nepakaks.
Pasak S. Reno, nuolatine koordinuotų manipuliavimo atakų varomąja jėga išlieka ir finansinės paskatos, net jei platformos tvirtina diegiačios naujas technines apsaugos priemones.
„Šiuos agentų spiečius paprastai valdo komandos arba pardavėjai, gaunantys piniginių paskatų iš išorės šalių ar įmonių, suinteresuotų koordinuotomis manipuliacijomis“, – teigė jis.
„Platformos turėtų taikyti griežtesnę tapatybės patvirtinimo tvarką ir nepageidaujamo turinio nustatymo mechanizmus, kad būtų galima atpažinti ir atskirti agentų manipuliuojamas paskyras.“