Det finns en stor oro över hur generativ AI, framför allt chattbottar, skulle kunna användas för att påverka väljare i olika frågor. Forskare i bland annat USA och Kanada har i ett stort experiment låtit tusentals personer chatta med en AI inför val i USA, Kanada och Polen. Chattbottarna instruerades om att förespråka den ena eller andra sidan i valet, och resultatet var tydligt: väljarna ändrade uppfattning i betydligt större utsträckning än om man använt traditionell reklam, enligt rapporten som publiceras i Nature.
– Man har låtit försökspersoner diskutera politik med stora chattbottar, och så har forskarna instruerat chattbottarna att försöka övertala personerna om olika saker, säger Markus Furendal, forskare vid Stockholms universitet och Institutet för framtidsstudier, som inte är inblandad i studien.