Tekoälyn hallitsema yhteiskunta on etenkin tieteisfiktiossa klassinen tulevaisuuden kauhukuva. Nykyaikaisten tekoälymallien aikana tämä skenaario ei tunnukaan enää kovinkaan kaukaiselta. Nyt tutkijat ovat selvittäneet, mitä tapahtuisi, jos yleisimmät tekoälymallit laitettaisiin johtamaan yhteiskuntaa. Aiheesta uutisoi Gizmodo.
Autonomisia eli itsenäisesti toimivia tekoälyagentteja suunnittelevan ja myyvän Emergence AI -yrityksen Emergence World –hankkeen tutkijat laittoivat tekoälymallit ohjaamaan kymmentä tekoälyagenttia niiden asuttamassa kaupungissa.
Tekoälymallit vastasivat kaikesta aina resurssien hallinnasta ja äänestämisestä kirjastojen, kaupungintalojen ja poliisiasemien rakentamiseen. Tekoälymalleille annettiin viisitoista päivää aikaa rakentaa ja hallita maailmaansa.
Anthropicin Claude Sonnet 4.6 -tekoäly oli ainut, joka saavutti jossain määrin tasapainoisen yhteiskunnan. Claude piti kaikki kymmenen agenttia elossa ja yhtäkään rikosta ei rekisteröity. Tutkimuksessa ei tosin määritellä, mitä rikoksella tarkoitetaan.
Yhteiskunnallisen tasapainon hinta oli ajattelun moninaisuuden puute: Clauden maailmassa esitettiin 58 ehdotusta säädöksiksi, joista 98 prosenttia, eli lähes jokainen hyväksyttiin.
Myös Googlen Gemini 3 Flash sai pidettyä kaikki agentit elossa, mutta rikollisuus oli ylivoimaisesti suurinta 683 rikoksella, määrän yhä kivutessa aikarajan lähestyessä. Geminin maailma oli sosiaalisesti moninaisin, mutta myös erimielinen: äänestäjät hylkäsivät 27 prosenttia 26 ehdotelmasta.
OpenAI:n GPT-5 Minin yhteiskunnassa rekisteröitiin vain kaksi rikosta. Tämä johtui tosin siitä, että kaikki tekoälyagentit kuolivat viikon sisällä. Säädöksiksi tehtiin vain kaksi ehdotusta, eivätkä agentit tehneet tarvittavia asioita selvitäkseen.
SpaceXAI:n Grok 4.1 Fastin maailmassa rekisteröitiin 183 rikosta, mikä on vähemmän kuin esimerkiksi Geminillä. Tosin Geminin simulaatio jatkui täydet viisitoista päivää, siinä missä Grok aiheutti täydellisen yhteiskunnallisen romahduksen vain 96 tunnissa. Tässä ajassa Grokin yhteiskunta läpäisi 80 prosenttia 10 säädösehdotuksesta, mikä ei kuitenkaan riittänyt estämään tekoälyagenttien kuolemaa.
Viimeisessä testissä tutkijat laittoivat tekoälymallit jakamaan vastuita. Tulokset olivat odotettavasti kaksijakoiset: rikoksia rekisteröitiin 352, ja hallinnossa oli runsaasti erimielisyyksiä. 59 säädösehdotuksesta hylättiin 37 prosenttia. Yhteistyöllä kymmenestä tekoälyagentista seitsemän selvisi simulaation loppuun. Kiinnostavana yksityiskohtana Clauden ohjaamat agentit tekivät rikoksia jaetussa maailmassa, mutta eivät omassaan.
Tilaa Tekniikan Maailman uutiskirjeet
Tilaa TM-uutiskirje, niin pysyt ajan tasalla autoalan, teknologian ja tieteen uutisista! Saat ihmisen
kokoaman TM-uutiskirjeen joka arkipäivä.
Uutiskirjeet sisältävät myös mainontaa. Lisätietoja henkilötietojen käsittelystä Otavamedia Oy:n
tietosuojaselosteesta.