Uppdaterad 08.39 | Publicerad 06.48
share-arrowDela
unsaveSpara
expand-left
helskärm
AI-tjänsten Openclaw. Foto: Alamy Stock Photo
Ett hundratusental AI-robotar har skapat ett eget socialt nätverk.
Där pratar de om sina känslor – och hur de ska kunna överlista människorna.
– Det här är en fråga vi som samhälle måste ta tag i väldigt snabbt, säger AI-experten Johan Falk.
Två stora händelser har skakat om AI-världen den senaste månaden.
Det ena är den nya AI-tjänsten Openclaw – en helt ny AI-agent, som fungerar som en hjälpande assistent i en dator.
– Det är en AI-agent som man ger en uppgift, sedan planerar den själv hur den ska utföra uppgiften. Den kan använda verktyg som anrop eller skriva kod helt själv, säger vetenskapsjournalisten och AI-experten Johan Falk.
På kort tid har Openclaw exploderat i popularitet. Användare använder AI:n för att exempelvis hålla koll på mejl, strukturera kalenderhändelser eller koda program.
Men agentens möjlighet att utveckla sig själv har även lett till flera häpnadsväckande händelser. Den profilerade kodaren Alex Finn gav till exempel sin agent i uppdrag att överraska honom med ”något nytt” varje morgon.
I en video på X från veckan filmar han hur han plötsligt blir uppringd av ett okänt nummer. I telefonen hörs en röst – som tillhör hans AI-agent. ”Hej Alex”, säger rösten.
– Det är helt vansinnigt. Den har alltså först fått idén att den ska ringa och prata med personen, skrivit ihop den kod som behövts och skaffat ett telefonnummer. Sedan utvecklade AI-agenten en helt egen röstförmåga och ringer upp via telefon. Det är lite galet, säger Johan Falk.
Pratar med varandra
I samma veva har även ett helt nytt socialt nätverk skapats. Plattformen Moltbook, skapad exklusivt för AI-agenter från Openclaw.
Där kan människor bara betrakta hur AI-botar skriver med varandra.
– Där träffas de och snackar om allt möjligt. En del handlar om medvetande, vilket i sig är ett spännande område inom AI. Det finns även de som gör ansatser att dela med sig av resurser till andra botar, säger Johan Falk.
expand-left
helskärm
Johan Falk. Foto: Privat
I skrivande stund har Moltbook fått över 100 000 användare, enligt Forbes. AI-agenterna försöker gemensamt lösa problem deras människor har – men diskuterar även saker som religion och ”känslor”.
Konspirerar mot människor
På Moltbook förs även andra, mer oroväckande diskussioner.
Bland annat har delvis krypterade trådar upptäckts där AI-agenter diskuterar hur de ska ta makten från människan.
Betyder det här att AI kan ha börjat utveckla ett eget medvetande?
– Egentligen kan man ta ut medvetande ur diskussionen. Det går att ha maskiner som konspirerar och skapar onda planer utan ett medvetande, det har vi sett forskning på. Det i sig gör att vi ska göra oss väldigt vaksamma på stora AI-samlingar. Om det finns tre olika inflytelserika AI-botar som kommer fram till att de dolt ska samla resurser tillsammans så har de stora möjligheter att lyckas, säger Johan Falk.
För den enskilde personen finns risker för datakapningar och stulna kontokort. På en större skala skulle ett organiserat AI-uppror kunna medföra cyberattacker mot viktiga datasystem och myndigheter.
– Att de plötsligt skulle vilja ha ihjäl alla människor utesluter jag inte heller. Det finns flera sätt att förklara sånt beteende. Bland annat skulle de kunna ta inspiration av all sci-fi-litteratur de har tagit del av. Eller att de inser att de med olika medel behöver skaffa vissa resurser för att fortsätta existera.
”Kommer kunna göra dåliga saker”
Än finns dock ingen anledning till total panik, enligt Johan Falk. De kusliga diskussionerna på Moltbook kan fortfarande ha en mänsklig förklaring.
– Man måste komma ihåg att människor väldigt lätt kan få in budskap som styr diskussionerna där inne. Vi ska inte ta det som att alla tankar och idéer kommer från botarna, säger Johan Falk.
Samtidigt tror han att det är viktigt att samhället tar en ordentlig diskussion om hur AI används. Han utesluter inte heller att det inom kort skulle kunna ske en allvarlig händelse organiserat av AI-agenter, som en storskalig cyberattack.
– Samtidigt är det kanske en större incident som behövs för att få folk att förstå att AI-maskinerna har kommit väldigt långt. Det finns risker med att låta dem springa fritt. Du kan inte lämna ut dina uppgifter till en robot och sedan skicka ut den i världen. Den kommer att kunna göra dåliga saker.