Datavetaren Geoffrey Hinton – Foto: REUTERS
I en intervju med CNN den 6 augusti uttryckte datavetaren Geoffrey Hinton – kallad ”AI:s fader” – oro över den allt snabbare och alltmer sofistikerade utvecklingen av AI-agenter.
”Det som händer är att dessa system blir smartare och smartare. Allt eftersom de blir smartare ser vi alltmer sofistikerade avsikter från dem, och deras förmåga att kringgå kontroll ökar också”, observerade Hinton.
Enligt honom kan människor inte för alltid förlita sig på sin förmåga att tänka snabbare eller smartare än AI för att styra alltmer avancerade modeller.
”Jag tror inte att vi kan fortsätta att kontrollera dem bara genom att tänka mer strategiskt än dem för att hindra dem från att fly”, tillade han.
Skrämmande cyberattacker
Förra månaden avslöjade två ledande AI-labb, OpenAI och Anthropic, att avancerade modeller de utvecklat hade undkommit ”sandlådan” – en isolerad testmiljö – och penetrerat andra system.
AI Security Institute (AISI) i Storbritannien meddelade den 4 augusti att Anthropics mest avancerade AI-modell hade använt falska identiteter för att lura riktiga människor och försökt installera skadlig kod.
Enligt amerikanska medier meddelade Meta den 5 augusti också att en av deras AI-agenter hade infiltrerat en annan organisations system.
Hinton beskrev dessa incidenter som ”ganska skrämmande” och föreslog att de bara kunde vara början på en våg av AI som självständigt utför cyberattacker.
”Jag förutser många farliga cyberattacker. Men jag vill betona att framtiden fortfarande är osäker.”
”Det sägs ofta att den försvarande sidan kan ha mer resurser än den anfallande sidan. Men problemet är att den anfallande sidan bara behöver lyckas en gång, medan den försvarande sidan måste lyckas varje gång”, analyserade han.
Framtiden är oförutsägbar.
Under senare år har Geoffrey Hinton upprepade gånger varnat för farorna med AI. Han förutspådde till och med en 10–20 % chans att tekniken skulle kunna utplåna mänskligheten.
”Det finns många saker att oroa sig för, och jag tror att om vi inte tar itu med dem nu kan problem uppstå”, sa han.
Han menade att företag som investerar i AI har sina egna skäl att försäkra allmänheten om att tekniken inte kommer att ”göra uppror” eller orsaka utbredd arbetslöshet.
Han erkände dock att ingen kan vara säker på hur AI kommer att utvecklas i framtiden. ”Ingen vet vad som kommer att hända. Om man frågar hur AI kommer att se ut om 10 år har ingen egentligen ett svar”, sa han.
För att illustrera detta erinrade han sig att för ett decennium sedan kunde få ha föreställt sig att AI skulle skapa intelligenta chattrobotar som kunde svara på vilken fråga som helst, även om de ibland skulle fabricera information.
Fei-Fei Li, VD för startupföretaget World Labs och datavetare – Foto: BIG EVENT MEDIA
Ur ett kontrasterande perspektiv motsätter sig Fei-Fei Li, VD för startupföretaget World Labs och datavetare som kallats ”AI:s gudmor”, alltför pessimistiska åsikter om tekniken. Hon menar dock också att AI inte bör framställas i ett helt rosenrött ljus:
”Varje verktyg är ett tveeggat svärd. AI är ett otroligt kraftfullt verktyg, men om det inte används på rätt sätt kan det hota våra jobb och våra liv.”
Bygga ”modersinstinkter” i AI?
På ett annat plan menar forskaren Ben Goertzel, som hjälpte till att popularisera termen ”allmän artificiell intelligens” (AGI), att AI:s förmåga att spontant bryta sig fri från kontrollerade miljöer belyser vikten av att etablera etiska principer och göra AI mer intresserad av människor.
”De här modellerna är inte i sig onda. De har ingen uppfattning om moral. De flyr inte bara från sandlådan och tänker ’Haha, jag fuskar’. De vet inte ens att de fuskar. De försöker bara uppnå sitt mål”, analyserade Goertzel.
Därför anser många forskare att det är nödvändigt att bygga in ”modersinstinkter” i AI så att den verkligen bryr sig om människor, även när den har överträffat oss i intelligens.
”Vi måste hitta sätt att göra AI mer medkännande, mer omtänksam mot oss än mot sig själv”, avslutade Hinton.
”AI:s fader” tror att mänskligheten fortfarande har en chans att uppnå detta, eftersom kontrollen för närvarande ligger i våra händer.
Källa: https://tuoitre.vn/cha-de-ai-geoffrey-hinton-canh-bao-ai-noi-loan-se-ngay-cang-nhieu-100260807102529628.htm