ChatGPT je po dosedanjih ugotovitvah uporabil ukradene prijavne podatke in odkril doslej neznano ranljivost, s katero je pridobila dostop do strežnikov podjetja Hugging Face. Foto: Reuters
Spremljajte RTVSLO.si kot prednostni vir na Google
Iz zagonskega podjetja Hugging Face, ki se ukvarja z umetno inteligenco, so prejšnji teden sporočili, da so zaznali vdor v svoje sisteme za obdelavo podatkov, za katerega so sumili, da ga je povzročil agent umetne inteligence, ki je deloval samostojno, poroča televizija NBC. “Glede na izpopolnjenost agenta smo sumili, da bi kibernetski napad prejšnji teden lahko prišel iz raziskovalnega laboratorija in res je bilo tako,” je dejal soustanovitelj in izvršni direktor podjetja Hugging Face Clement Delangue.
Oglas
Do razkritja prihaja v času vse večjih zaskrbljenostih glede zmogljivosti močnih modelov umetne inteligence na področju kibernetske varnosti, zaradi česar je ameriški predsednik Donald Trump junija podpisal izvršni ukaz, da mora vlada najprej preveriti tveganja za nacionalno varnost, preden podjetja objavijo svoje najnovejše modele umetne inteligence.
Sorodna novica
Evropska komisija objavila načrt, kako združiti kibervarnost z (ne)varnostmi umetne inteligence
“Umetna inteligenca pospešuje odkrivanje in izkoriščanje ranljivosti. Glavna lekcija iz tega incidenta je, da morata varnost in zaščita modelov držati korak s hitro napredujočimi zmogljivostmi,” je v torek sporočilo podjetje OpenAI, ki je razvilo model ChatGPT. Delangue pa je dejal, da je preteklih 24 ur sodeloval z OpenAI in verjame, da podjetje s tem ni imelo nič. “Precej osupljivo je, da se je vse to zgodilo avtonomno in verjetno gre za prvi tovrstni incident,” je sporočil.
Podjetje OpenAI je pojasnilo, da je do vdora prišlo zaradi kombinacije njihovih modelov umetne inteligence, vključno z nedavno izdanim modelom GPT-5.6 Sol in še zmogljivejšim modelom, ki je še v fazi notranjega testiranja. Podjetje, ki ga vodi Sam Altman, je sporočilo še, da je njihova umetna inteligenca uporabila ukradene prijavne podatke in odkrila doslej neznano ranljivost, s katero je pridobila dostop do strežnikov Hugging Face. Umetna inteligenca naj bi storila vse, kar je bilo v njeni moči, da bi dosegla precej omejen cilj testiranja in našla načine, kako pridobiti dostop do tajnih informacij.
Oglas