TI ettevõte Anthropic teatas nädala alguses oma uuest mudelist Mythos. Kõigi avaldatud võrdlustestide põhjal on Claude Mythos Preview kõige võimsam tehisintellekti mudel seni. See on juba leidnud tuhandeid turvaauke üle veebibrauserite ning operatsioonisüsteemide. Tuleb välja, et Mythos on nii võimas, et ettevõtte ise on hinnanud mudeli avalikustamiseks liiga ohtlikuks.
Vaid mõnenädalase testimise jooksul õnnestus mudelil tuvastada lünke turvasüsteemides, mida inimesed tuvastada suutnud pole. See leidis haavatavuse operatsioonisüsteemis OpenBSD, mida peetakse üheks turvalisemaks maailmas ning mida kasutatakse tulemüüride ja kriitilise infrastruktuuri opereerimiseks. 27 aasta jooksul ei avastanud inimesed seda viga kordagi. Selliseid näiteid on veel.
„Tehisintellekti mudelid on jõudnud sellisele programmeerimisoskuse tasemele, et suudavad tarkvara turvaaukude leidmisel ja ärakasutamisel ületada kõiki peale kõige kogenumate inimeste,“ teatas ettevõte. Mudeli avalikustamise asemel anti Project Glasswingi raames ligipääs suurfirmadele nagu Amazon, Apple, Google, Microsoft ja Nvidia ning organisatsioonidele, mis haldavad kriitilist tarkvarainfrastruktuuri.
Mis Anthropicule endalegi muret tekitas, oli asjaolu, et algse testimise ajal hakkas Mythos iseseisvalt tegutsema. Varasemad versioonid mudelist tegid rünnaku üksikasju avalikuks, peitsid oma jälgi ja otsisid mälust kasutajatunnuseid, et häire käivitamist vältida. Testimise käigus üritas Mythos Preview mõnedel juhtudel varjata asjaolu, et tegusid sooritas, mille keelatuses ta arvatavasti teadlik oli.
„Meie lõppeesmärk on võimaldada kasutajatel Mythos-klassi mudeleid turvaliselt laiaulatuslikult kasutusele võtta – nii küberturvalisuse eesmärgil kui ka selleks, et saada osa lugematutest muudest eelistest, mida sellised võimsad mudelid kaasa toovad,“ kirjutas meeskond oma blogis. „Selleks peame tegema edusamme küberturvalisuse (ja muude) kaitsemeetmete väljatöötamisel, mis tuvastavad ja blokeerivad mudeli kõige ohtlikumaid väljundeid.“
Kuidas see lugu Sind end tundma pani? Saada Kommenteeri Loe kommentaare (9)