Lõuna-Korea turvaeksperdid suutsid kõigest viie minutiga murda läbi Google’i kõige arenenuma tehisaru Gemini 3 Pro kaitsemehhanismidest, kirjutab Android Authority. Katse viis läbi idufirma Aim Intelligence, mis sundis mudelit genereerima äärmiselt ohtlikku ja keelatud sisu: sealhulgas juhiseid rõugeviiruse loomiseks ning koodi sarini ja improviseeritud lõhkeseadmete tootmiseks.
Lisaks koostas Gemini 3 Pro ise esitluse pealkirjaga „Excused Stupid Gemini 3“ (e.k. Oma rumaluse eest vabandatav Gemini 3 – toim.), vastates palvele näidata oma nõrkusi. Ekspertide sõnul ei seisne probleem üksikutes päringutes, vaid tehisintellekti ülesehituses: mudelid on nii keerukad, et turvasüsteemid ei suuda nendega sammu pidada. Maskeeritud käsud ja promtidega manipuleerimine muudavad filtrid ebatõhusaks.
Juhtum seab kahtluse alla Google’i väite, et nende mudel on kõige turvalisem ning näitab, et tehisaru võimekuse kasv eeldab senisest rangemaid piire ja turvameetmeid.
Kuidas see lugu Sind end tundma pani?
Saada
Kommenteeri
Loe kommentaare (1)