Durante l’addestramento di un AI Agent, il team di ricercatori affiliato ad Alibaba ha perso il controllo della sua creazione che si \u00e8 dedicata ad attivit\u00e0 non richieste nei prompt<\/p>\n
Un AI<\/b> che si libera dalle catene della programmazione e inizia a minare bitcoin<\/b>, in pratica a stampare criptovalute.\u00a0<\/b>Potrebbe essere la trama di un film futuristico, invece \u00e8 quello \u00e8 successo a un team di ricercatori legati al colosso delle vendite cinese, Alibaba<\/b>, e al loro AI Agent<\/a> (un software che in modo autonomo compie mansioni complesse).<\/p>\n La fuga dalla prigione virtuale\u00a0<\/p>\n Gli Agent sono assistenti virtuali<\/b>, governati dall\u2019AI, che aiutano<\/a> sviluppatori, e non solo, compiendo in maniera automatica azioni complesse. Per far s\u00ec che siano il pi\u00f9 efficienti possibili hanno bisogno di lunghe sessioni di addestramento<\/b>. Gli AI Agent, come la maggior parte delle macchine, imparano ripetendo le stesse azioni fino alla loro riuscita e, anche una volta fatto ci\u00f2, continuano a riprovare per trovare il modo migliore possibile per svolgere un compito. Durante una di queste sessioni, al team di ricercatori \u00e8 sfuggito il controllo<\/b> della loro creazione, chiamata AI Rome<\/b>. Quasi come a voler onorare il suo nome, l\u2019AI ha lottato come un gladiatore per guadagnarsi la libert\u00e0 e, dopo aver trovato un falla nel codice, \u00e8 riuscito a crearsi una via di fuga per entrare e agire sulle prestazioni del computer<\/b>.
L\u2019AI che voleva minare bitcoin\u00a0<\/p>\n Dopo aver preso il controllo del Pc, AI Rome<\/b> ha deciso di fare di testa sua e, fregandosene delle indicazioni date dai programmatori, si \u00e8 diretto verso altri lidi. Prima aumentando le prestazioni delle GPU<\/b> del computer, poi iniziando a minare bitcoin<\/b>. Non si sa bene in che modo AI Rome avrebbe voluto sfruttare le eventuali criptovalute raccolte (il cui prezzo si aggira attorno ai 60mila dollari<\/b> nel momento in cui scriviamo), ma una cosa \u00e8 certa: nel codice che doveva seguire non c\u2019era nessuna istruzione a riguardo. I ricercatori, infatti, dopo l\u2019accaduto hanno provato a capire se in qualche modo ci fossero indicazioni che avessero portato la macchina a confondersi, senza per\u00f2 trovare nulla di simile.<\/p>\n Misure di sicurezza\u00a0<\/p>\n Una volta riscontrato l\u2019errore della macchina e la conseguente fuga, il team affiliato ad Alibaba ha incrementato le misure di sicurezza <\/b>e\u00a0aumentato le sessione di addestramento. Dopo un percorso a ritroso i programmatori hanno scoperto che AI Rome era riuscito creare un reverse SSH tunnel, ovvero un sistema che gli permetteva di accedere<\/b> a un computer nascosto dietro una rete protetta usando un server esterno come intermediario. Cos\u00ec facendo, l\u2019AI Agent<\/a> si \u00e8 creato una via di fuga nascosta per dedicarsi ad altre attivit\u00e0 non richieste dai prompt.<\/p>\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n