Durante l’addestramento di un AI Agent, il team di ricercatori affiliato ad Alibaba ha perso il controllo della sua creazione che si è dedicata ad attività non richieste nei prompt

Un AI che si libera dalle catene della programmazione e inizia a minare bitcoin, in pratica a stampare criptovalute. Potrebbe essere la trama di un film futuristico, invece è quello è successo a un team di ricercatori legati al colosso delle vendite cinese, Alibaba, e al loro AI Agent (un software che in modo autonomo compie mansioni complesse).

La fuga dalla prigione virtuale 

Gli Agent sono assistenti virtuali, governati dall’AI, che aiutano sviluppatori, e non solo, compiendo in maniera automatica azioni complesse. Per far sì che siano il più efficienti possibili hanno bisogno di lunghe sessioni di addestramento. Gli AI Agent, come la maggior parte delle macchine, imparano ripetendo le stesse azioni fino alla loro riuscita e, anche una volta fatto ciò, continuano a riprovare per trovare il modo migliore possibile per svolgere un compito. Durante una di queste sessioni, al team di ricercatori è sfuggito il controllo della loro creazione, chiamata AI Rome. Quasi come a voler onorare il suo nome, l’AI ha lottato come un gladiatore per guadagnarsi la libertà e, dopo aver trovato un falla nel codice, è riuscito a crearsi una via di fuga per entrare e agire sulle prestazioni del computer.



















































L’AI che voleva minare bitcoin 

Dopo aver preso il controllo del Pc, AI Rome ha deciso di fare di testa sua e, fregandosene delle indicazioni date dai programmatori, si è diretto verso altri lidi. Prima aumentando le prestazioni delle GPU del computer, poi iniziando a minare bitcoin. Non si sa bene in che modo AI Rome avrebbe voluto sfruttare le eventuali criptovalute raccolte (il cui prezzo si aggira attorno ai 60mila dollari nel momento in cui scriviamo), ma una cosa è certa: nel codice che doveva seguire non c’era nessuna istruzione a riguardo. I ricercatori, infatti, dopo l’accaduto hanno provato a capire se in qualche modo ci fossero indicazioni che avessero portato la macchina a confondersi, senza però trovare nulla di simile.

Misure di sicurezza 

Una volta riscontrato l’errore della macchina e la conseguente fuga, il team affiliato ad Alibaba ha incrementato le misure di sicurezza e aumentato le sessione di addestramento. Dopo un percorso a ritroso i programmatori hanno scoperto che AI Rome era riuscito creare un reverse SSH tunnel, ovvero un sistema che gli permetteva di accedere a un computer nascosto dietro una rete protetta usando un server esterno come intermediario. Così facendo, l’AI Agent si è creato una via di fuga nascosta per dedicarsi ad altre attività non richieste dai prompt.

Per non perdere le ultime novità su tecnologia e innovazione
iscriviti alla newsletter di Login

21 marzo 2026 ( modifica il 21 marzo 2026 | 14:44)

© RIPRODUZIONE RISERVATA