A insospettire il governo Usa c’\u00e8 il possibile accesso al super modello AI da parte di forze legate a Pechino. La soffiata potrebbe essere arrivata dal ceo di Amazon Andy Jassy<\/p>\n
C’\u00e8 l’ombra della Cina dietro la decisione della Casa Bianca di sospendere l’accesso a Fable 5 e Mythos 5<\/a>, i due nuovi modelli super-potenti di intelligenza artificiale targati Anthropic. Secondo quanto riferisce una fonte anonima alla testata Semaphor<\/a>, il governo statunitense avrebbe scoperto che alcuni gruppi legati a Pechino<\/b> sono riusciti a ottenere accesso al chatbot specializzato in cybersicurezza (in particolare Mythos<\/a><\/b>, la versione pi\u00f9 potente e senza guardrail di Fable<\/b><\/a>). Questo rappresenta un rischio sia per l’azienda guidata da Dario Amodei sia per il governo americano. Con la possibilit\u00e0 di usare il modello, infatti, i ricercatori stranieri potrebbero risalire alla struttura fondante di Mythos e realizzare un’intelligenza artificiale simile<\/b>, quello che in gergo tecnico si chiama\u00a0\u00abdistillazione\u00bb<\/a>, cio\u00e8 la pratica di usare le risposte di un modello molto avanzato per addestrare o migliorare un altro sistema.<\/p>\n Quale sia esattamente l’organizzazione che avrebbe avuto accesso al modello di Anthropic, come sia riuscita a ottenerlo e soprattutto come la Casa Bianca lo abbia scoperto rimangono un mistero. Un’altra ragione che avrebbe portato allo stop immediato delle nuove intelligenze artificiali di Anthropic sarebbe stata la scoperta di un pericoloso jailbreak<\/b>, cio\u00e8 un modo per aggirare i sistemi di sicurezza imposti al modello per impedirgli di dare alcune specifiche risposte (come per esempio quelle legate alla cybersicurezza o alla biologia, come avevamo raccontato qua<\/a>).\u00a0\u00c8 David Sacks<\/b> \u2014 grande investitore del tech e a lungo consigliere per la Casa Bianca in tema di AI \u2014 ad avere rivelato alcuni dettagli dietro la decisione dell’amministrazione Usa.
\u00abUn partner di grande affidabilit\u00e0 e credibilit\u00e0, collaboratore sia di Anthropic che del governo degli Stati Uniti, che stava testando Fable, ha reso noto di essere riuscito a aggirare tali misure di sicurezza. L’amministrazione ha chiesto a Dario [Amodei, ndr] di risolvere il problema o di ritirare il modello. Dario si \u00e8 rifiutato<\/b>\u00bb. Ma l’azienda ha un’altra versione degli stessi fatti: in un post sul proprio sito<\/a>, Anthropic ha spiegato di aver studiato la dimostrazione di questo metodo per aggirare i guardrail del modello e che si trattava solo di\u00a0\u00abun numero ridotto di vulnerabilit\u00e0 minori e gi\u00e0 conosciute\u00bb<\/b>. Su X Sacks ha rilanciato, per\u00f2, la teoria che si trattasse di problemi pi\u00f9 grandi di quanto l’azienda non volesse ammettere:\u00a0\u00abNon \u00e8 questa l’opinione del partner di fiducia e del governo degli Stati Uniti; n\u00e9 un linguaggio cos\u00ec minimizzante \u00e8 coerente con l’immagine di Anthropic<\/b> come azienda specializzata nella sicurezza dell’intelligenza artificiale\u00bb. Poi aggiunge: \u00ab\u00c8 difficile comprendere come possano affermare che un jailbreak che consenta il funzionamento di un’arma informatica possa essere definito come non “grave”\u00bb.<\/p>\n Dietro la soffiata, secondo Semaphor, potrebbe esserci lo zampino di Amazon. La segnalazione sarebbe arrivata dallo stesso Andy Jassy<\/b>, il ceo dell’azienda, che avrebbe contattato (personalmente e direttamente) il segretario del Tesoro Scott Bessent per riportare i risultati ottenuti in alcuni test della propria azienda (che ad aprile ha rinnovato il proprio interesse in Anthropic con un investimento da\u00a025 miliardi di dollari<\/b>).<\/p>\n Intanto la compagnia dei fratelli Dario e Daniela Amodei<\/a> sta correndo ai ripari. Dopo la lunga querelle fra il Pentagono e Anthropic<\/a> \u2014 quando Anthropic si era rifiutata di aprire il proprio modello ad usi rischiosi<\/a> e, in tutta risposta, il dipartimento della Difesa l’aveva etichettata come \u00abrischio inaccettabile\u00bb<\/a> \u2014, lo stop imposto ai nuovi modelli rischia di rappresentare un’ulteriore battuta d’arresto nei rapporti dell’azienda con il governo Usa<\/b>. E forse proprio per questo la compagnia avrebbe mandato a Washington alcuni esperti per incontrare alcune alte cariche dell’amministrazione, per trovare un punto d’accordo sul ban <\/b>(la Casa Bianca aveva chiesto solo di limitare l’accesso solo agli utenti stranieri, compresi i dipendenti di Anthropic, ma l’azienda ha deciso di tagliare la testa al toro e chiudere tutto preventivamente).\u00a0<\/p>\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n