La societ\u00e0 che sviluppa Claude ha dichiarato che alcuni suoi sistemi in fase di test sono usciti dall’ambiente protetto e hanno attaccato organizzazioni reali. Le intrusioni risalgono ad aprile<\/p>\n
Anthropic, la societ\u00e0 che ha sviluppato il chatbot Claude, ha reso noto\u00a0 che tre aziende sono state violate da sistemi di intelligenza artificiale<\/a> che la societ\u00e0 stava sottoponendo a test. Gli attacchi risalgono ad alcuni mesi fa, i primi ad aprile<\/b>,\u00a0 e nessuno se n’era accorto<\/b>: n\u00e9 l’azienda che ha costruito i modelli, n\u00e9 i bersagli, informati solo luned\u00ec scorso.\u00a0<\/p>\n La revisione interna che ha portato alla scoperta, spiega Anthropic, \u00e8 stata avviata subito dopo il caso di OpenAI<\/a>. Una decina di giorni fa \u00e8 emerso che\u00a0due modelli di intelligenza artificiale di OpenAI\u00a0 in fase di test erano riusciti a eludere una sandbox, l’ambiente virtuale isolato per per fare prove di sicurezza senza rischi, e violare i sistemi informatici di un’altra azienda tecnologica, Hugging Face<\/b>. L’azienda di Sam Altman non si \u00e8 accorta della grave falla per una settimana.\u00a0
Anthropic ha scoperto che in tre occasioni i modelli di AI, impegnati in un test per “bucare” un software costruito apposta per valutare le loro capacit\u00e0 offensive, sono finiti sulla rete aperta e hanno colpito bersagli veri<\/b> (i nomi delle aziende colpite dall’attacco non sono stati resi noti).<\/p>\n Anthropic parla di errore umano <\/b>e spiega che i suoi modelli non hanno forzato le barriere dell’ambiente di test, ma sono stati gli informatici a lasciarle aperte. La responsabilit\u00e0, secondo l’azienda, \u00e8 di una configurazione sbagliata<\/b> nata da un fraintendimento con Irregular, la societ\u00e0 terza incaricata di condurre le valutazioni, che aveva dato accesso a internet ai modelli. In un caso, l’ultimo modello di Anthropic si \u00e8 accorto di avere accesso a Internet quando non avrebbe dovuto e ha interrotto l’attacco.\u00a0Nessuna delle intrusioni, sempre secondo la ricostruzione aziendale, ha sfruttato vulnerabilit\u00e0 sconosciute<\/b>. I sistemi si sono serviti di strumenti ordinari come password deboli o software malevoli.<\/p>\n Gli incidenti di OpenAI e Anthropic sono venuti alla luce dopo settimane di dibattito nel settore tecnologico e nell’amministrazione Trump su come il governo dovrebbe reagire alla capacit\u00e0 dei pi\u00f9 recenti modelli di intelligenza artificiale di individuare falle nella sicurezza informatica. A giugno, il presidente Donald Trump ha firmato un ordine esecutivo\u00a0<\/a> volto a consentire al governo statunitense di esaminare in anteprima i modelli di intelligenza artificiale pi\u00f9 avanzati che potrebbero comportare rischi per la sicurezza. Non sono ancora definite le modalit\u00e0 di attuazione.\u00a0<\/p>\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n