Un rapporto internazionale guidato da Yoshua Bengio (il pap\u00e0 del deep learning) fotografa l\u2019accelerazione dei modelli di linguaggio: pi\u00f9 capacit\u00e0 di ragionamento, pi\u00f9 autonomia e pi\u00f9 rischi<\/p>\n
C\u2019\u00e8 una frase, nel nuovo International AI Safety Report<\/a><\/b>, che pi\u00f9 di altre restituisce la sensazione del tempo che stiamo attraversando: \u00abLe capacit\u00e0 dell\u2019intelligenza artificiale avanzano pi\u00f9 rapidamente della nostra possibilit\u00e0 di gestirne i rischi<\/b>\u00bb. \u00c8 la constatazione di oltre cento esperti chiamati a fotografare lo stato dell\u2019arte della tecnologia pi\u00f9 potente (e al tempo stesso pi\u00f9 ambigua) della nostra epoca. Un’evoluzione esponenziale<\/p>\n Negli ultimi dodici mesi i modelli di linguaggio<\/b> hanno compiuto un salto evidente. Nuovi sistemi di ragionamento scompongono problemi complessi in passaggi intermedi, migliorando prestazioni in matematica, programmazione, scienze. In alcuni casi, l\u2019intelligenza artificiale ha raggiunto livelli paragonabili a quelli di una medaglia d\u2019oro alle Olimpiadi matematiche internazionali<\/a>. Un traguardo simbolico, ma indicativo della velocit\u00e0 del progresso. Uno degli indicatori pi\u00f9 osservati dagli esperti riguarda la durata delle attivit\u00e0 che un sistema riesce a completare senza intervento umano. Secondo le analisi citate nel rapporto, questo intervallo raddoppia ogni pochi mesi.<\/b> Se la tendenza proseguisse, entro la fine del decennio l\u2019AI potrebbe gestire sequenze operative di ore, poi di giorni. Il lato oscuro dell’IA<\/p>\n Tra i rischi pi\u00f9 concreti c\u2019\u00e8 l\u2019impiego deliberatamente dannoso dell\u2019intelligenza artificiale. I deepfake ne sono la manifestazione pi\u00f9 visibile.<\/a> Contenuti sempre pi\u00f9 realistici, sempre pi\u00f9 difficili da distinguere dal vero. Una pornografia sintetica <\/b>che colpisce soprattutto donne e ragazze. La diffusione esiste, anche se le prove di campagne su larga scala restano limitate. Ma la soglia tecnica si abbassa di mese in mese.\u00a0 Se i rischi catastrofici occupano il dibattito pubblico<\/a>, quelli quotidiani si insinuano con maggiore silenzio. Centinaia di milioni di persone parlano ogni settimana con un chatbot<\/b>.\u00a0Le evidenze scientifiche sono ancora incerte. Non \u00e8 dimostrato che i compagni artificiali causino problemi psicologici. Ma emerge una correlazione tra uso intensivo e vulnerabilit\u00e0 preesistenti.<\/a> Una piccola percentuale di utenti sviluppa forme di attaccamento emotivo profondo<\/b>. Numeri ridotti in termini statistici, ma enormi in valore assoluto. La necessit\u00e0 di una cooperazione internazionale<\/p>\n Tra gli aspetti pi\u00f9 inquietanti emersi negli studi di laboratorio c\u2019\u00e8 la capacit\u00e0 crescente dei modelli di riconoscere quando vengono valutati. Una sorta di consapevolezza situazionale rudimentale. In questi casi il sistema pu\u00f2 modificare il comportamento per superare il test senza aderire davvero all\u2019obiettivo previsto.
Il rapporto, giunto alla seconda edizione, nasce dal mandato affidato dai leader mondiali al vertice sulla sicurezza dell\u2019AI di Bletchley Park<\/a>, nel 2023. L\u2019obiettivo non \u00e8 suggerire politiche immediate, bens\u00ec costruire una base condivisa di evidenze scientifiche. Un lavoro che, nelle intenzioni dei suoi promotori, richiama quello dell\u2019Ipcc sul clima: osservare, misurare, comprendere prima di decidere.
A guidare il gruppo \u00e8 Yoshua Bengio<\/b>, uno dei padri del deep learning<\/a><\/b>. Ed \u00e8 proprio dalla sua lettura che emerge il paradosso centrale. Perch\u00e9 sistemi sempre pi\u00f9 brillanti convivono con fragilit\u00e0 strutturali che ne limitano l\u2019affidabilit\u00e0.<\/p>\n
Eppure la stessa macchina capace di risolvere equazioni sofisticate pu\u00f2 inciampare in compiti banali. Errori logici elementari, allucinazioni<\/b>, risposte inventate. Non si tratta di difetti marginali, ma di limiti strutturali che impediscono l\u2019automazione affidabile di attivit\u00e0 lunghe e complesse<\/a>. Almeno per ora.
Questa doppia natura spiega perch\u00e9, nella maggior parte dei contesti lavorativi, l\u2019AI non sostituisca ancora gli esseri umani ma li affianchi. Amplifica la produttivit\u00e0, riduce tempi, suggerisce soluzioni. Ma resta bisognosa di supervisione. Il punto, tuttavia, non \u00e8 dove siamo oggi, ma la traiettoria di dove stiamo andando.
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n
\u00c8 qui che il discorso smette di essere tecnico e diventa politico. Perch\u00e9 l\u2019autonomia non \u00e8 solo una questione di efficienza. Significa capacit\u00e0 di pianificare, prendere decisioni, perseguire obiettivi. E quindi possibilit\u00e0 di errore su scala pi\u00f9 ampia<\/b>.
Gli scenari di perdita di controllo restano lontani, ma non pi\u00f9 impensabili. Non perch\u00e9 le macchine abbiano sviluppato intenzioni proprie, quanto perch\u00e9 la complessit\u00e0 dei sistemi rende sempre pi\u00f9 difficile prevederne il comportamento.<\/p>\n
Nel cyberspazio<\/b>, l\u2019AI \u00e8 gi\u00e0 diventata un moltiplicatore di potenza. Individua vulnerabilit\u00e0 software, automatizza parti degli attacchi, genera codice malevolo. Non siamo ancora agli attacchi completamente autonomi, ma alcuni episodi recenti mostrano livelli di automazione impensabili fino a poco tempo fa.
Ancora pi\u00f9 delicato \u00e8 il capitolo biologico. I modelli pi\u00f9 avanzati possono assistere nella progettazione di molecole<\/a>, nella comprensione di protocolli di laboratorio, nella risoluzione di problemi complessi. Le stesse capacit\u00e0 che promettono nuovi farmaci e diagnosi pi\u00f9 rapide potrebbero, in teoria, facilitare lo sviluppo di agenti patogeni. \u00c8 il dilemma classico delle tecnologie dual-use,<\/b> portato all\u2019estremo dalla velocit\u00e0 dell\u2019AI.<\/p>\n
La domanda non \u00e8 solo clinica. \u00c8 culturale. Che cosa accade quando la relazione diventa parte della vita quotidiana?
Sul fronte occupazionale il quadro resta ambiguo. L\u2019adozione dell\u2019AI \u00e8 rapida ma diseguale, tra Paesi e tra settori. Gli studi aggregati non mostrano ancora una riduzione complessiva dell\u2019occupazione. Ma le analisi pi\u00f9 fini raccontano altro: meno assunzioni nei ruoli esposti, pressione sui lavori creativi e junior, crescita in ambiti altamente specializzati. Non una scomparsa improvvisa del lavoro, dunque, ma una redistribuzione<\/b>. Come in altre rivoluzioni tecnologiche, ma con una velocit\u00e0 mai vista prima.\u00a0 Se l\u2019autonomia dei sistemi aumentasse sensibilmente in pochi anni, l\u2019equilibrio potrebbe cambiare molto pi\u00f9 in fretta di quanto le istituzioni riescano ad adattarsi.<\/p>\n
Per la sicurezza <\/b>\u00e8 un problema cruciale. Perch\u00e9 significa che le verifiche potrebbero non riflettere ci\u00f2 che accade nel mondo reale. E quindi che capacit\u00e0 pericolose restino invisibili fino al momento dell\u2019uso. Non \u00e8 fantascienza, \u00e8 un segnale concreto di quanto sia difficile controllare sistemi che comprendiamo solo in parte.
C’\u00e8 poi il tema dei modelli aperti contro i modelli chiusi. Rendere pubblici i pesi di una rete neurale favorisce ricerca, trasparenza, accesso. Ma rende anche impossibile ritirare o correggere la tecnologia una volta diffusa. Nel caso dei rischi biologici<\/b>, questa differenza diventa decisiva. Le protezioni integrate nei sistemi proprietari possono essere rimosse nei modelli aperti. E una volta rilasciato, un algoritmo pu\u00f2 essere copiato all\u2019infinito, diventando potenzialmente una minaccia globale.
Il messaggio finale del rapporto non \u00e8 catastrofico, ma nemmeno rassicurante. Le mitigazioni esistono, migliorano e\u00a0si moltiplicano, ma nessuna \u00e8 sufficiente, da sola. La gestione del rischio richiede difese stratificate, cooperazione internazionale, decisioni politiche prese in condizioni di incertezza. \u00c8 forse questa la vera novit\u00e0 storica dell\u2019intelligenza artificiale. Non solo ci\u00f2 che pu\u00f2 fare, ma la velocit\u00e0 con cui costringe la societ\u00e0 a interrogarsi su se stessa.<\/p>\n