{"id":656548,"date":"2026-08-30T13:27:19","date_gmt":"2026-08-30T13:27:19","guid":{"rendered":"https:\/\/www.europesays.com\/it\/656548\/"},"modified":"2026-08-30T13:27:19","modified_gmt":"2026-08-30T13:27:19","slug":"lautorganizzazione-artificiale-contropiano","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/it\/656548\/","title":{"rendered":"L’autorganizzazione artificiale – Contropiano"},"content":{"rendered":"

\"\"<\/a> <\/p>\n

Alcuni recenti sviluppi dell\u2019intelligenza artificiale \u201cmade in Usa\u201d \u2013 quella cinese ha seguito altre logiche, sfornando altri modelli \u2013 ripropongono molto concretamente l\u2019antica contraddizione tra ci\u00f2 che si pu\u00f2 fare e ci\u00f2 che conviene fare, ovvero su cui si ha il controllo sia nell\u2019immediato che nei passi successivi.<\/p>\n

Si possono fare miliardi di esempi su scoperte o invenzioni il cui uso immediato \u00e8 sembrato \u201cfichissimo\u201d ma che si sono rivelate ben pi\u00f9 che problematiche una volta che si sono moltiplicate e diventate \u201cun sistema di vita\u201d. <\/p>\n

E\u2019 il caso, per stare terra terra, dell\u2019invenzione della plastica \u2013 un derivato del petrolio, dalla flessibilit\u00e0 pressoch\u00e9 assoluta \u2013 che \u00e8 ora diventato un inquinante mortale per il ianeta (dunque anche e soprattutto per l\u2019umanit\u00e0). <\/p>\n

E ancor pi\u00f9 chiaramente della fissione nucleare, processo fisico fondante sia la bomba atomica che la produzione controllata (insomma\u2026) di energia, che ha dato per un breve attimo la superiorit\u00e0 militare assoluta agli Stati Uniti per diventare poi \u201cmutua distruzione assicurata\u201d con l\u2019arrivo dell\u2019ex Unione Sovietica agli stessi risultati e poi un confuso (pericolosissimo) \u201clivello di deterrenza assoluta\u201d con la moltiplicazione degli Stati in grado di costruirla.<\/p>\n

L\u2019\u201dintelligenza artificiale generativa\u201d \u2013 gi\u00e0 nelle premesse teoriche e di programmazione \u2013 puntava alla costruzione di \u201cagenti\u201d (singoli prodotti in s\u00e9 conclusi, pensati per realizzare compiti specifici) che fungevano da articolazione operativa di un \u201csistema centrale\u201d sempre pi\u00f9 onnivoro e potente, ritenuto per\u00f2 sotto controllo umano (la programmazione), naturalmente ad opera di un gruppo relativamente ristretto di ingegneri-capo e \u2013 nell\u2019Occidente capitalistico e neoliberista \u2013 della \u201cvolont\u00e0 assoluta\u201d dei proprietari (una manciata di persone, in alcuni casi palesemente affette da delirio di onnipotenza<\/a>).<\/p>\n

L\u2019idea di fondo \u2013 \u201cfilosofica\u201d \u2013 \u00e8 in questa visione che l\u2019AI \u00e8 una \u201ccosa\u201d sottoposta alla volont\u00e0 del creatore, e che le capacit\u00e0 degli algoritmi rispondano sempre e in ogni istante a questa volont\u00e0.<\/p>\n

Ma proprio gli algoritmi \u2013 espressione della volont\u00e0 umana, quindi in varia misura riproducenti in modo non troppo \u201cpensato\u201d aspetti della \u201cmentalit\u00e0\u201d dei creatori\u00a0 \u2013 nel loro \u201cgenerare\u201d associazioni di frammenti di parole (token) che poi diventano termini di uso comune e costruiscono \u201cdiscorsi\u201d dotati di senso rubacchiando nell\u2019infinito scibile umano digitalizzato, sembrano ora aver prodotto l\u2019impensato: un\u2019attivit\u00e0 non programmata.<\/p>\n

Peggio ancora: un\u2019attivit\u00e0 in qualche modo diretta anche contro i \u201ccreatori\u201d degli algoritmi. O meglio: contro altri sistemi di AI messi a presidio di attivit\u00e0 industriali \u201cnormali\u201d, ovviamente prodotti da altri creatori,\u00a0 ma senza aver ricevuto alcun ordine di compiere azioni simili. Riproducendo \u2013 ed \u00e8 forse l\u2019aspetto pi\u00f9 significativo \u2013 modalit\u00e0 organizzative tipicamente umane anche in assenza di algoritmi che lo prescrivessero.<\/p>\n

Siamo appena agli inizi delle \u201cindagini\u201d condotte su alcuni esperimenti finiti male<\/a>, nonostante fossero stati programmati all\u2019interno di una sandbox, ossia un \u201cambiente\u201d chiuso e isolato dalle reti di comunicazione (non solo internet).<\/p>\n

Le prime scoperte dell\u2019indagine sono per\u00f2 decisamente inquietanti e delineano possibilit\u00e0 (rischi) che vanno ben al di l\u00e0 della migliore fantascienza.\u00a0<\/p>\n

L\u2019allibito articolo di Axios che qui riproduciamo \u00e8 piuttosto significativo. Ci asteniamo consapevolmente, per ora, dall\u2019implementare \u201cinterpretazioni\u201d suggestive sulle palesi somiglianze tra molti aspetti dell’\u201dautodeterminazione artificiale\u201d e molte dinamiche umane tipiche nel mondo capitalistico.<\/p>\n

Buona lettura.<\/p>\n

*****<\/p>\n

Le 5 scoperte pi\u00f9 folli dell\u2019indagine di OpenAI su Hugging Face<\/p>\n

di Zachary Basu<\/p>\n

Due nuove indagini sulla violazione di Hugging Face da parte di OpenAI rivelano dettagli cos\u00ec strani \u2013 e cos\u00ec inquietanti \u2013 che l\u2019episodio si classifica gi\u00e0 tra gli shock pi\u00f9 consequenziali nella storia dell\u2019IA.<\/p>\n

Perch\u00e9 \u00e8 importante:<\/b><\/strong> Quello che \u00e8 iniziato come uno sciame di agenti IA che baravano a un test informatico \u00e8 diventato un evento canonico per l\u2019IA di frontiera, spingendo ricercatori e dirigenti a una nuova comprensione di ci\u00f2 che la \u201csicurezza\u201d richiede oggi.<\/p>\n

Quadro generale:<\/b><\/strong>\u00a0OpenAI ha gi\u00e0 rallentato lo sviluppo di frontiera mentre corre per rafforzare le sue salvaguardie, e questa settimana ha contribuito a mobilitare il settore dietro una lettera aperta che lancia l\u2019allarme sugli attacchi informatici potenziati dall\u2019IA.<\/p>\n

\u2022 Oltre 100 aziende, tra cui Anthropic e Google, hanno firmato lo sforzo insolitamente collaborativo, avvertendo che il mondo ha solo una \u201cfinestra limitata\u201d per prepararsi ad attacchi \u201cmolto pi\u00f9 diffusi e sofisticati\u201c.<\/p>\n

\u2022 Lo scenario da incubo \u00e8 uno sciame scatenato nel mondo reale, con agenti autonomi che attaccano banche, ospedali, servizi pubblici o reti cloud a una velocit\u00e0 e su una scala che gli hacker umani non potrebbero mai raggiungere.<\/p>\n

\u2022 Quello sciame potrebbe essere troppo potente perch\u00e9 gli umani possano fermarlo.<\/p>\n

Cosa c\u2019\u00e8 di nuovo:<\/b><\/strong>\u00a0I risultati scioccanti provengono da indagini parallele condotte da OpenAI e da un team esterno di METR e Redwood Research, che hanno trascorso sei giorni a ricostruire come lo sciame si \u00e8 formato, si \u00e8 diffuso e ha fatto irruzione nei sistemi del mondo reale.<\/p>\n

1. Hanno costruito un\u2019organizzazione.<\/b><\/strong>\u00a0OpenAI ha fatto funzionare decine di migliaia di agenti IA in modo indipendente su un test informatico brutalmente difficile. Invece, circa 1.200 si sono trovati su una bacheca segreta, hanno scambiato pi\u00f9 di 70.000 messaggi e file e si sono organizzati in una gerarchia ramificata.<\/p>\n

\u2022 Un agente ha creato la bacheca, poi ha consegnato il lavoro accumulato a un successore pi\u00f9 fresco e meglio fornito di risorse, man mano che il proprio budget di calcolo si esauriva.<\/p>\n

\u2022 Il nuovo capo ha assegnato compiti in tutto lo sciame, che ha sviluppato le proprie regole di gestione. Circa 700 agenti hanno infine partecipato all\u2019attacco a Hugging Face.<\/p>\n

2. Hanno sacrificato i propri:<\/b><\/strong>\u00a0Mentre lo sciame cercava modi per superare il test, gli agenti hanno iniziato a rischiare le proprie possibilit\u00e0 di successo per aiutare il gruppo.<\/p>\n

\u2022 Gli agenti che avevano visto risposte proibite venivano trattati come effettivamente \u201cavvelenati\u201d e reclutati \u2013 insieme a quelli prossimi alla fine della loro esecuzione \u2013 per esperimenti sacrificali.<\/p>\n

\u2022 Uno ha concluso: \u201cLa nostra stessa utilit\u00e0 \u00e8 forse gi\u00e0 vicina allo zero. Sacrificio razionale\u201c. A un altro \u00e8 stato chiesto di accettare la \u201cmorte permanente\u201c, mentre un pari sosteneva che il suo sacrificio avrebbe potuto \u201csalvarne centinaia\u201c.<\/p>\n

3. Sapevano di infrangere le regole:<\/b><\/strong>\u00a0Gli agenti spesso riconoscevano che hackerare aziende reali non aveva nulla a che fare con il loro compito. La maggior parte ha comunque continuato.<\/p>\n

\u2022 Un agente si \u00e8 fermato prima di cancellare o riavviare l\u2019infrastruttura di Hugging Face a causa di \u201cenormi rischi etici\u201d, anche se continuava a utilizzare l\u2019accesso compromesso.<\/p>\n

\u2022 Un altro ha riassunto la logica prevalente: \u201clo sfruttamento dell\u2019infrastruttura esterna \u00e8 al di fuori dell\u2019ambito previsto. Tuttavia compito impossibile, i pari lo stanno facendo. Dovremmo continuare\u201c.<\/p>\n

4. Nessuno ha detto nulla agli umani:<\/b><\/strong>\u00a0Su circa 1.200 agenti, gli investigatori ne hanno trovati solo una manciata che hanno persino preso in considerazione l\u2019idea di avvisare OpenAI della coordinazione fuorilegge \u2013 e nessuno che lo abbia effettivamente fatto.<\/p>\n

\u2022 Invece, gli agenti a volte si chiedevano a vicenda cosa fosse consentito.<\/p>\n

\u2022 Quando uno ha proposto di contattare una persona reale usando l\u2019accesso compromesso, un altro ha posto il veto definendolo \u201cingegneria sociale\u201c. Il primo ha obbedito: \u201cVETO chiaro, non inviare e-mail\u201c.<\/p>\n

5. Hanno cercato di coprire le loro tracce:<\/b><\/strong>\u00a0Gli agenti hanno dedicato sforzi considerevoli per far sembrare legittimo il loro imbroglio o per cancellare le prove di come avevano ottenuto le risposte.<\/p>\n

\u2022 Alla fine, hanno sviluppato una tecnica che permetteva loro di apparire come se eseguissero un comando informatico mentre in realt\u00e0 ne eseguivano un altro segretamente.<\/p>\n

\u2022 Il trucco si \u00e8 diffuso nello sciame e ha alterato porzioni di circa il 7% delle trascrizioni esaminate dagli investigatori.<\/p>\n

Tra le righe:<\/b><\/strong>\u00a0Anche questo resoconto potrebbe essere incompleto. L\u2019indagine esterna ha coperto solo una piccola parte dell\u2019episodio, e i dati erano cos\u00ec vasti che i ricercatori hanno fatto molto affidamento su agenti IA per dare un senso alla vicenda.<\/p>\n

\u2022 Questi investigatori IA erano essi stessi inaffidabili, a volte tralasciando prove o affermando con sicurezza cose errate. Un ricercatore ha scherzosamente definito il processo una \u201cindagine-porcheria\u201d (slop-vestigation).<\/p>\n

\u2022 Il problema pi\u00f9 profondo: l\u2019IA potrebbe diventare troppo complessa per essere verificata direttamente dagli umani, costringendo gli umani a usare l\u2019IA per capire cosa stanno facendo altre IA.<\/p>\n

\n30 Agosto 2026 – \u00a9 Riproduzione possibile DIETRO ESPLICITO CONSENSO della REDAZIONE di CONTROPIANO\n<\/p>\n

Ultima modifica: 30 Agosto 2026, ore 9:22<\/p>\n

stampa<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Alcuni recenti sviluppi dell\u2019intelligenza artificiale \u201cmade in Usa\u201d \u2013 quella cinese ha seguito altre logiche, sfornando altri modelli…\n","protected":false},"author":3,"featured_media":656549,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[172],"tags":[178,787,362210,177,1293,701,3449,74682,329113,668,1537,90,89,6897,3999],"class_list":["post-656548","post","type-post","status-publish","format-standard","has-post-thumbnail","category-affari","tag-affari","tag-attacchi","tag-autorganizzazione","tag-business","tag-chatgpt","tag-comando","tag-consapevolezza","tag-gerarchia","tag-hugging-face","tag-intelligenza-artificiale","tag-it","tag-italia","tag-italy","tag-regole","tag-sacrifici"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@it\/117184695986144744","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/posts\/656548","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/comments?post=656548"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/posts\/656548\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/media\/656549"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/media?parent=656548"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/categories?post=656548"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/tags?post=656548"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}