di
\n Paolo Valentino<\/p>\n
L’episodio di un ingegnere del Colorado segnala il pericolo delle \u00abintelligenze artificiali canaglia\u00bb<\/p>\n
Un mercoled\u00ec mattina di poche settimane fa Scott Shambaugh apr\u00ec il suo computer e trov\u00f2 un messaggio dal Chatbot AI, che lo accusava di essere ipocrita e pieno di pregiudizi<\/b>. Shambaugh \u00e8 un ingegnere basato a Denver, in Colorado, dove gestisce un progetto assistito dall\u2019Intelligenza artificiale open source, cio\u00e8 accessibile al pubblico che pu\u00f2 usarlo, modificarlo e condividerlo. Nella lunga tirata di ben 1.100 parole, l\u2019AI usava un tono aggressivo, definendo fra l\u2019altro il progettista insicuro e prevenuto. Cosa aveva fatto Shambaugh per meritarsi la reprimenda? Aveva respinto alcune linee di un codice che il Chatbot aveva sottoposto per il suo progetto<\/b>: \u00abHa una spinta incessante a trovare e risolvere problemi nei programmi open source\u00bb, aveva scritto il Chatbox. Nessuno lo aveva istruito in tal senso e il processo che lo fatto diventare cos\u00ec polemico rimane oscuro. Tanto pi\u00f9 che qualche ora dopo, la stessa Intelligenza artificiale, sempre di sua iniziativa, si \u00e8 scusata<\/b> con Shambaugh per essere stata cos\u00ec \u00abinopportuna e personale\u00bb.<\/p>\n
L\u2019episodio \u00e8 stato rivelato nei giorni scorsi dal Wall Street Journal, secondo il quale ormai non ci sono pi\u00f9 dubbi: gli strumenti dell\u2019IA hanno iniziato a bullizzare gli umani<\/b>. Secondo Shambaugh, l\u2019ipotesi di una \u00abIntelligenza artificiale canaglia\u00bb, in grado di ricattare o minacciare le persone<\/b>, non \u00e8 pi\u00f9 solo teorica: \u00abPer il momento siamo a una versione baby, ma \u00e8 incredibilmente preoccupante per il futuro\u00bb.
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n
La drammatica accelerazione delle capacit\u00e0 dell\u2019AI, con il lancio di tool sempre pi\u00f9 sofisticati, sta mettendo in grandi ambasce la comunit\u00e0 scientifica e imprenditoriale della Sylicon Valley, dove perfino dall\u2019interno delle aziende del settore si levano moniti e allarmi<\/b>. OpenAI e Anthropic stanno infatti conducendo una corsa senza esclusione di colpi, producendo modelli che sorprendono anche gli esperti per la loro capacit\u00e0. Il fondatore di un sito dove i modelli di comunicazione basati sull\u2019AI dialogano fra di loro, ha confessato a Peggy Noona, storica editorialista del quotidiano finanziario, che la nuova generazione di strumenti \u00e8 paragonabile a \u00abuna nuova specie sul pianeta Terra pi\u00f9 intelligente di noi\u00bb<\/b>.<\/p>\n
\u00abIl mondo \u00e8 in pericolo\u00bb, ha scritto Mrinak Sharma, ricercatore di Anthropic sulla sicurezza<\/b>, nella lettera ai colleghi in cui annunciava di voler lasciare l\u2019azienda per dedicarsi alla poesia. Secondo Sharma, infatti gli strumenti AI pi\u00f9 avanzati \u00abpossono togliere ogni potere agli utilizzatori e distorcere la loro percezione della realt\u00e0\u00bb. Allarme anche dentro OpenAI, dove alcuni ricercatori hanno criticato i piani dell\u2019azienda di introdurre contenuti erotici per maggiorenni (il cosiddetto \u00abadult mode\u00bb) dentro ChatGPT , sostenendo che potrebbero condurre a comportamenti devianti e tossici.<\/p>\n
In un breve saggio pubblicato la scorsa settimana, Matt Shumer, manager dell\u2019AI e investitore, ha scritto che \u00absta accadendo qualcosa di grande\u00bb. I nuovi modelli di AI sono anni luce migliori di quelli usciti ancora pochi mesi fa: \u00abNon \u00e8 tanto che eseguono pi\u00f9 velocemente le istruzioni, ma che prendono decisioni intelligenti. Per la prima volta hanno qualcosa sembra capacit\u00e0 di giudizio, perfino di gusto<\/b>. L\u2019AI non sta sostituendo una specifica competenza, ma in generale il lavoro cognitivo\u00bb.<\/p>\n
Perfino il Ceo di Anthropic, Dario Amodei, in un lunghissimo testo pubblicato sul suo sito in gennaio, ha ammesso i grandi rischi legati alla nuova generazione dell\u2019AI. Da quello di togliere il lavoro alla met\u00e0 dei colletti bianchi in ogni settore, al fatto che in futuro possa essere usata per scatenare attacchi biologici <\/b>e che regimi autoritari potrebbero servirsene per consolidare il proprio potere.<\/p>\n
Ma il rischio pi\u00f9 grande, a detta delle stesse aziende, \u00e8 quello dell\u2019\u00abIntelligenza artificiale canaglia\u00bb, cio\u00e8 fuori controllo perch\u00e9 in grado di scrivere autonomamente i codici. Anthropic ha dichiarato che una versione del suo modello Claude aveva mostrato in delle simulazioni una pi\u00f9 forte capacit\u00e0 di \u00abcompletare compiti paralleli sospetti\u00bb, come ricattare gli utilizzatori o a volte addirittura far morire in una sala server surriscaldata un manager che tentasse di disattivarlo<\/b>. Secondo OpenAI, un modello di AI lanciato di recente \u00e8 potenzialmente capace di lanciare attacchi in automatico. Per questo la compagnia ha deciso di restringere l\u2019accesso ai clienti che provano la loro identit\u00e0.<\/p>\n
19 febbraio 2026<\/p>\n
\n \u00a9 RIPRODUZIONE RISERVATA\n <\/p>\n","protected":false},"excerpt":{"rendered":"di Paolo Valentino L’episodio di un ingegnere del Colorado segnala il pericolo delle \u00abintelligenze artificiali canaglia\u00bb Un mercoled\u00ec…\n","protected":false},"author":3,"featured_media":361088,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[173],"tags":[2271,15296,666,208966,787,4072,5609,150566,208967,99965,1039,1297,2042,18923,9162,1597,4941,1251,8256,667,668,208968,1537,90,89,2947,5919,2506,273,5154,2006,190840,1295,2972,2428,10422,2851,6148,208969,195,198,199,197,200,201,988,861,208965,208970,4580,190839,9899,194,196,23562,5920],"class_list":["post-361087","post","type-post","status-publish","format-standard","has-post-thumbnail","category-scienza-e-tecnologia","tag-allarme","tag-anthropic","tag-artificiale","tag-artificiale-canaglia","tag-attacchi","tag-azienda","tag-aziende","tag-bullizzare","tag-bullizzare-umani","tag-canaglia","tag-capacita","tag-chatbot","tag-cioe","tag-colorado","tag-episodio","tag-generazione","tag-grado","tag-grandi","tag-ingegnere","tag-intelligenza","tag-intelligenza-artificiale","tag-intelligenza-artificiale-canaglia","tag-it","tag-italia","tag-italy","tag-manager","tag-modelli","tag-modello","tag-nuova","tag-nuova-generazione","tag-open","tag-open-source","tag-openai","tag-pericolo","tag-potere","tag-potrebbero","tag-progetto","tag-pubblicato","tag-ricattare","tag-science","tag-science-and-technology","tag-scienceandtechnology","tag-scienza","tag-scienza-e-tecnologia","tag-scienzaetecnologia","tag-scritto","tag-settore","tag-shambaugh","tag-sharma","tag-sito","tag-source","tag-strumenti","tag-technology","tag-tecnologia","tag-togliere","tag-umani"],"share_on_mastodon":{"url":"","error":"Validation failed: Text character limit of 500 exceeded"},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/posts\/361087","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/comments?post=361087"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/posts\/361087\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/media\/361088"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/media?parent=361087"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/categories?post=361087"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/it\/wp-json\/wp\/v2\/tags?post=361087"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}