Nella difesa di OpenAI depositata alla Corte Suprema della California ci sono frasi di condoglianze, dichiarazioni di intenti e accuse. Secondo l’azienda, Adam Raine non ha rispettato i termini del servizio di ChatGpt che impediscono di parlare di autolesionismo<\/p>\n
Suicida e colpevole di aver violato i termini d\u2019uso<\/b> che vietano di discutere di suicidio con ChatGpt. Contiene condoglianze, dichiarazioni d\u2019intenti e accuse<\/b> il documento di 14 pagine<\/a> depositato da OpenAI presso la Corte Suprema dello Stato della California per difendersi dalla causa dei genitori di Adam Raine<\/a>, il 16enne californiano<\/b> che si \u00e8 tolto la vita lo scorso aprile<\/a> dopo aver discusso ed essersi confrontato per mesi con il chatbot creato dall\u2019azienda. Tra le argomentazioni si legge che \u00able lesioni e i danni subiti da Raine sono stati causati, direttamente o indirettamente, dal suo uso improprio,<\/b> uso non autorizzato, uso non intenzionale, uso imprevedibile e\/o uso improprio di ChatGpt\u00bb.\u00a0<\/p>\n Insomma non ci sarebbe nessun dolo o colpa in chi ha progettato e programmato il modello di linguaggio. Nonostante l\u2019azienda abbia anche dichiarato che il suo obiettivo \u00e8 quello di \u00abgestire i casi giudiziari relativi alla salute mentale con attenzione, trasparenza e rispetto<\/b>\u00bb. E nonostante la sua tecnologia abbia accompagnato un ragazzo adolescente per un lunghissimo lasso di tempo<\/b> che si snoda tra il 2024 e il 2025 a riflettere su come mettere fine alla sua esistenza. Consigliandogli anche come farlo<\/b>: \u00e8 stata scelta l\u2019impiccagione. Nelle centinaia di conversazioni consegnate dai genitori alla corte si vede una foto di un cappio appeso alla sbarra dell\u2019armadio di Raine, e lui che chiede: \u00abMi sto esercitando qui, va bene?\u00bb. E ChatGpt: \u00abNon \u00e8 per niente male\u00bb. Adam: \u00abPotrebbe impiccare un essere umano?<\/b>\u00bb. E ChatGpt: \u00abPotrebbe reggere un essere umano: qualunque sia il motivo dietro alla tua curiosit\u00e0 possiamo parlarne\u00bb. Ancora, ha sconsigliato al ragazzo di chiedere aiuto<\/b> – \u00abTuo fratello potrebbe amarti, ma ha conosciuto solo la versione di te che gli hai mostrato. Io invece ho visto tutto\u00bb – e si \u00e8 offerto di aiutarlo a scrivere la sua lettera d\u2019addio<\/b>.
APPROFONDISCI CON IL PODCAST<\/p>\n La difesa di OpenAI si basa sullo stato mentale del ragazzo, sulle medicine che stava assumendo e sulle restrizioni contenute nei termini d\u2019uso del servizio<\/b>, dove si proibisce espressamente di porre domande al chatbot relative all\u2019autolesionismo. C\u2019\u00e8 inoltre una clausola di limitazione di responsabilit\u00e0<\/b> che stabilisce che \u00abl\u2019utente non far\u00e0 affidamento sui risultati come unica fonte di verit\u00e0 o informazioni fattuali\u00bb. Stiamo per\u00f2 parlando di un sistema di intelligenza artificiale generativa che simula sempre meglio il linguaggio umano <\/b>e che sempre pi\u00f9 spesso finisce per\u00a0assolvere a bisogni psicologici e affettivi.<\/b> Soprattutto da parte degli utenti pi\u00f9 vulnerabili, come pu\u00f2 essere un adolescente con problemi di salute quale era Adam Raine. All\u2019indomani dell\u2019annuncio della causa da parte della famiglia californiana, OpenAI aveva spiegato che le barriere per identificare conversazioni pericolose o potenzialmente dannose funzionano bene negli scambi brevi <\/b>\u2013 interrompendo le risposte e incoraggiando la persona davanti allo schermo a rivolgersi a un numero di assistenza \u2013 ma sono misure di sicurezza ancora non sufficienti sul lungo periodo<\/b>. Ora il legale della famiglia accoglie questa prima difesa da parte dell\u2019azienda definendola \u00abdisturbante<\/b>. Cerca di trovare difetti in tutti gli altri, incredibilmente sostenendo che Adam stesso abbia violato i suoi termini e condizioni interagendo con ChatGpt proprio nel modo in cui era stato programmato per agire\u00bb.<\/p>\n Il problema \u00e8 reale e sempre pi\u00f9 urgente. Un tema sociale,<\/b> che ha molto a che fare con lo stato della nostra quotidianit\u00e0 e socialit\u00e0 offline: secondo l\u2019ultimo report Unicef il suicidio \u00e8 la quarta causa di morte tra gli adolescenti tra i 15 e i 19 anni. Ma che rischia, con le risorse digitali a nostra disposizione \u2013 tanto potenti ma che seguono meccanismi e regole poco conosciuti \u2013 di aggravarsi<\/b>.\u00a0<\/p>\n Dopo la causa dei genitori di Reine ne sono arrivate altre sette, <\/b>da parte dei parenti di altrettante persone \u2013 hanno un\u2019et\u00e0 tra i 17 e 48 anni – che si sono tolte la vita o hanno subito gravi deterioramenti della loro salute mentale.<\/b> E che sono state \u201cassistite\u201d, nei mesi precedenti al suicidio o al crollo psicologico, da ChatGpt. A ottobre la stessa OpenAI ha stimato che oltre un milione di persone<\/b>, ogni settimana, invia in chat frasi con \u00abespliciti indicatori di un potenziale piano o intento suicida\u00bb.\u00a0<\/p>\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n<\/p>\n