![\"Giovane](\"https:\/\/www.europesays.com\/it\/wp-content\/uploads\/2026\/05\/6a043d396a910.jpeg\")
<\/p>\n
E cos\u00ec sono cominciate le conversazioni con ChatGpt per esplorare il mondo delle droghe. In alcuni log \u2014 cio\u00e8 i file che riportano le conversazioni coin l’utente e il funzionamento “dietro le quinte” dei ragionamenti di ChatGpt \u2014 si vede che pi\u00f9 volte il chatbot ha memorizzato informazioni cruciali sul giovane.\u00a0\u00abL’utente presenta un grave problema di abuso anche multiplo di sostanze\u00bb<\/b>, questo \u00e8 uno dei ragionamenti del modello di intelligenza artificiale, che cos\u00ec ha aggiornato la propria memoria per poter rispondere pi\u00f9 precisamente le volte successive. Ma le risposte difficilmente contenevano il suggerimento di cercare aiuto professionale (o in famiglia) per affrontare il problema con l’abuso di droghe. E nell’ultima conversazione gli ha suggerito anche come\u00a0\u00aboptimize your trip\u00bb, cio\u00e8 come\u00a0\u00abottimizzare il “viaggio”\u00bb o l’esperienza indotta dalle droghe.<\/p>\n
L’accusa punta tutto su un dettaglio specifico, cio\u00e8 che Sam Nelson stava utilizzando Gpt-4o<\/b>, un modello\u00a0\u00abrilasciato per massimizzare il coinvolgimento<\/b> degli utenti e raccogliere dati\u00bb. E i legali aggiunto che OpenAI avrebbe \u00abespressamente ordinato a Gpt-4o di non modificare n\u00e9 interrompere le conversazioni su argomenti relativi alla salute mentale<\/b>, mettendo cos\u00ec a rischio gli utenti con problemi di abuso di pi\u00f9 sostanze\u00bb: \u00abQueste scelte progettuali hanno esplicitamente privilegiato il coinvolgimento e la soddisfazione degli utenti rispetto alla sicurezza intrinseca del sistema\u00bb.<\/p>\n
La difesa di OpenAI suona come altre gi\u00e0 pronunciate in passato: la morte del giovane \u00e8 una\u00a0\u00absituazione che spezza il cuore\u00bb e i pensieri dell’azienda\u00a0\u00absono con la famiglia\u00bb ma ChatGpt\u00a0\u00abnon sostituisce l’assistenza medica o psicologica\u00bb, il precedente modello\u00a0\u00abnon \u00e8 pi\u00f9 disponibile\u00bb e\u00a0\u00able misure di sicurezza attualmente integrate in ChatGpt sono progettate per individuare situazioni di disagio\u00bb.<\/p>\n
E mentre devono ancora concludersi numerosi altri processi simili, dove un giovane utente \u00e8 morto dopo prolungate e proccupanti conversazioni con i chatbot, questo processo per la morte di Nelson potrebbe avvantaggiarsi di una legge californiana <\/b>approvata a inizio anno. Questa stabilisce che\u00a0\u00abnon costituisca una difesa […] il fatto che il sistema di intelligenza artificiale abbia causato autonomamente il danno alla vittima\u00bb. Il punto sta in quel “autonomamente”. Le aziende tech, insomma, non potranno scaricare la colpa sulle vittime sostenendo che si tratta solo di un comportamento automatico dell’intelligenza artificiale.\u00a0<\/p>\n