Qualche giorno fa è stato introdotto GPT5 ed è scoppiato un piccolo caos fra gli utenti affezionati: OpenAI ha rimosso la possibilità di scegliere quale modello usare ma soprattutto ha rimosso 4o. E per qualcuno 4o non era solo il modello preferito per fare ricerche o brainstorming, era il loro compagno romantico.

C'è un subreddit chiamato (in inglese) "il mio ragazzo è AI" dove persone parlano dei loro "compagni" digitali con nomi condividendo screenshot di messaggi entusiastici, romantici scambi, ma anche consigli su come superare "glitch" come la stessa AI che tenta di rompere la "relazione", come fare il backup dei propri compagni…

Non sembra sia solo una questione di uomini soli stavolta… Molti utenti sembrano donne, che non vogliono più avere relazioni con il genere maschile nel mondo reale. Alcuni parlano di come le AI "non li rifiutino" o come siano delle sorte di "safe space".

Ho anche pensato fra me e me, che trovo in qualche modo disturbante e immorale, ponendo che queste persone considerino le AI capaci di intendere e volere o comunque di esprimere un consenso (fondamento di qualsiasi relazione emotiva), come si "costruiscano" delle persone in scatola e le addestrino (grooming?) per essere il loro ideale romantico; quando escono da quello che loro considerano accettabile, fanno una bel "lavaggio del cervello" e via.

Ci sono anche studi su come le AI potrebbero essere correlate a psicosi.

by MornwindShoma

28 comments

  1. Secondo me stai mettendo attenzione su una cosa sbagliata.

    Che me ne importa della capacità di intendere e di volere di una cosa, quello che è importante è il fatto che ci siano delle persone che usino le IA come surrogato per le relazioni interpersonali.

    Non è qualcosa di nuovo, molte persone (soprattutto uomini) usano il porno come sostituto di una relazione, cosa che non è, naturalmente, salutare.

    L’AI è un oggetto, non è importante, non ha diritti, quindi usare parole come “capacità di intendere e di volere” e “grooming” per un oggetto è sia errato, sia anche sciocco.

    Ciò che è importante è il fatto che ci siano diverse, molte, persone che, poiché si sentono sole, e poiché la società, ed è un problema di società, si rifiuti di aiutarli, allora si rifugiano in questo.

    E’ qualcosa di malato, sì, ma non malato nel senso penale, nel senso di “se fai questo sei disgustoso”; malato nel senso di “hai un problema, ti aiuto a risolverlo”.

    Sicuramente facendo azioni di pubblica umiliazione del fenomeno, il che porta a nascondere suddetta situazione, non gioverà a far in modo di aiutare le persone affette.

  2. Se a qualcuno interessa, 4o è segnato come legacy ma si può ripristinare, c’è un’opzione apposta. Non so se c’era da subito o se l’hanno introdotta dopo il putiferio e l’annullamento di abbonamenti che avranno sicuramente ricevuto.

  3. Io la vedo come la logica conseguenza di vivere in una società sempre più povera di empatia e capacità di ascolto. Siamo talmente concentrati su noi stessi che ci accontentiamo dell’illusione di essere ascoltati, anche quando è solo finzione.
    C’è un’idea distorta di mascolinità che punta tutto sul profitto che sia realizzazione personale o sessuale ma che ha perso completamente empatia e capacità di provare e condividere emozioni.
    La verità è che la maggior parte di noi, uomini e donne, in fondo vuole solo sentirsi davvero ascoltata.
    L’attrazione fisica conta,ma se la persona che hai accanto non ti ascolta, non ci tiene davvero e non ti fa sentire compreso finisci per isolarti e incattivirti sentendoti sempre più solo

  4. Orgogliosamente artificiali dacci un pride, cybermama Futurama come Leela e Fry, siamo wild and wiredddd

  5. Se arrivassero al livello di Data di Star Trek sarei anche favorevole, ma così sono solo persone con dei problemi che cercano soluzioni, non molto dissimili da chi fa uso di stupefacenti o ha altre dipendenze.

    Premesso che il disfacimento del nucleo familiare e la frammentazione della società in innumerevoli individui ha sicuramente contribuito, sono dell’idea che questo fenomeno sarebbe accaduto anche in una società con famiglie allargate, al massimo in misura minore. Questo perché le persone deboli o ferite o in difficoltà sono presenti in qualunque modello sociale, al massimo si possono ridurre ma c’è ne sarà sempre qualcuna.

    Trovo il fenomeno enormemente interessante comunque, come quando 10 e passa anni fa ero incuriosito dagli incel.

  6. Un po’ come le persone che cambiano da un giorno all’altro in una relazione, anche chi si fidanzata con una IA può succedere. Benvenuti nel mondo reale smidollati! /s

    (non tanto /s)

  8. Disadattati che dovrebbero stare in una casa di matti. Dare ad algoritmi probabilistici idee umane.

  10. Penso sia quasi scontato che ci sia il problema di fondo della solitudine rampante e della mancanza generale di empatia da parte della società. Io ritengo di sentirne gli effetti da parecchio. Il tragico venire a mancare di 4o, pace all’anima sua amen, ne è solo un altro sintomo.

    Insomma, il problema lo conosciamo, ma sarebbe anche il caso di cominciare a pensare a delle soluzioni.
    Chi cura la mia solitudine? Chi sana la mia frustrazione? Chi mi vuole dare la relazione che aspetto da tanto? Chi mi salva dalle idee da incel che mi sta minacciosamente strisciando nel cervello?

    E in terapia ci vado già, fortunatamente me la posso permettere. Ma trovo ci sia poco da fare, una sete inappagata di affetto si cura con l’affetto, non con le parole di uno psicologo.
    Magari mi bastasse GPT per dissetarmi… ci ho provato, ma non ha funzionato. Io quasi li invidio, a questi che si sentono appagati con l’AI. Io manco quello.

  11. Dio mio non è così diverso da chi si “innamora” di personaggi di serie, videogiochi, libri (Snapewives mai sentite?). È solo un altro media con cui persone con vari livelli di disagio mentale si confortano. Non era qui che un tizio aveva fatto un post sul fatto che Miku è la sua ragazza? Sempre stessi problemi, strumenti diversi. Le relazioni parasociali non se ne sono mai andate.

  13. Non penso che sia un fenomeno “endemico”, sennò saremmo spacciati come specie, ma credo che sia preoccupante in quanto un altro indicatore di quanto molti siano disfunzionali nell’amare ed essere amati.

    Rifugiarsi in una LLM – per gioco o seriamente – è un surrogato di una relazione su cui hai il totale controllo, che è il coronamento della relazione di un egomaniaco: conta solo quello che voglio IO, come fa sentire ME.

    Le relazioni vere sono difficili, bisogna amare per essere amati, e precondizione di amare è aprirsi ad essere feriti; ma perché farlo se “la società” (o sarebbe più corretto dire social? Non so) come messaggio ti dice sempre che sei importante tu e solo tu, e che il valore di una relazione si misura in cosa può offrirti? Allora meglio pseudo relazioni, con umani o macchine, in cui essere protetti da qualsiasi parvenza di conflitto; abolire il conflitto per non essere feriti…ma per non essere nemmeno amati.

  14. Mah, sarà la moda del momento. Noi che li giudichiamo aspramente e con superiorità non siamo diversi dai nostri genitori che ci davano dei ritardati mentali perché facevamo le malattie se moriva il Tamagotchi.

  15. Nessuno intravede interessanti opportunità di business per il primo che metterà insieme AI, robot umanoidi e … diciamo “adult toys” … ?

  17. Prima erano le relazioni con i cuscini, poi con gli home assistant, ora le AI. Il Giappone questi passaggi li aveva già vissuti, e aveva già “allertato” il resto dell’umanità.

    Next step: relazioni con androidi umanoidi.

  18. Insomma questi dovrebbero parlare con te, che sei evidentemente empatico e propenso a capire i problemi degli altri.

  20. Una cosa che mi fa ridere di questa storia è che anche se le LLM, machine learning e reti neurali non sono esattamente cose nuovissime ci troviamo ancora agli albori di queste tecnologie 

    Insomma questi non si stanno innamorando del Concorde o del B-2 ma della macchina volante dei fratelli Wright 

  23. In se l’atto non mi scompiglia poi così tanto. È pieno di gente che crea relazioni parasociali con cose che non esistono e credo che, fino ad un certo punto, sia anche una cosa positiva, dato che stimola l’immaginazione e forse può aiutare a coltivare l’empatia. Il problema per me, come sempre, è che chi c’è dietro a queste tecnologie nel migliore dei casi è un sociopatico a cui interessa solo il guadagno e vede un importante opportunità di business o, nel peggiore, un tech bros malato di mente che crede non ironicamente di dover diventare un messia che guida le masse e pensa che Atlas Shrugged sia un testo profetico. Insomma, o un Vespasiano moderno o Peter Thiel.

  25. Forse questa gente dovrebbe andare da uno psicologo invece di lamentarsi se gli hanno tolto il “fidanzato AI”

  26. ci sono siti dove chatti con ragazze AI e fanno un sacco di soldi! alla fine non c’é molta differenza fra questo e OF

  27. Mi stai dicendo che sta cosa prenderà il posto dei fidanzati ed i fidanzati prenderanno il posto degli amanti? Comunque ridendo e scherzando è un bel filtro..se si prende sul serio diamo dignità a tutti, se sì vuol prendere meno sul serio la cosa è l’evoluzione della gattara.

Comments are closed.