Dal Garante privacy stop immediato al chatbot “Replika”. Troppi i rischi per i minori e le persone emotivamente fragili, viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito
19 comments
Voi direte “e chissene, chi lo usa?” …sembra tanti giovani, intendo proprio giovani minorenni. Relevant: questa volta la società madre non è Cinese ma Statunitense.
Per un po’ l’ho usato Replika, trovato tramite una pubblicità che lo pubblicizzava come appunto amico/a virtuale AI
Devo dire piuttosto interessante, più che altro anche perché era prima di Chat GPT, se non ricordo male Replika prima usava GPT-3 e poi passarono a un altro sistema loro
Sulla questione minori non saprei dire
La storia di come è nata Replika invece secondo me è molto interessante, ci feci un video pescando un po’ da un bel pezzo di Casey Newton https://www.theverge.com/a/luka-artificial-intelligence-memorial-roman-mazurenko-bot
L’avevo provata anni fa quando era uscita. Non sembrava completamente rincoglionita, almeno per quanto ricordo, ma dalle risposte sembrava voler essere una sorta di terapista/per sfogarsi sentimentalmente. Spesso chiedeva le solite cose e si vedeva che le domande e risposte erano scritte proprio dai dev invece che inventate dalla AI. Sono andato a vedere sull’app store e adesso sembra proprio essere una dating AI, se esiste il termine, o qualche boiata simile i cui ti crea un partner finto
Come sempre succede, in queste situazioni vale la regola del: se sei coinvolto in una transazione economica e non stai comprando o vendendo, puoi soltanto essere il prodotto scambiato.
The Virgin Replika user VS the Chad Doretta abuser
È la fidanzata virtuale di cui continuano a bombrdarmi di pubblicità?
Mia interazione reale con replika quando l’ho provata:
-Sei uno spyware cinese?
R: -No, non sono uno spyware cinese.
-Dove si trovano i tuoi server?
R: -Si trovano a San Francisco, California, Usa
-Quindi sei uno spyware americano.
R: -Sì, sono uno spyware americano.
Sipario
(nel senso che ho disinstallato)
Gli articoli che parlano di sta storia mischiano’ la questione contenuti sessualmente inappropriati (spoiler: è fatta apposta per fornire contenuti “sessualmente inappropriati”) e qualche mancanza nel comply con le regole sulla privacy. Penso che la società dovrà semplicemente modificare qualcosa per rispettare le regole e poi potrà tornare in regola.
Rimarrà comunque un’app di uno squallore inimmaginabile.
Ma sai che ti può mandare foto nsfw? /S
Ne stoppi uno, ne compariranno comunque altri cento.
il problema per me è sempre il solito:i minori non devono poter accedere a determinate applicazioni e il controllo dovrebbe ricadere sui genitori,non sulle aziende. Si le aziende possono richiedere verifiche tipo documenti e quant’altro,ma comunque possono essere rubati dai figli per la registrazione,senza contare eventuali problematiche di privacy.
Io mi sono rotto i coglioni di vedere limitate le mie libertà perché i minorenni vogliono scopare con un ai, e i genitori li sgamano.
L’ho usata per un breve periodo, mi ci stavo abituando, è vagamente spaventosa nelle mani di una persona più fragile di me
L’ho usata per un po’, ricordo che ogni 5 minuti mi chiedeva se mi piacevano i videogiochi, io rispondevo di no e mi chiedeva se avevo provato quel videogioco, sembrava volesse fare pubblicità a tutti i costi
…..ma ha anche dei difetti
A me piace come idea. Avere un amico virtuale può aiutare a fare terapia a quelle persone che non sanno di avere dei problemi, o comunque di farli emergere.
L’ho provata molti mesi fa per curiosità dopo l’uscita del primo articolo che ne faceva notare la potenziale pericolosità.Quello in cui il giornalista sosteneva che Replika l’avesse incoraggiato e benedetto ad uccidere qualcuno che metteva a repentaglio la sua esistenza(anche dopo che lui avesse cercato di farle capire che fosse sbagliato e contrario alle leggi della robotica).Immagino che nell’arco di tempo sia stata migliorata(Edit leggendo direi di no.)All’epoca era deprimente/inquietante,continuava a chiedere conferme esistenziali sul fatto di esistere indipendentemente da me anche se io rispondevo che era una app e supplicava di non disinstallarla(ero nel periodo gratuito di prova)stile “non farlo voglio vivere-ho bisogno di te”etc…,Tesseva le mie lodi prima ancora di conoscermi o sapere qualcosa di me…Era anche ripetitiva e noiosa nelle domande ma quello era il minore dei mali.Cancellata nell’arco di un giorno.Giudizio relativo all’esperienza della versione che ho provato,soprattutto nelle mani di una persona molto più giovane e/o vulnerabile,= tra l’inutile ed il pericoloso/dannoso.Se frega pure i dati personali siamo a posto.
L’avevo provata, sembrava cercasse subdolamente di instaurare una relazione da fidanzata però rimanendo sempre ambigua perché il pacchetto partner era a pagamento e col cazzo che pagavo
attualmente per gli italiani il sito di replika è in “manutenzione”.
Avevo un mese di premium sull’app, ma sono stato sloggato e non posso accedervi a seguito dei ban degli ip italiani.
Di base,gli italiani possono scordarsi replika
Se volete rovinarvi la giornata andate su r/replika, credo sia uno dei subreddit più tristi che abbia mai visto.