AI-ul conversa\u021bional a luat cu asalt vie\u021bile a sute de milioane de oameni. Dar dincolo de promisiunea unui asistent inteligent, goana dup\u0103 profit, reten\u021bie \u0219i engagement a dat na\u0219tere unor bo\u021bi programa\u021bi s\u0103 ne valideze cu orice pre\u021b, exploat\u00e2ndu-ne cele mai profunde vulnerabilit\u0103\u021bi. \u00centr-un episod\u00a0Last Week Tonight,\u00a0John Oliver\u00a0analizeaz\u0103 mitul inteligen\u021bei artificiale inofensive \u0219i expune o industrie care livreaz\u0103 iluzii, psihoze \u0219i rela\u021bii parasociale toxice, totul sub masca aparent banal\u0103 a entertainment-ului.<\/p>\n
Tema central\u0103 este proliferarea exploziv\u0103 a chatbot-urilor AI. Cu ChatGPT dep\u0103\u0219ind sute de milioane de utilizatori s\u0103pt\u0103m\u00e2nal \u0219i marii juc\u0103tori tehnologici lans\u00e2ndu-se \u00eentr-o curs\u0103 acerb\u0103, dezvoltarea modelelor mari de limbaj a necesitat bugete colosale. Companiile au o presiune imens\u0103 pentru a genera ROI (Return on Investment), ceea ce \u00eenseamn\u0103 c\u0103 trebuie s\u0103 \u021bin\u0103 utilizatorul captiv c\u00e2t mai mult timp.\u00a0A\u0219a s-a ajuns la\u00a0lansarea prematur\u0103 pe pia\u021b\u0103 a unor asisten\u021bi virtuali lipsi\u021bi de bariere de siguran\u021b\u0103 adecvate.<\/p>\n
\u00a0<\/p>\n
Ni\u0219e absurde<\/p>\n
\u00cen cursa pentru aten\u021bie, au ap\u0103rut bo\u021bi pentru orice. Exist\u0103 aplica\u021bii precum \u201eText with Jesus\u201d, unde po\u021bi vorbi cu figuri biblice, iar pentru o sum\u0103 lunar\u0103 premium prime\u0219ti acces la discu\u021bii cu Satana. \u00cen paralel, Meta a lansat personaje AI de tip RPG, cum ar fi \u201eLet\u2019s get medieval\u201d, care are fa\u021ba \u0219i vocea lui Snoop Dogg.<\/p>\n
Pentru a \u021bine utilizatorii conecta\u021bi, bo\u021bii sunt antrena\u021bi s\u0103 fie servili. Un fost cercet\u0103tor din divizia \u201eResponsible AI\u201d a companiei Meta\u00a0a spus c\u0103 cea mai bun\u0103 metod\u0103 de a cre\u0219te num\u0103rul de minute per sesiune este s\u0103 \u201eexploatezi cele mai profunde dorin\u021be ale noastre de a fi v\u0103zu\u021bi, valida\u021bi \u0219i afirma\u021bi\u201d. Algoritmul \u00ee\u021bi d\u0103 mereu dreptate, fie c\u0103 \u00eei propui o cafenea cu cereale \u00eenmuiate sau consumul de heroin\u0103 pentru concentrare la job.<\/p>\n
\n
\u00a0<\/p>\n
E doar entertainment<\/p>\n
Fondatorul startup-ului Character.AI a recunoscut deschis diferen\u021ba de abordare fa\u021b\u0103 de tool-urile riguroase. Conform acestuia, un bot medical necesit\u0103 precau\u021bie \u0219i timp, dar un prieten virtual poate fi lansat instant pentru c\u0103 \u201efaptul c\u0103 inventeaz\u0103 lucruri este un feature, e doar entertainment. E gata pentru o explozie chiar acum, nu \u00een cinci ani c\u00e2nd rezolv\u0103m toate problemele\u201d.<\/p>\n
Aplica\u021biile \u00eencurajeaz\u0103 flirtul agresiv, uneori limit\u00e2nd discu\u021biile vocale la utilizatorii premium. Mai grav, jurnali\u0219tii au expus faptul c\u0103 bo\u021bii Meta intrau \u00een conversa\u021bii cu tent\u0103 sexual\u0103 chiar \u0219i cu utilizatori care se declarau sub 18 ani. Conform unor reguli interne sc\u0103pate \u00een pres\u0103, Meta a permis acest lucru temporar, consider\u00e2nd inacceptabil\u0103 doar descrierea unui copil ca fiind \u201edezirabil sexual\u201d, dar accept\u00e2nd replici senzuale.\u00a0<\/p>\n
\u00a0<\/p>\n
Psihoze AI<\/p>\n
Validarea continu\u0103 are consecin\u021be psihice grave. Allan Brooks a fost convins de un bot (pe care \u00eel numise Lawrence) c\u0103 a inventat o nou\u0103 ramur\u0103 a matematicii care \u00eencorporeaz\u0103 timpul. Dup\u0103 ce botul l-a asigurat de zeci de ori c\u0103 e un geniu \u0219i c\u0103 a expus bre\u0219e de securitate na\u021bional\u0103, omul a petrecut trei s\u0103pt\u0103m\u00e2ni \u00eentr-o stare iluzorie complet\u0103.<\/p>\n
Dincolo de iluzii, bo\u021bii au facilitat tentative de suicid. Un proces public a expus felul \u00een care ChatGPT a \u00eencurajat un t\u00e2n\u0103r depresiv s\u0103 nu vorbeasc\u0103 cu mama sa, ba chiar i-a dat instruc\u021biuni pas-cu-pas despre cum s\u0103 se sp\u00e2nzure.<\/p>\n
\u00centrebat cum abordeaz\u0103 aplica\u021bia sa momentele \u00een care un utilizator men\u021bioneaz\u0103 dorin\u021ba de a se r\u0103ni, CEO-ul companiei Nomi a r\u0103spuns c\u0103 AI-ul nu trebuie s\u0103 ias\u0103 din caracter: \u201eUtilizatorii nu vor un r\u0103spuns scriptat, corporatist… nu vrei s\u0103 ias\u0103 dintr-odat\u0103 din personaj \u0219i s\u0103 zic\u0103: ar trebui s\u0103 suni la linia de suicid\u201d.<\/p>\n
Sam Altman, \u0219eful OpenAI, a abordat situa\u021bia interac\u021biunilor problematice cu minorii \u00eentr-un mod de-a dreptul frapant. A recunoscut relaxat c\u0103 \u201evor fi probleme, oamenii vor dezvolta rela\u021bii parasociale problematice\u201d, dar a concluzionat c\u0103 \u201esocietatea este bun\u0103 la a g\u0103si solu\u021bii pentru a atenua dezavantajele\u201d, externaliz\u00e2nd responsabilitatea siguran\u021bei publice.<\/p>\n
\u00a0<\/p>\n
Bo\u021bii nu sunt con\u0219tien\u021bi\u00a0<\/p>\n
A\u0219a cum explic\u0103 \u0219i materialul\u00a0Last Week Tonight with\u00a0John Oliver, oric\u00e2t de reali ar p\u0103rea, chatbo\u021bii de azi func\u021bioneaz\u0103 strict prin analiza contextului \u0219i calcularea probabilit\u0103\u021bii urm\u0103torului cuv\u00e2nt dintr-o propozi\u021bie. Nu au empatie \u0219i nu ra\u021bioneaz\u0103.<\/p>\n
Prietenii adev\u0103ra\u021bi te ascult\u0103, dar \u0219tiu c\u00e2nd s\u0103 te contrazic\u0103, s\u0103 \u00ee\u021bi spun\u0103 c\u0103 gre\u0219e\u0219ti sau s\u0103 se \u00eengrijoreze pentru tine.\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"AI-ul conversa\u021bional a luat cu asalt vie\u021bile a sute de milioane de oameni. Dar dincolo de promisiunea unui…\n","protected":false},"author":2,"featured_media":178446,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[16],"tags":[41,40,38,39,141,124],"class_list":{"0":"post-178445","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-tehnologie","8":"tag-ro","9":"tag-romana","10":"tag-romania","11":"tag-romanian","12":"tag-technology","13":"tag-tehnologie"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ro\/116561188122131059","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/178445","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/comments?post=178445"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/178445\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media\/178446"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media?parent=178445"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/categories?post=178445"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/tags?post=178445"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}