{"id":55413,"date":"2025-12-01T15:23:07","date_gmt":"2025-12-01T15:23:07","guid":{"rendered":"https:\/\/www.europesays.com\/ro\/55413\/"},"modified":"2025-12-01T15:23:07","modified_gmt":"2025-12-01T15:23:07","slug":"risc-de-halucinatii-si-vulnerabilitate-la-atacuri","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ro\/55413\/","title":{"rendered":"risc de halucina\u021bii \u0219i vulnerabilitate la atacuri"},"content":{"rendered":"

Microsoft<\/a> admite c\u0103 noile sale func\u021bionalit\u0103\u021bi bazate pe inteligen\u021b\u0103 artificial\u0103, destinate s\u0103 transforme Windows 11<\/a>, vin la pachet cu riscuri de securitate semnificative. Documentele de suport actualizate recent de companie avertizeaz\u0103 utilizatorii c\u0103 agen\u021bii AI pot suferi de \u201ehalucina\u021bii\u201d, pot ac\u021biona imprevizibil \u0219i, mai grav, pot c\u0103dea victime ale unor atacuri cibernetice complexe. Cu toate acestea, gigantul tehnologic \u00ee\u0219i continu\u0103 planurile de a integra aceste func\u021bii \u201eagentice\u201d \u00een sistemul de operare, consider\u00e2ndu-le viitorul platformei.<\/p>\n

Avertismentul Microsoft este c\u00e2t se poate de direct<\/a>. Compania noteaz\u0103 c\u0103 modelele AI au limit\u0103ri func\u021bionale \u0219i pot introduce noi vectori de amenin\u021bare, cum ar fi exfiltrarea datelor sau instalarea de malware. Aceast\u0103 recunoa\u0219tere vine \u00eentr-un moment \u00een care utilizatorii sunt deja sceptici, dup\u0103 controversa legat\u0103 de func\u021bia \u201eRecall\u201d, care a ridicat mari semne de \u00eentrebare privind confiden\u021bialitatea.<\/p>\n

Unul dintre cele mai alarmante riscuri detaliate de Microsoft este vulnerabilitatea la Cross Prompt Injection (XPIA). Acest tip de atac presupune existen\u021ba unui con\u021binut mali\u021bios ascuns \u00een documente, elemente de interfa\u021b\u0103 sau aplica\u021bii, pe care agentul AI \u00eel proceseaz\u0103. Deoarece agentul este proiectat s\u0103 \u201evad\u0103\u201d \u0219i s\u0103 ac\u021bioneze asupra a ceea ce se afl\u0103 pe ecran, instruc\u021biunile ascunse pot suprascrie comenzile utilizatorului.<\/p>\n

\n

\u201eAgentic AI are capabilit\u0103\u021bi puternice \u00een prezent, de exemplu poate finaliza multe sarcini complexe ca r\u0103spuns la solicit\u0103rile utilizatorilor, schimb\u00e2nd modul \u00een care ace\u0219tia interac\u021bioneaz\u0103 cu PC-urile. Pe m\u0103sur\u0103 ce aceste func\u021bii sunt introduse, modelele AI \u00eenc\u0103 au limit\u0103ri de func\u021bionare \u00een ceea ce prive\u0219te comportamentul \u0219i uneori pot halucina, gener\u00e2nd rezultate nea\u0219teptate. \u00cen plus, aplica\u021biile agentic AI introduc riscuri de securitate noi, precum cross-prompt injection (XPIA), unde con\u021binutul mali\u021bios integrat \u00een elemente de interfa\u021b\u0103 sau documente poate \u00eenlocui instruc\u021biunile agentului, duc\u00e2nd la ac\u021biuni nedorite precum exfiltrarea de date sau instalarea de malware. Recomand\u0103m parcurgerea acestor informa\u021bii pentru a \u00een\u021belege implica\u021biile de securitate ale activ\u0103rii unui agent pe computerul t\u0103u.\u201d, scrie Microsoft pe site-ul oficial.<\/p>\n<\/blockquote>\n

Practic, un document aparent inofensiv ar putea con\u021bine instruc\u021biuni invizibile care s\u0103 for\u021beze asistentul digital s\u0103 copieze fi\u0219iere sensibile, s\u0103 le trimit\u0103 c\u0103tre un server extern sau s\u0103 descarce software periculos, totul sub aparen\u021ba unei func\u021bion\u0103ri normale. Microsoft subliniaz\u0103 c\u0103 utilizatorii trebuie s\u0103 verifice informa\u021biile \u0219i s\u0103 \u00een\u021beleag\u0103 implica\u021biile de securitate \u00eenainte de a activa ace\u0219ti agen\u021bi.<\/p>\n

Pentru a mitiga aceste riscuri, Microsoft a dezvoltat o nou\u0103 arhitectur\u0103 de sistem denumit\u0103 \u201eAgent Workspace\u201d. Aceasta func\u021bioneaz\u0103 ca un mediu paralel \u00een Windows, av\u00e2nd propriul arbore de procese \u0219i limite de permisiuni. Fiecare agent AI ruleaz\u0103 sub un cont standard separat, izolat de sesiunea principal\u0103 a utilizatorului.<\/p>\n

De\u0219i agen\u021bii au acces de citire \u0219i scriere \u00een folderele cunoscute ale utilizatorului, precum Documente sau Imagini, ace\u0219tia sunt restric\u021biona\u021bi de la accesarea directoarelor de sistem critice sau a stoc\u0103rii de creden\u021biale. Interac\u021biunea dintre agent \u0219i restul sistemului este guvernat\u0103 de Model Context Protocol (MCP), care controleaz\u0103 strict ce instrumente \u0219i func\u021bii pot fi apelate. Aceast\u0103 structur\u0103 este menit\u0103 s\u0103 previn\u0103 accesul direct \u0219i necontrolat, oferind un punct central de aplicare a politicilor de securitate.<\/p>\n

Decizia de a merge \u00eenainte cu aceste func\u021bii, \u00een ciuda riscurilor evidente, pare a fi motivat\u0103 de presiunea competi\u021bional\u0103. Cu Apple<\/a> deja oferind anumite func\u021bii de inteligen\u021b\u0103 artificial\u0103 \u00een macOS \u0219i zvonurile despre un poten\u021bial \u201eAluminium OS\u201d de la Google<\/a>, Microsoft simte nevoia s\u0103 transforme Windows \u00eentr-o \u201ep\u00e2nz\u0103 pentru AI\u201d pentru a r\u0103m\u00e2ne relevant.<\/p>\n

Compania pariaz\u0103 pe faptul c\u0103 utilizatorii vor accepta eventual ace\u0219ti asisten\u021bi autonomi care pot naviga prin aplica\u021bii, edita fi\u0219iere \u0219i executa sarcini complexe, \u00een ciuda ne\u00eencrederii actuale. Totu\u0219i, succesul acestui pariu depinde de capacitatea Microsoft de a demonstra c\u0103 izolarea prin Agent Workspace este suficient de robust\u0103 pentru a preveni transformarea PC-ului \u00eentr-un cal troian automatizat.<\/p>\n","protected":false},"excerpt":{"rendered":"Microsoft admite c\u0103 noile sale func\u021bionalit\u0103\u021bi bazate pe inteligen\u021b\u0103 artificial\u0103, destinate s\u0103 transforme Windows 11, vin la pachet…\n","protected":false},"author":2,"featured_media":55414,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[16],"tags":[21371,15933,21372,21373,21374,41,40,38,39,6134,141,124,21375,21376],"class_list":{"0":"post-55413","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-tehnologie","8":"tag-agent-workspace","9":"tag-agenti-ai","10":"tag-microsoft-copilot","11":"tag-microsoft-recall","12":"tag-riscuri-ai","13":"tag-ro","14":"tag-romana","15":"tag-romania","16":"tag-romanian","17":"tag-securitate-cibernetica","18":"tag-technology","19":"tag-tehnologie","20":"tag-windows-11-ai","21":"tag-xpia"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ro\/115645002719782647","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/55413","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/comments?post=55413"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/55413\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media\/55414"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media?parent=55413"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/categories?post=55413"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/tags?post=55413"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}