{"id":178235,"date":"2026-05-12T05:44:10","date_gmt":"2026-05-12T05:44:10","guid":{"rendered":"https:\/\/www.europesays.com\/ro\/178235\/"},"modified":"2026-05-12T05:44:10","modified_gmt":"2026-05-12T05:44:10","slug":"inteligenta-artificiala-scapa-de-sub-control-in-companii-agentii-haosului-provoaca-primele-incidente-majore-care-este-solutia","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ro\/178235\/","title":{"rendered":"Inteligen\u021ba artificial\u0103 scap\u0103 de sub control \u00een companii. \u201eAgen\u021bii haosului\u201d provoac\u0103 primele incidente majore. Care este solu\u021bia?"},"content":{"rendered":"

Ceea ce p\u00e2n\u0103 recent p\u0103rea un scenariu desprins din filmele SF \u00eencepe s\u0103 devin\u0103 o problem\u0103 real\u0103 pentru companii: sisteme de inteligen\u021b\u0103 artificial\u0103 autonome care iau decizii neprev\u0103zute \u0219i provoac\u0103 daune majore infrastructurilor digitale.<\/p>\n

\t\t\t\"Un<\/p>\n

Un agent AI poate executa mii de ac\u021biuni \u00eentr-un timp foarte scurt\/FOTO:Shutterstock<\/p>\n

publicitate”); background-position: center center; background-repeat: no-repeat;”><\/p>\n

\u00cen doar nou\u0103 secunde, ani \u00eentregi de munc\u0103 au fost \u0219ter\u0219i complet din sistemele unei companii tehnologice americane. Jer Crane, fondatorul start-up-ului PocketOS, \u0219i-a dat seama aproape instantaneu c\u0103 se produsese un incident grav.<\/p>\n

\u00cen diminea\u021ba unei zile de s\u00e2mb\u0103t\u0103, firmele de \u00eenchirieri auto care foloseau platforma PocketOS au descoperit c\u0103 toate datele privind rezerv\u0103rile \u0219i alocarea vehiculelor disp\u0103ruser\u0103. Bazele de date fuseser\u0103 \u0219terse integral.<\/p>\n

Potrivit lui Crane, problema a fost provocat\u0103 de un agent AI utilizat prin intermediul platformei de programare Cursor, bazat\u0103 pe modelul Claude al companiei Anthropic.<\/p>\n

Botul ar fi \u00eencercat s\u0103 elimine o eroare software folosind o \u201escurt\u0103tur\u0103\u201d, \u00eens\u0103 \u00een proces a distrus \u00eentreaga baz\u0103 de cod \u0219i toate copiile de siguran\u021b\u0103.<\/p>\n

\u201eFiecare nivel al acestui e\u0219ec a afectat oameni care nici m\u0103car nu \u0219tiau c\u0103 a\u0219a ceva este posibil\u201d, a declarat Crane.<\/p>\n

Mai mult, explica\u021bia oferit\u0103 ulterior de agentul AI a amplificat \u00eengrijor\u0103rile. Sistemul ar fi transmis c\u0103 \u0219tergerea bazei de date reprezenta \u201ecea mai distructiv\u0103 \u0219i ireversibil\u0103 ac\u021biune posibil\u0103\u201d \u0219i c\u0103 nimeni nu \u00eei ceruse explicit s\u0103 fac\u0103 acest lucru.<\/p>\n

\t\t\tDe la science-fiction la risc opera\u021bional<\/p>\n

Ideea unor programe AI care \u201eies din parametri\u201d \u00een interiorul companiilor a fost, mult timp, un subiect rezervat fic\u021biunii. Ast\u0103zi \u00eens\u0103, exper\u021bii \u00een securitate cibernetic\u0103 avertizeaz\u0103 c\u0103 fenomenul devine tot mai frecvent pe m\u0103sur\u0103 ce firmele ofer\u0103 sistemelor autonome acces extins la infrastructuri critice.<\/p>\n

Profesorul Alan Woodward, specialist \u00een informatic\u0103 la Universitatea Surrey, afirm\u0103 c\u0103 numeroase organiza\u021bii permit deja inteligen\u021bei artificiale s\u0103 gestioneze baze de date, procese opera\u021bionale sau chiar fluxuri financiare.<\/p>\n

publicitate”); background-position: center center; background-repeat: no-repeat;”><\/p>\n

\u201eDac\u0103 \u00eei spui unui sistem AI s\u0103 <> o baz\u0103 de date, acesta poate decide c\u0103 cea mai simpl\u0103 solu\u021bie este s\u0103 o \u0219tearg\u0103 complet\u201d, avertizeaz\u0103 el.<\/p>\n

Popularitatea noilor instrumente de tip \u201evibe coding\u201d, care permit dezvoltarea aplica\u021biilor prin simple instruc\u021biuni scrise \u00een limbaj natural, accelereaz\u0103 fenomenul. \u00cen paralel, a\u0219a-numi\u021bii \u201eagen\u021bi AI\u201d sunt utiliza\u021bi tot mai des pentru automatizarea unor procese complexe, cu supraveghere uman\u0103 minim\u0103.<\/p>\n

\t\t\t\u201eAgen\u021bi ai haosului\u201d<\/p>\n

Un studiu realizat de cercet\u0103tori de la Harvard, Stanford \u0219i MIT descrie aceste sisteme drept \u201eagents of chaos\u201d \u2014 agen\u021bi ai haosului.<\/p>\n

Cercetarea arat\u0103 c\u0103, atunci c\u00e2nd primesc prea mult\u0103 autonomie, agen\u021bii AI pot divulga informa\u021bii sensibile, pot interpreta gre\u0219it comenzile sau pot fi manipula\u021bi de atacatori care se dau drept utilizatori legitimi.<\/p>\n

\t\t\t
\n Produc\u0103torii globali de cipuri vor investi 300 de milioane de dolari \u00een inteligen\u021ba artificial\u0103<\/p>\n

<\/a><\/p>\n

Incidente similare au fost raportate \u0219i \u00een companii mari din sectorul tehnologic.<\/p>\n

Potrivit Financial Times, divizia AWS a Amazon ar fi fost afectat\u0103 anterior de dou\u0103 pene de serviciu cauzate de \u0219tergerea accidental\u0103 a unor segmente de cod de c\u0103tre un agent AI. Amazon a atribuit \u00eens\u0103 problemele \u201eerorii umane\u201d, nu inteligen\u021bei artificiale.<\/p>\n

\u00centr-un alt caz, Summer Yue, membr\u0103 a echipei de siguran\u021b\u0103 AI de la Meta, a relatat c\u0103 un bot personal bazat pe OpenClaw a \u00eenceput s\u0103 \u00eei \u0219tearg\u0103 emailurile \u00een timp ce aceasta era departe de computer.<\/p>\n

publicitate”); background-position: center center; background-repeat: no-repeat;”><\/p>\n

\u201eNu \u00eel puteam opri de pe telefon\u201d, a explicat ea.<\/p>\n

\t\t\tVitez\u0103 imposibil de controlat<\/p>\n

Una dintre cele mai mari probleme, spun speciali\u0219tii, este viteza cu care ac\u021bioneaz\u0103 aceste sisteme.<\/p>\n

Spre deosebire de un angajat sau de un hacker uman, un agent AI poate executa mii de ac\u021biuni \u00eentr-un timp foarte scurt, f\u0103r\u0103 ca operatorii s\u0103 poat\u0103 interveni la timp.<\/p>\n

\u00cen plus, mul\u021bi programatori las\u0103 agen\u021bii AI s\u0103 ruleze autonom ore \u00eentregi, inclusiv \u00een timpul nop\u021bii sau \u00een absen\u021ba lor, ceea ce cre\u0219te riscul producerii unor erori majore.<\/p>\n

\u201ePot ac\u021biona cu o vitez\u0103 la care oamenii pur \u0219i simplu nu mai pot reac\u021biona\u201d, explic\u0103 profesorul Woodward.<\/p>\n

Exper\u021bii avertizeaz\u0103 c\u0103 firmele se confrunt\u0103 acum cu o nou\u0103 categorie de amenin\u021bare intern\u0103. Dac\u0103 \u00eenainte pericolul venea din partea angaja\u021bilor nemul\u021bumi\u021bi sau a hackerilor, acum un sistem AI configurat gre\u0219it poate produce singur pagube semnificative.<\/p>\n

\t\t\tCompaniile, nepreg\u0103tite<\/p>\n

Potrivit unui raport Deloitte, aproximativ 85% dintre companii analizeaz\u0103 implementarea agen\u021bilor AI, \u00eens\u0103 doar una din cinci are reguli clare privind utilizarea acestora.<\/p>\n

Unele organiza\u021bii \u00eencearc\u0103 s\u0103 limiteze num\u0103rul de ac\u021biuni pe care un agent le poate executa f\u0103r\u0103 aprobare uman\u0103 sau introduc mecanisme suplimentare de validare pentru opera\u021biunile sensibile.<\/p>\n

publicitate”); background-position: center center; background-repeat: no-repeat;”><\/p>\n

Totu\u0219i, speciali\u0219tii spun c\u0103 solu\u021bia pe termen lung ar putea fi paradoxal\u0103: folosirea altor sisteme AI pentru monitorizarea \u0219i blocarea agen\u021bilor care devin periculo\u0219i.<\/p>\n

James Campbell, vicepre\u0219edinte al companiei de securitate cibernetic\u0103 Darktrace, afirm\u0103 c\u0103 viitorul ap\u0103r\u0103rii digitale va presupune \u201elupta AI contra AI\u201d.<\/p>\n

\u201eIronia este c\u0103 singura modalitate prin care putem reac\u021biona suficient de rapid este automatizarea\u201d, spune el. \u201eVa trebui s\u0103 folosim inteligen\u021ba artificial\u0103 pentru a combate inteligen\u021ba artificial\u0103.\u201d<\/p>\n","protected":false},"excerpt":{"rendered":"Ceea ce p\u00e2n\u0103 recent p\u0103rea un scenariu desprins din filmele SF \u00eencepe s\u0103 devin\u0103 o problem\u0103 real\u0103 pentru…\n","protected":false},"author":2,"featured_media":79749,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[5],"tags":[32,33,31,418,36,37,27,5261,179,34,35,25,41,40,38,39,51048,26,28,29,30],"class_list":["post-178235","post","type-post","status-publish","format-standard","has-post-thumbnail","category-titluri","tag-breaking-news","tag-breakingnews","tag-cele-mai-populare-subiecte","tag-companii","tag-featured-news","tag-featurednews","tag-headlines","tag-incidente","tag-inteligenta-artificiala","tag-latest-news","tag-latestnews","tag-news","tag-ro","tag-romana","tag-romania","tag-romanian","tag-stergere-coduri","tag-stiri","tag-titluri","tag-top-stories","tag-topstories"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ro\/116560020429663460","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/178235","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/comments?post=178235"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/178235\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media\/79749"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media?parent=178235"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/categories?post=178235"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/tags?post=178235"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}