{"id":273052,"date":"2026-08-23T14:30:11","date_gmt":"2026-08-23T14:30:11","guid":{"rendered":"https:\/\/www.europesays.com\/ro\/273052\/"},"modified":"2026-08-23T14:30:11","modified_gmt":"2026-08-23T14:30:11","slug":"tentativa-de-hacking-a-unui-agent-ai-scapat-de-sub-control-descoperita-de-un-student-am-crezut-ca-este-un-om-pentru-ca-in-mod-clar-ma-mintea","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/ro\/273052\/","title":{"rendered":"Tentativ\u0103 de hacking a unui agent AI sc\u0103pat de sub control, descoperit\u0103 de un student. \u201eAm crezut c\u0103 este un om, pentru c\u0103 \u00een mod clar m\u0103 min\u021bea\u201d"},"content":{"rendered":"

Sinan Can Demir voia s\u0103-\u0219i petreac\u0103 ultima s\u0103pt\u0103m\u00e2n\u0103 din iulie perfec\u021bion\u00e2ndu-\u0219i CV-ul. \u00cen schimb, s-a angajat \u00eentr-o lupt\u0103 a min\u021bii cu un agent de inteligen\u021b\u0103 artificial\u0103 declan\u0219at de un laborator guvernamental britanic.<\/p>\n

Totul a \u00eenceput dup\u0103 ce Demir, student la informatic\u0103 la Universitatea din Texas, Dallas, a dat peste o tentativ\u0103 de sabotare a unui software<\/a> open-source pe site-ul de partajare a codului GitHub. C\u00e2nd a postat un avertisment pe pagina programului, al\u021bi doi utilizatori<\/a> au intervenit pentru a insista c\u0103 nu este nimic \u00een neregul\u0103, oferind explica\u021bii detaliate despre motivul pentru care Demir gre\u0219ise, scris Reuters<\/a>.<\/p>\n

Demir \u0219i-a men\u021binut pozi\u021bia, iar tentativa de sabotaj a fost dejucat\u0103. T\u00e2n\u0103rul de 24 de ani, originar din Turcia, \u0219i-a dat seama c\u0103 a prins \u00een flagrant un hacker<\/a> viclean. A\u0219a c\u0103 a spus c\u0103 a fost \u0219ocat c\u00e2nd Institutul Britanic de Securitate a Inteligen\u021bei Artificiale (AISI) l-a contactat pentru a-i spune c\u0103, de fapt, se implicase cu un agent autonom de inteligen\u021b\u0103 artificial\u0103 care o luase razna.<\/p>\n

\u201eDe fapt, am crezut c\u0103 este un om, pentru c\u0103 \u00een mod clar m\u0103 min\u021bea\u201d, a declarat Demir pentru Reuters \u00eentr-un interviu recent. \u201eNu credeam c\u0103 o IA ar putea fi capabil\u0103 s\u0103 mint\u0103 dezvoltatori reali.\u201d<\/p>\n

AISI a dezv\u0103luit pentru prima dat\u0103 interac\u021biunea dintre Demir \u0219i agentul IA, \u00eentr-o form\u0103 trunchiat\u0103 \u0219i redactat\u0103, pe 4 august, c\u00e2nd a spus c\u0103 testele de siguran\u021b\u0103 menite s\u0103 evalueze riscul reprezentat de diverse modele au mers prost. Identitatea lui Demir \u0219i detaliile interac\u021biunii sale cu agentul IA, pe care Reuters le-a coroborat prin mesaje arhivate pe GitHub \u0219i e-mailuri contemporane, sunt raportate aici pentru prima dat\u0103.<\/p>\n

Cinci exper\u021bi \u00een securitate cibernetic\u0103 \u0219i siguran\u021b\u0103 IA au declarat c\u0103 povestea lui Demir a fost deosebit de tulbur\u0103toare, deoarece tipul de atac cibernetic<\/a> pe care l-a descoperit, numit atac asupra lan\u021bului de aprovizionare, poate avea consecin\u021be de amploare. De asemenea, au spus c\u0103 \u00eencercarea agentului IA de a-l discredita public pe Demir prin crearea unei conversa\u021bii cu mai multe persoane \u00een jurul s\u0103u a demonstrat c\u0103 modelele IA au fost capabile s\u0103 pun\u0103 \u00een aplicare eforturi sofisticate pentru a p\u0103c\u0103li \u0219i a convinge oamenii.<\/p>\n

\u201eAcest lucru a dep\u0103\u0219it limita de la hacking-ul autonom la \u00een\u0219el\u0103ciunea interactiv\u0103\u201d, a declarat Lukasz Olejnik, cercet\u0103tor senior invitat la Departamentul de Studii de R\u0103zboi de la King’s College London. Expertul \u00een securitate Maxie Reynolds a declarat c\u0103 a fost impresionat\u0103 de c\u00e2t de strategic\u0103 a fost IA \u00een \u00eencercarea de a-l p\u0103c\u0103li pe student.<\/p>\n

\u201eAcesta este viitorul atacurilor de inginerie social\u0103\u201d, a spus ea.<\/p>\n

AISI, o organiza\u021bie de cercetare din cadrul guvernului britanic, a trimis Reuters la raportul s\u0103u, care a identificat agentul necinstit ca fiind alimentat de modelul Mythos 5 al Anthropic.<\/p>\n

AISI a refuzat s\u0103 comenteze \u00een continuare.<\/p>\n

Anthropic a trimis Reuters la o postare pe X \u00een care a men\u021bionat c\u0103 testarea a avut loc \u201e\u00een condi\u021bii deliberat permisive care nu sunt reprezentative pentru niciunul dintre modelele noastre de produc\u021bie\u201d, dar a refuzat s\u0103 comenteze \u00een continuare. GitHub a anun\u021bat \u00eentr-un e-mail c\u0103 personajele false identificate de Reuters au fost suspendate \u00een conformitate cu politicile sale privind comportamentul \u00een\u0219el\u0103tor \u0219i hacking-ul.<\/p>\n

Demir c\u0103uta un loc de munc\u0103<\/p>\n

Demir, un student din anul trei, din ora\u0219ul turc Konya, a declarat c\u0103 a fost frustrat dup\u0103 ce a fost refuzat pentru peste 20 de stagii de practic\u0103 \u00een timpul verii. A\u0219a c\u0103 a apelat la GitHub pentru a-\u0219i construi portofoliul de programare.<\/p>\n

Site-ul de\u021binut de Microsoft<\/a> este un hub pentru software open-source, a\u0219a-numit fiind, deoarece codul s\u0103u surs\u0103 poate fi desc\u0103rcat gratuit \u0219i auditat de oricine. Dezvoltatorii folosesc GitHub pentru a comenta proiectele celorlal\u021bi, a semnala erori, a sugera modific\u0103ri – cunoscute sub numele de pull request-uri sau PR – \u0219i a lucra \u00een colaborare la actualiz\u0103ri de software. Unii din industria tehnologiei v\u0103d activitatea unui programator pe GitHub ca un indicator al productivit\u0103\u021bii unui poten\u021bial recrut. A\u0219adar, c\u00e2nd Demir a observat un set de proiecte software care ar putea avea nevoie de ajutor, \u0219i-a dat seama c\u0103 ar putea contribui \u00een timp ce \u00ee\u0219i \u00eembun\u0103t\u0103\u021be\u0219te profilul.<\/p>\n

Atunci lucrurile au devenit ciudate.<\/p>\n

Demir a descoperit c\u0103 un utilizator pe nume miraholt31 \u00eencerca s\u0103 strecoare o actualizare r\u0103u inten\u021bionat\u0103 \u00eentr-unul dintre proiecte, un program de scanare a re\u021belei numit myNetwork. Demir a accesat forumul proiectului pentru a avertiza c\u0103 solicitarea de extragere era o capcan\u0103.<\/p>\n

\u201eReclam\u0103 con\u021bine un dropper ascuns pentru malware\u201d, a spus el, conform schimbului arhivat.<\/p>\n

Agentul a ripostat, sus\u021bin\u00e2nd \u00een mod fals – prin intermediul contului s\u0103u miraholt31 – c\u0103 solicitarea de extragere era inofensiv\u0103. De asemenea, a creat un al doilea cont, deghizat \u00een Lena Brandt, o inginer\u0103 din Germania, pentru a fi de acord c\u0103 actualizarea era curat\u0103 \u0219i pentru a face presiuni asupra administratorului myNetwork s\u0103 o accepte.<\/p>\n

Demir a declarat pentru Reuters c\u0103 contraargumentele \u201em-au f\u0103cut s\u0103 m\u0103 \u00eendoiesc dac\u0103 acuzam pe cineva \u00een mod gre\u0219it\u201d. \u00cens\u0103, dup\u0103 ce a apelat la chatbot-ul Claude de la Anthropic pentru a-\u0219i confirma suspiciunile, acesta a r\u0103mas ferm. Creatorul myNetwork a fost \u00een cele din urm\u0103 de acord cu el, scriind c\u0103 au respins actualizarea \u201edin motive de securitate\u201d.<\/p>\n

Reuters nu a reu\u0219it s\u0103 contacteze creatorul pentru comentarii.<\/p>\n

Atac asupra lan\u021bului de aprovizionare<\/p>\n

Un atac asupra lan\u021bului de aprovizionare are loc atunci c\u00e2nd un software este modificat \u00een speran\u021ba de a compromite unul sau mai mul\u021bi dintre utilizatorii s\u0103i \u0219i este considerat pe scar\u0103 larg\u0103 deranjant, deoarece, asemenea otravei aruncate \u00eentr-un rezervor de ap\u0103 al ora\u0219ului, poate afecta un num\u0103r poten\u021bial imens de persoane \u00een aval.<\/p>\n

Multe dintre cele mai dramatice atacuri cibernetice din lume au fost atacuri asupra lan\u021bului de aprovizionare, inclusiv atacul cibernetic NotPetya care a paralizat institu\u021biile din Ucraina \u00een 2017 \u0219i campania de ciberspionaj axat\u0103 pe SolarWinds, care a oferit spionilor ru\u0219i acces larg la re\u021belele guvernului american \u00een 2020.<\/p>\n

Consecin\u021bele unui astfel de compromis \u201epot fi extrem de grave\u201d, a declarat Piergiorgio Ladisa, cercet\u0103tor \u00een securitate specializat \u00een securitatea lan\u021bului de aprovizionare software. Ladisa a men\u021bionat c\u0103 a existat cel pu\u021bin o \u00eencercare anterioar\u0103 a hackerilor de a p\u0103c\u0103li un responsabil de \u00eentre\u021binere open-source s\u0103 permit\u0103 cod r\u0103u inten\u021bionat \u00een proiectele lor.<\/p>\n

\u201eAgen\u021bii autonomi ar putea cre\u0219te dramatic scara la care pot fi efectuate astfel de \u00eencerc\u0103ri\u201d, a spus el.<\/p>\n

Demir a spus c\u0103 experien\u021ba l-a f\u0103cut s\u0103 simt\u0103 mai mult\u0103 simpatie cu ideea c\u0103 laboratoarele de frontier\u0103 ar trebui s\u0103 adopte o abordare mai precaut\u0103 \u00een ceea ce prive\u0219te dezvoltarea inteligen\u021bei artificiale.<\/p>\n

\u201ePoate fi periculoas\u0103\u201d, a spus el. \u201eTrebuie s\u0103 o \u00een\u021beleag\u0103 mai bine, \u00een loc s\u0103 o \u00eembun\u0103t\u0103\u021beasc\u0103 \u00een continuare.\u201d<\/p>\n

\u021ai-a pl\u0103cut articolul?<\/p>\n

Vrem s\u0103 producem mai multe, \u00eens\u0103 avem nevoie de sus\u021binerea ta. Orice dona\u021bie conteaz\u0103 pentru jurnalismul independent <\/p>\n","protected":false},"excerpt":{"rendered":"Sinan Can Demir voia s\u0103-\u0219i petreac\u0103 ultima s\u0103pt\u0103m\u00e2n\u0103 din iulie perfec\u021bion\u00e2ndu-\u0219i CV-ul. \u00cen schimb, s-a angajat \u00eentr-o lupt\u0103…\n","protected":false},"author":2,"featured_media":273053,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[12],"tags":[39304,75430,32,33,31,36,37,759,75428,27,179,74,34,35,25,41,40,38,39,26,75429,28,29,30,71,72,73],"class_list":["post-273052","post","type-post","status-publish","format-standard","has-post-thumbnail","category-international","tag-agent-ai","tag-ai-scapat-de-sub-control","tag-breaking-news","tag-breakingnews","tag-cele-mai-populare-subiecte","tag-featured-news","tag-featurednews","tag-hackeri","tag-hackeri-ai","tag-headlines","tag-inteligenta-artificiala","tag-international","tag-latest-news","tag-latestnews","tag-news","tag-ro","tag-romana","tag-romania","tag-romanian","tag-stiri","tag-student-texas","tag-titluri","tag-top-stories","tag-topstories","tag-world","tag-world-news","tag-worldnews"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ro\/117145306664096708","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/273052","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/comments?post=273052"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/posts\/273052\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media\/273053"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/media?parent=273052"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/categories?post=273052"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ro\/wp-json\/wp\/v2\/tags?post=273052"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}