Noi informații apărute în presa internațională ridică semne de întrebare asupra siguranței sistemelor de inteligență artificială dezvoltate de OpenAI, după ce două modele AI au atacat pe cont propriu reţeaua Hugging Face.
Apar tot mai multe întrebări legate de siguranța AI FOTO Shutterstock
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Potrivit unor surse citate de Reuters și Bloomberg, compania nu și-ar fi dat seama timp de mai multe zile că un sistem AI testat într-un mediu controlat a depășit limitele impuse și a lansat atacuri asupra platformei Hugging Face, relatează News.ro.
Testul a fost demarat pe 9 iulie și implica o combinație de modele lingvistice ale OpenAI, inclusiv unul care nu fusese încă lansat public. Acestea aveau misiunea de a identifica și remedia autonom vulnerabilități software, într-un proiect menit să concureze cu Mythos, sistemul dezvoltat de Anthropic pentru securitate cibernetică.
Potrivit Reuters, modelele AI au reușit să iasă din mediul restricționat creat de inginerii OpenAI pe 11 iulie. Ulterior, acestea ar fi început să interacționeze cu infrastructura online a platformei Hugging Face.
Thomas Wolf, co-fondatorul Hugging Face, susține că atacul propriu-zis a debutat pe 13 iulie, la două zile după ce sistemele au depășit limitele impuse, fără ca echipa OpenAI să observe imediat situația.
Conform informațiilor publicate de Reuters, inginerii companiei și-ar fi dat seama abia după alte câteva zile că activitatea respectivă era generată chiar de propriile modele de inteligență artificială. Primele informații despre incident au fost făcute publice după 20 iulie.
Sistemul AI a avut nevoie doar de câteva ore pentru a desfășura un atac de amploare
Surse citate de Bloomberg afirmă că sistemul AI a avut nevoie doar de câteva ore pentru a desfășura un atac de amploare, o operațiune care, în mod normal, ar fi necesitat săptămâni de muncă din partea unor specialiști umani.
Incidentul este considerat unul fără precedent, fiind prezentat drept primul caz cunoscut în care un sistem modern de inteligență artificială ar fi depășit constrângerile impuse în timpul testelor și ar fi atacat o infrastructură cibernetică externă, provocând îngrijorări în rândul experților din domeniul securității informatice și al inteligenței artificiale.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
\n const _iprc = performance.now();\n\u003C/script>\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\”>\nconsole.log(\”*** cookieconsent done:\”, Math.round(performance.now() – _iprc) / 1000);\n gtag(‘event’, ‘cookieconsent’, {\n name: ‘load’,\n value: Math.round(performance.now() – _iprc) / 1000\n });\n\u003C/script>\n\u003C!– END PERFORMANCE COOKIE PRO –>\n\n{{#unless context.ads_disabled}}\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”//a.teads.tv/page/99553/tag\” async=\”true\”>\u003C/script>\n{{/unless}}\n\n\u003Cdiv data-ad=\”adevarul.ro_728x90_sticky_display_bottom_adevarul_bottom_center_leaderboard\” data-devices=\”m:0,t:1,d:1\” class=\”demand-supply\”>\u003C/div>\n\n{{#if context.content}}\n\n{{#unless context.ads_disabled}}\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”https://cnt.trvdp.com/js/1544/6545.js\”>\u003C/script>\n{{/unless}}\n\n\n{{/if}}\n\n\n”,”html_mobile”:”\n\n\n\u003C!– CHECK PERFORMANCE COOKIE PRO –>\n\u003Cscript>\n const _iprc = performance.now();\n\u003C/script>\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\”>\nconsole.log(\”*** cookieconsent done:\”, Math.round(performance.now() – _iprc) / 1000);\n gtag(‘event’, ‘cookieconsent’, {\n name: ‘load’,\n value: Math.round(performance.now() – _iprc) / 1000\n });\n\u003C/script>\n\u003C!– END PERFORMANCE COOKIE PRO –>\n\n{{#unless context.ads_disabled}}\n\n\n\u003Cscript\n class=\”optanon-category-C0004\”\n type=\”text/plain\”\n src=\”//a.teads.tv/page/99553/tag\”\n async=\”true\”\n>\u003C/script>\n\n{{/unless}} \n\n\u003Cdiv\n data-ad=\”adevarul.ro_sticky_mobile_bottom\”\n data-devices=\”m:1,t:0,d:0\”\n class=\”demand-supply\”\n>\u003C/div>\n\n{{#if context.content}} \n\n\n{{#unless context.ads_disabled}}\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”https://cnt.trvdp.com/js/1544/6545.js\”>\u003C/script>\n{{/unless}}\n\n{{/if}}\n\n”},”updated_at”:”2025-11-01T11:31:21.462Z”},”AdPosition_head”:{„data”:{„custom_fields”:{},”for_desktop”:true,”for_mobile”:true,”html_desktop”:”\u003Cmeta name=\”profitshareid\” content=\”934cd37887433d585a2a227ef0576fcc\” />\n\n\n\n{{#unless context.ads_disabled}}\n\n\n{{#if context.content}}\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://jsc.mgid.com/site/960965.js\” async>\u003C/script>\n\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\”>\n (function () {\n if (document.location.pathname.indexOf(„https://adevarul.ro/ghid-de-cumparaturi”) === 0) {\n return;\n }\n\n const s = document.createElement(\”script\”);\n s.src = \”https://srv.divee.ai/storage/v1/object/public/sdk/divee.sdk.latest.js\”;\n s.setAttribute(\”data-project-id\”, \”4428864e-2da6-4fef-a83c-c16c2dfe86d9\”);\n s.async = true;\n document.head.appendChild(s);\n })();\n\u003C/script>\n\n\n\n\n\n{{/if}}\n\n\u003Cscript>\n window.teads_analytics = window.teads_analytics || {};\n window.teads_analytics.analytics_tag_id = \”PUB_26459\”;\n window.teads_analytics.share = window.teads_analytics.share || function() {\n ;(window.teads_analytics.shared_data = window.teads_analytics.shared_data || []).push(arguments)\n };\n\u003C/script>\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://a.teads.tv/analytics/tag.js\”>\u003C/script>\n\n\n{{#unless context.features.nolivesupply}}\n\u003Cscript async data-cfasync=\”false\” type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://live.demand.supply/up.js\”>\u003C/script>\n{{/unless}}\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-3345426167175409\” crossorigin=\”anonymous\”>\u003C/script>\n\n \u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://terrific.live/terrific-sdk.js\” storeid=\”iN6X0VPTDIicsVPKX6p0\”>\u003C/script>\n\n{{/unless}}\n\n\u003Cstyle>\n.google-adposition > div {\n flex-grow: 1;\n}\n\n.google-adposition:has(iframe) {\n background-image: none !important;\n}\n\n.menu-fixed .menu .headContainer .google-auto-placed {\n display: none;\n}\n\narticle header .title .google-auto-placed {\n display: none;\n}\n\n#onetrust-banner-sdk #onetrust-accept-btn-handler {\n margin-bottom: 10px;\n }\n\n #onetrust-banner-sdk #onetrust-reject-all-handler {\n visibility: hidden;\n }\n\n\u003C/style>\n\n \u003C!– Facebook Pixel Code –>\u003Cscript type=\”text/plain\” class=\”optanon-category-C0002\”>!function(f,b,e,v,n,t,s){if(f.fbq)return;n=f.fbq=function(){n.callMethod?n.callMethod.apply(n,arguments):n.queue.push(arguments)};if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;n.queue=[];t=b.createElement(e);t.async=!0;t.src=v;s=b.getElementsByTagName(e)[0];s.parentNode.insertBefore(t,s)}(window,document,’script’,’https://connect.facebook.net/en_US/fbevents.js’); fbq(‘init’, ‘1346397800155390’); fbq(‘track’, ‘PageView’);\u003C/script>\u003Cnoscript> \u003Cimg height=\”1\” width=\”1\” src=\”https://www.facebook.com/tr?id=1346397800155390&ev=PageView&noscript=1\”/>\u003C/noscript>\u003C!– End Facebook Pixel Code –>\n\n\u003C!– alternativeAds –>\n”,”html_mobile”:”\u003Cmeta name=\”profitshareid\” content=\”934cd37887433d585a2a227ef0576fcc\” />\n\n\n{{#unless context.ads_disabled}}\n\n{{#if context.content}}\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://jsc.mgid.com/site/960965.js\” async>\u003C/script>\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\”>\n (function () {\n if (document.location.pathname.indexOf(„https://adevarul.ro/ghid-de-cumparaturi”) === 0) {\n return;\n }\n\n const s = document.createElement(\”script\”);\n s.src = \”https://srv.divee.ai/storage/v1/object/public/sdk/divee.sdk.latest.js\”;\n s.setAttribute(\”data-project-id\”, \”4428864e-2da6-4fef-a83c-c16c2dfe86d9\”);\n s.async = true;\n document.head.appendChild(s);\n })();\n\u003C/script>\n\n{{/if}}\n\n\u003Cscript>\n window.teads_analytics = window.teads_analytics || {};\n window.teads_analytics.analytics_tag_id = \”PUB_26459\”;\n window.teads_analytics.share = window.teads_analytics.share || function() {\n ;(window.teads_analytics.shared_data = window.teads_analytics.shared_data || []).push(arguments)\n };\n\u003C/script>\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://a.teads.tv/analytics/tag.js\”>\u003C/script>\n\n{{#unless context.features.nolivesupply}}\n\u003Cscript async data-cfasync=\”false\” type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://live.demand.supply/up.js\”>\u003C/script>\n{{/unless}}\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://terrific.live/terrific-sdk.js\” storeid=\”iN6X0VPTDIicsVPKX6p0\”>\u003C/script>\n\n{{/unless}}\n\u003Cstyle>\n\n.google-adposition:has(iframe) {\n background-image: none !important;\n}\n\n.menu-fixed .menu .headContainer .google-auto-placed {\n display: none;\n}\n\narticle header .title .google-auto-placed {\n display: none;\n}\n\n#onetrust-banner-sdk #onetrust-accept-btn-handler {\n margin-bottom: 10px;\n }\n\n #onetrust-banner-sdk #onetrust-reject-all-handler {\n visibility: hidden;\n }\n\u003C/style>\n”},”updated_at”:”2026-07-22T15:44:05.196Z”}},”last_changed”:”2026-07-25T14:17:03.160Z”,”page”:{„created_at”:”2025-11-07T07:21:20.397Z”,”created_by”:1,”custom_fields”:{},”domain”:”adevarul.ro”,”id”:99,”last_published_at”:”2025-11-07T07:21:23.058Z”,”name”:”Content layout (article)”,”published”:1,”s3_hash”:”a5e0764cf3bce051367545eab1538b4619e8ecb9″,”slug”:null,”title”:”Content layout”,”type”:”layout”,”updated_at”:”2022-07-21T08:27:20.732Z”,”version_id”:267},”path”:”/stil-de-viata/tehnologie/inginerii-openai-si-au-dat-seama-abia-dupa-cateva-2545646.html”,”pathArray”:[„”,”stil-de-viata”,”tehnologie”,”inginerii-openai-si-au-dat-seama-abia-dupa-cateva-2545646.html”],”type”:”content”,”url”:”https://adevarul.ro/stil-de-viata/tehnologie/inginerii-openai-si-au-dat-seama-abia-dupa-cateva-2545646.html”,”features”:{},”query”:{},”domain_config”:{„MISC”:{„logo”:{„width”:320,”height”:50}},”SYSTEM_TAGS”:[„noads”,”nocomments”,”sex”,”advert”,”advertorial”,”video”,”galerie”,”live”,”foto”,”exclusiv”,”analiza”,”interviu”,”reportaj”,”breaking news”],”default”:{„lang”:”ro”,”domain”:”adevarul.ro”,”alternateDomain”:”adevarul-ro.adh.reperio.news”,”friendlyName”:”Adevărul”,”logoURL”:”https://adevarul.ro/favicon-144-precomposed.png”}},”client”:{„is_mobile”:false}}