Trei cercetători de la compania americană Anthropic au făcut publice avertismente extrem de grave privind dezvoltarea inteligenței artificiale. Aceștia susțin că tehnologia ar putea ajunge să provoace chiar dispariția omenirii în următorii ani.
Un sistem AI suficient de avansat ar putea contribui la îmbunătățirea propriilor capacități. Foto: Shutterstock
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Jacob Coxon, cercetător în cadrul Anthropic, și-a anunțat marți demisia și a explicat ulterior, într-o postare pe X, de ce consideră că este necesar să vorbească public despre riscurile asociate dezvoltării unor sisteme de inteligență artificială tot mai puternice.
„Oamenii care construiesc AI cred cu sinceritate că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, a scris Coxon pe X.
Cercetătorul a susținut că numeroși directori și cercetători de rang înalt își exprimă în privat temeri similare, chiar dacă în declarațiile publice folosesc un limbaj mai moderat, relatează Axios.
La scurt timp, Evan Hubinger, responsabil pentru cercetarea în domeniul alinierii AI la Anthropic, a reacționat la mesajul lui Coxon și a afirmat că este de acord cu acesta.
Hubinger a spus că există un risc de peste 10% ca inteligența artificială să ducă la dispariția oamenilor în următorul deceniu. Cercetătorul a precizat că Anthropic încearcă să găsească soluții, însă compania „nu are încă un plan” pentru rezolvarea problemei alinierii în cazul unei superinteligențe și nu se află în mod clar pe drumul cel bun pentru a face acest lucru.
Un alt cercetător al companiei, Samuel Marks, responsabil pentru dezvoltarea sistemelor de supraveghere a modelelor AI, a susținut la rândul său că dezvoltatorii din industrie se tem că tehnologia ar putea provoca „extincția umanității sau rezultate la fel de grave”.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Marks a adăugat că un asemenea scenariu ar putea deveni posibil chiar în următorii ani și că, în general, angajații aflați în poziții mai importante în cadrul companiilor de AI tind să fie mai îngrijorați de aceste riscuri.
Cercetătorii se tem că AI ar putea deveni tot mai greu de controlat
Avertismentele apar într-un moment în care marile companii de tehnologie investesc masiv în dezvoltarea unor modele de inteligență artificială tot mai performante.
Una dintre principalele temeri exprimate de cercetătorii din domeniu este apariția așa-numitei autoîmbunătățiri recursive. Într-un asemenea scenariu, un sistem AI suficient de avansat ar putea contribui la îmbunătățirea propriilor capacități, accelerând procesul de dezvoltare și făcând comportamentul său din ce în ce mai dificil de anticipat.
Cercetătorii nu susțin că un astfel de pericol este iminent și nici că dispariția omenirii este un rezultat inevitabil. Avertismentul lor vizează însă posibilitatea ca ritmul dezvoltării AI să depășească abilitatea oamenilor de a controla și înțelege sistemele create.
„Încetinim sau riscăm să pierdem controlul”
Avertismentele venite din interiorul industriei evidențiază o dilemă majoră pentru companiile care dezvoltă cele mai avansate sisteme de inteligență artificială: încetinirea cercetării ar putea însemna pierderea avantajului în fața competitorilor, în timp ce accelerarea dezvoltării ar putea crește riscul ca tehnologia să devină dificil de controlat.
publicitate”); background-position: center center; background-repeat: no-repeat;”>
Anthropic și alte companii din domeniu au cerut în repetate rânduri reguli mai stricte pentru dezvoltarea inteligenței artificiale. Criticii susțin însă că avertismentele privind riscurile existențiale ar putea fi folosite și ca instrument de marketing sau pentru promovarea unor reglementări care să avantajeze marile companii deja dominante pe piață.
Pe de altă parte, cercetători și foști angajați ai companiilor de AI afirmă că îngrijorările sunt reale și că persoanele care lucrează direct cu cele mai avansate modele au acces la sisteme care nu sunt încă disponibile publicului. Avertismentele cercetătorilor Anthropic se adaugă unor declarații similare făcute în ultima perioadă de reprezentanți ai altor mari companii din domeniu, inclusiv OpenAI.
\n const _iprc = performance.now();\n\u003C/script>\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\”>\nconsole.log(\”*** cookieconsent done:\”, Math.round(performance.now() – _iprc) / 1000);\n gtag(‘event’, ‘cookieconsent’, {\n name: ‘load’,\n value: Math.round(performance.now() – _iprc) / 1000\n });\n\u003C/script>\n\u003C!– END PERFORMANCE COOKIE PRO –>\n\n{{#unless context.ads_disabled}}\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”//a.teads.tv/page/99553/tag\” async=\”true\”>\u003C/script>\n{{/unless}}\n\n\u003Cdiv data-ad=\”adevarul.ro_728x90_sticky_display_bottom_adevarul_bottom_center_leaderboard\” data-devices=\”m:0,t:1,d:1\” class=\”demand-supply\”>\u003C/div>\n\n{{#if context.content}}\n\n{{#unless context.ads_disabled}}\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”https://cnt.trvdp.com/js/1544/6545.js\”>\u003C/script>\n{{/unless}}\n\n\n{{/if}}\n\n\n”,”html_mobile”:”\n\n\n\u003C!– CHECK PERFORMANCE COOKIE PRO –>\n\u003Cscript>\n const _iprc = performance.now();\n\u003C/script>\n\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\”>\nconsole.log(\”*** cookieconsent done:\”, Math.round(performance.now() – _iprc) / 1000);\n gtag(‘event’, ‘cookieconsent’, {\n name: ‘load’,\n value: Math.round(performance.now() – _iprc) / 1000\n });\n\u003C/script>\n\u003C!– END PERFORMANCE COOKIE PRO –>\n\n{{#unless context.ads_disabled}}\n\n\n\u003Cscript\n class=\”optanon-category-C0004\”\n type=\”text/plain\”\n src=\”//a.teads.tv/page/99553/tag\”\n async=\”true\”\n>\u003C/script>\n\n{{/unless}} \n\n\u003Cdiv\n data-ad=\”adevarul.ro_sticky_mobile_bottom\”\n data-devices=\”m:1,t:0,d:0\”\n class=\”demand-supply\”\n>\u003C/div>\n\n{{#if context.content}} \n\n\n{{#unless context.ads_disabled}}\n\u003Cscript class=\”optanon-category-C0004\” type=\”text/plain\” src=\”https://cnt.trvdp.com/js/1544/6545.js\”>\u003C/script>\n{{/unless}}\n\n{{/if}}\n\n”},”updated_at”:”2025-11-01T11:31:21.462Z”},”AdPosition_head”:{„data”:{„custom_fields”:{},”for_desktop”:true,”for_mobile”:true,”html_desktop”:”\u003Cmeta name=\”profitshareid\” content=\”934cd37887433d585a2a227ef0576fcc\” />\n\n\n\n{{#unless context.ads_disabled}}\n\n\n{{#if context.content}}\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://jsc.mgid.com/site/960965.js\” async>\u003C/script>\n\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\”>\n (function () {\n if (document.location.pathname.indexOf(„https://adevarul.ro/ghid-de-cumparaturi”) === 0) {\n return;\n }\n\n const s = document.createElement(\”script\”);\n s.src = \”https://srv.divee.ai/storage/v1/object/public/sdk/divee.sdk.latest.js\”;\n s.setAttribute(\”data-project-id\”, \”4428864e-2da6-4fef-a83c-c16c2dfe86d9\”);\n s.async = true;\n document.head.appendChild(s);\n })();\n\u003C/script>\n\n\n\n\n\n{{/if}}\n\n\u003Cscript>\n window.teads_analytics = window.teads_analytics || {};\n window.teads_analytics.analytics_tag_id = \”PUB_26459\”;\n window.teads_analytics.share = window.teads_analytics.share || function() {\n ;(window.teads_analytics.shared_data = window.teads_analytics.shared_data || []).push(arguments)\n };\n\u003C/script>\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://a.teads.tv/analytics/tag.js\”>\u003C/script>\n\n\n{{#unless context.features.nolivesupply}}\n\u003Cscript async data-cfasync=\”false\” type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://live.demand.supply/up.js\”>\u003C/script>\n{{/unless}}\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-3345426167175409\” crossorigin=\”anonymous\”>\u003C/script>\n\n \u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://terrific.live/terrific-sdk.js\” storeid=\”iN6X0VPTDIicsVPKX6p0\”>\u003C/script>\n\n{{/unless}}\n\n\u003Cstyle>\n.google-adposition > div {\n flex-grow: 1;\n}\n\n.google-adposition:has(iframe) {\n background-image: none !important;\n}\n\n.menu-fixed .menu .headContainer .google-auto-placed {\n display: none;\n}\n\narticle header .title .google-auto-placed {\n display: none;\n}\n\n#onetrust-banner-sdk #onetrust-accept-btn-handler {\n margin-bottom: 10px;\n }\n\n #onetrust-banner-sdk #onetrust-reject-all-handler {\n visibility: hidden;\n }\n\n\u003C/style>\n\n \u003C!– Facebook Pixel Code –>\u003Cscript type=\”text/plain\” class=\”optanon-category-C0002\”>!function(f,b,e,v,n,t,s){if(f.fbq)return;n=f.fbq=function(){n.callMethod?n.callMethod.apply(n,arguments):n.queue.push(arguments)};if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;n.queue=[];t=b.createElement(e);t.async=!0;t.src=v;s=b.getElementsByTagName(e)[0];s.parentNode.insertBefore(t,s)}(window,document,’script’,’https://connect.facebook.net/en_US/fbevents.js’); fbq(‘init’, ‘1346397800155390’); fbq(‘track’, ‘PageView’);\u003C/script>\u003Cnoscript> \u003Cimg height=\”1\” width=\”1\” src=\”https://www.facebook.com/tr?id=1346397800155390&ev=PageView&noscript=1\”/>\u003C/noscript>\u003C!– End Facebook Pixel Code –>\n\n\u003C!– alternativeAds –>\n”,”html_mobile”:”\u003Cmeta name=\”profitshareid\” content=\”934cd37887433d585a2a227ef0576fcc\” />\n\n\n{{#unless context.ads_disabled}}\n\n{{#if context.content}}\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://jsc.mgid.com/site/960965.js\” async>\u003C/script>\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\”>\n (function () {\n if (document.location.pathname.indexOf(„https://adevarul.ro/ghid-de-cumparaturi”) === 0) {\n return;\n }\n\n const s = document.createElement(\”script\”);\n s.src = \”https://srv.divee.ai/storage/v1/object/public/sdk/divee.sdk.latest.js\”;\n s.setAttribute(\”data-project-id\”, \”4428864e-2da6-4fef-a83c-c16c2dfe86d9\”);\n s.async = true;\n document.head.appendChild(s);\n })();\n\u003C/script>\n\n{{/if}}\n\n\u003Cscript>\n window.teads_analytics = window.teads_analytics || {};\n window.teads_analytics.analytics_tag_id = \”PUB_26459\”;\n window.teads_analytics.share = window.teads_analytics.share || function() {\n ;(window.teads_analytics.shared_data = window.teads_analytics.shared_data || []).push(arguments)\n };\n\u003C/script>\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://a.teads.tv/analytics/tag.js\”>\u003C/script>\n\n{{#unless context.features.nolivesupply}}\n\u003Cscript async data-cfasync=\”false\” type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://live.demand.supply/up.js\”>\u003C/script>\n{{/unless}}\n\n\u003Cscript type=\”text/plain\” class=\”optanon-category-C0004\” src=\”https://terrific.live/terrific-sdk.js\” storeid=\”iN6X0VPTDIicsVPKX6p0\”>\u003C/script>\n\n{{/unless}}\n\u003Cstyle>\n\n.google-adposition:has(iframe) {\n background-image: none !important;\n}\n\n.menu-fixed .menu .headContainer .google-auto-placed {\n display: none;\n}\n\narticle header .title .google-auto-placed {\n display: none;\n}\n\n#onetrust-banner-sdk #onetrust-accept-btn-handler {\n margin-bottom: 10px;\n }\n\n #onetrust-banner-sdk #onetrust-reject-all-handler {\n visibility: hidden;\n }\n\u003C/style>\n”},”updated_at”:”2026-07-22T15:44:05.196Z”}},”last_changed”:”2026-09-09T17:55:07.517Z”,”page”:{„created_at”:”2026-09-01T11:41:23.049Z”,”created_by”:1,”custom_fields”:{},”domain”:”adevarul.ro”,”id”:99,”last_published_at”:”2026-09-01T11:41:24.572Z”,”name”:”Content layout (article)”,”published”:1,”s3_hash”:”a5e0764cf3bce051367545eab1538b4619e8ecb9″,”slug”:null,”title”:”Content layout”,”type”:”layout”,”updated_at”:”2022-07-21T08:27:20.732Z”,”version_id”:272},”path”:”/stil-de-viata/tehnologie/ai-ne-ar-putea-ucide-pe-toti-pana-la-sfarsitul-2555212.html”,”pathArray”:[„”,”stil-de-viata”,”tehnologie”,”ai-ne-ar-putea-ucide-pe-toti-pana-la-sfarsitul-2555212.html”],”type”:”content”,”url”:”https://adevarul.ro/stil-de-viata/tehnologie/ai-ne-ar-putea-ucide-pe-toti-pana-la-sfarsitul-2555212.html”,”features”:{},”query”:{},”domain_config”:{„MISC”:{„logo”:{„width”:320,”height”:50}},”SYSTEM_TAGS”:[„noads”,”nocomments”,”sex”,”advert”,”advertorial”,”video”,”galerie”,”live”,”foto”,”exclusiv”,”analiza”,”interviu”,”reportaj”,”breaking news”],”default”:{„lang”:”ro”,”domain”:”adevarul.ro”,”alternateDomain”:”adevarul-ro.adh.reperio.news”,”friendlyName”:”Adevărul”,”logoURL”:”https://adevarul.ro/favicon-144-precomposed.png”}},”client”:{„is_mobile”:false}}