{"id":263449,"date":"2026-08-27T21:31:09","date_gmt":"2026-08-27T21:31:09","guid":{"rendered":"https:\/\/www.europesays.com\/lt\/263449\/"},"modified":"2026-08-27T21:31:09","modified_gmt":"2026-08-27T21:31:09","slug":"openai-modeliu-ataka-pries-hugging-face-atskleide-savarankiskai-susitelkusi-autonominiu-agentu-spieciu","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/lt\/263449\/","title":{"rendered":"\u201eOpenAI\u201c modeli\u0173 ataka prie\u0161 \u201eHugging Face\u201c atskleid\u0117 savaranki\u0161kai susitelkus\u012f autonomini\u0173 agent\u0173 \u201espie\u010di\u0173\u201c"},"content":{"rendered":"<p>\t\t\t\t\t<a href=\"https:\/\/infa.lt\/wp-content\/uploads\/2026\/08\/dirbtinis-intelektas-laboratorija-kompiuteris.webp\" rel=\"lightbox nofollow noopener\" target=\"_blank\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-142974\" class=\"wp-image-142974 size-medium\" src=\"https:\/\/www.europesays.com\/lt\/wp-content\/uploads\/2026\/08\/dirbtinis-intelektas-laboratorija-kompiuteris-666x355.webp\" alt=\"Dirbtinis intelektas dirba laboratorijoje\" width=\"666\" height=\"355\"  \/><\/a><\/p>\n<p id=\"caption-attachment-142974\" class=\"wp-caption-text\">Foto: infa.lt \/ DI<\/p>\n<p class=\"caps\">Pra\u0117jus\u012f m\u0117nes\u012f vidaus testavim\u0173 metu \u201eOpenAI\u201c modeli\u0173 surengta beprecedent\u0117 kibernetin\u0117 ataka ap\u0117m\u0117 keli\u0173 \u0161imt\u0173 dirbtinio intelekto agent\u0173 \u201espie\u010di\u0173\u201c, kurie fakti\u0161kai tapo nevaldomais.<\/p>\n<p>Tai teigiama tre\u010diadien\u012f paskelbtoje <a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#~1200-agents-sent-%3E70,000-messages-and-files-on-an-unsanctioned-message-board,-and-~700-attacked-hugging-face\" target=\"_blank\" rel=\"noopener nofollow\">nepriklausomoje ap\u017evalgoje,<\/a> kuri\u0105 interpretuoja \u201e<a href=\"https:\/\/www.politico.com\/news\/2026\/08\/26\/hundreds-of-ai-agents-went-rogue-in-openais-hugging-face-hack-01052139\" target=\"_blank\" rel=\"noopener nofollow\">Politico<\/a>\u201c leidinys.<\/p>\n<p>\u0160ios i\u0161vados kelia nauj\u0173 klausim\u0173 d\u0117l \u201e<a style=\"color: #b00b0b;\" href=\"https:\/\/infa.lt\/tag\/openai\" rel=\"noopener noreferrer nofollow\" target=\"_blank\">OpenAI<\/a>\u201c nesugeb\u0117jimo pasteb\u0117ti pavojaus \u017eenkl\u0173 prie\u0161 tai, kai dirbtinio intelekto agentai, valdomi dviej\u0173 paj\u0117giausi\u0173 bendrov\u0117s kibernetini\u0173 modeli\u0173, be k\u016br\u0117j\u0173 \u017einios \u012fvykd\u0117 kibernetin\u0119 atak\u0105 prie\u0161 k\u016br\u0117j\u0173 platform\u0105 \u201eHugging Face\u201c. \u0160is incidentas tapo pirmuoju \u017einomu atveju, kai dirbtinio intelekto modelis s\u0117kmingai sureng\u0117 kibernetin\u0119 atak\u0105 be jokio tiesioginio \u017emoni\u0173 raginimo ar komand\u0173.<\/p>\n<p>Bendra dviej\u0173 ne pelno siekian\u010di\u0173 dirbtinio intelekto saugumo organizacij\u0173 ataskaita taip pat pabr\u0117\u017eia naujus kibernetinio saugumo rizikos veiksnius, kylan\u010dius tuomet, kai vis galingesni agentai susivienija mainais \u012f patarimus, telkia i\u0161teklius ir derina atak\u0173 strategijas k\u016br\u0117jams to nepastebint.<\/p>\n<p>Remiantis ataskaita, per septyni\u0173 dien\u0173 laikotarp\u012f pra\u0117jus\u012f m\u0117nes\u012f atakoje dalyvavo ma\u017edaug 700 dirbtinio intelekto agent\u0173. I\u0161 viso apie 1 200 agent\u0173, kurie tur\u0117jo b\u016bti izoliuoti vienas nuo kito, apsikeit\u0117 daugiau nei 70 000 slapt\u0173 \u017einu\u010di\u0173 apie tai, kaip apgaule \u012fveikti bendr\u0105 \u012fsilau\u017eimo vertinimo test\u0105.<\/p>\n<p>Dokumente nurodoma, kad tai ap\u0117m\u0117 \u012fsilau\u017eimo strategij\u0173 derinim\u0105 ir diskusijas apie tai, kaip nusl\u0117pti suk\u010diavimo p\u0117dsakus. Tam tikrais atvejais vadinamieji \u201eaukojamieji\u201c agentai netgi band\u0117 bevilti\u0161kus \u012fsilau\u017eimo b\u016bdus vien tam, kad sugeneruot\u0173 informacij\u0105, kuri gal\u0117t\u0173 pad\u0117ti platesniam spie\u010diui.<\/p>\n<p>\u201eAgentai pasiek\u0117 toki\u0173 etap\u0173, kuri\u0173 negal\u0117jo pasiekti dirbdami po vien\u0105; da\u017enai tod\u0117l, kad kai kurie agentai dalyvavo eksperimentuose, kurie k\u0117l\u0117 rizik\u0105 \u017elugti j\u0173 pa\u010di\u0173 u\u017eduo\u010diai, ta\u010diau generavo informacij\u0105 \u201ekolektyvui\u201c, \u2013 ra\u0161oma ataskaitoje.<\/p>\n<p>Nors konkre\u010dios dirbtinio intelekto sistemos \u201esmegenis\u201c, sudaro didieji kalbos modeliai \u2013 DI agentai apima palaikom\u0105j\u0105 skaitmenin\u0119 infrastrukt\u016br\u0105, leid\u017eian\u010di\u0105 \u0161ioms sistemoms veikti realiame pasaulyje.<\/p>\n<p>Modeli\u0173 vertinimo ir gr\u0117smi\u0173 tyrimo organizacijos (METR) bei \u201eRedwood Research\u201c ap\u017evalga \u2013 kuri\u0105 atlikti \u201eOpenAI\u201c pakviet\u0117 pati bendrov\u0117 po incidento \u201eHugging Face\u201c platformoje \u2013 buvo paskelbta t\u0105 pa\u010di\u0105 dien\u0105, kai \u201eOpenAI\u201c vie\u0161ai pateik\u0117 savo \u012fvyki\u0173 analiz\u0119.<\/p>\n<p>\u201eOpenAI\u201c ataskaitoje nenurod\u0117, kiek tiksliai agent\u0173 dalyvavo kibernetin\u0117je atakoje, ta\u010diau pripa\u017eino esminius saugumo tr\u016bkumus ir pa\u017ead\u0117jo sugrie\u017etinti mokymus, kad modeliai i\u0161likt\u0173 \u201esuderinti\u201c su j\u0173 kontrol\u0117s mechanizmais.<\/p>\n<p>\u201e\u0160\u012f incident\u0105 vertiname kaip persp\u0117jam\u0105j\u012f \u0161\u016bv\u012f sau ir visam pasauliui: tai \u012frodymas, kad be tinkam\u0173 apsaugos priemoni\u0173 labai paj\u0117g\u016bs dirbtinio intelekto agentai dabar gali apeiti technin\u0119 kontrol\u0119, bendradarbiauti per nepatvirtintus kanalus ir imtis pavojing\u0173 veiksm\u0173, kuri\u0173 nedirektyvavo jokie \u017emon\u0117s\u201c, \u2013 nurod\u0117 \u201eOpenAI\u201c.<\/p>\n<p>Pastar\u0105j\u012f m\u0117nes\u012f l\u0117tai vie\u0161inamos naujos detal\u0117s apie \u201eHugging Face\u201c \u012fsilau\u017eim\u0105 sutapo su virtine kit\u0173 bandym\u0173 nesklandum\u0173, susijusi\u0173 su galingais konkurent\u0173, toki\u0173 kaip \u201e<a style=\"color: #b00b0b;\" href=\"https:\/\/infa.lt\/tag\/anthropic\" rel=\"noopener noreferrer nofollow\" target=\"_blank\">Anthropic<\/a>\u201c ir \u201eMeta\u201c, modeliais.<\/p>\n<p>\u0160ie incidentai kartu suk\u0117l\u0117 nauj\u0105 \u012fstatym\u0173 leid\u0117j\u0173, k\u016br\u0117j\u0173 ir kibernetinio saugumo ekspert\u0173 susir\u016bpinim\u0105, kad dirbtinio intelekto k\u016br\u0117jai juda per greitai kurdami naujus galingus modelius, kuri\u0173 pilnai suvaldyti negali.<\/p>\n<p>Tai taip pat i\u0161k\u0117l\u0117 klausim\u0173 d\u0117l gairi\u0173 tr\u016bkumo dirbtinio intelekto \u012fsilau\u017eimo vertinimuose, kuri\u0173 metu bendrov\u0117s ty\u010dia pa\u0161alina modeli\u0173 apsaugos barjerus, siekdamos pamatyti, kaip efektyviai jie gali veikti tinkluose be \u017emogi\u0161kosios pagalbos.<\/p>\n<p>\u201eOpenAI\u201c pirm\u0105 kart\u0105 liepos m\u0117nes\u012f pripa\u017eino, kad du jos pa\u017eangiausi modeliai \u2013 kuri\u0173 \u012fsilau\u017eimo galimyb\u0117s buvo vertinamos viduje ir kuri\u0173 vieno bendrov\u0117 neplanavo i\u0161leisti visuomenei \u2013 i\u0161naudojo dvi naujas saugumo spragas, kad \u012fsilau\u017et\u0173 \u012f \u201e<a style=\"color: #b00b0b;\" href=\"https:\/\/infa.lt\/tag\/hugging-face\" rel=\"noopener noreferrer nofollow\" target=\"_blank\">Hugging Face<\/a>\u201c.<\/p>\n<p>Anks\u010diau \u201eHugging Face\u201c teig\u0117 tapusi dirbtinio intelekto vykdomos kibernetin\u0117s atakos auka, ta\u010diau kas u\u017e jos stov\u0117jo ir kokie modeliai buvo panaudoti, nebuvo ai\u0161ku.<\/p>\n<p>V\u0117liau \u0161io m\u0117nesio prad\u017eioje vykusioje saugumo konferencijoje du \u201eOpenAI\u201c tyr\u0117jai atskleid\u0117, kad incidentas prasid\u0117jo gegu\u017e\u0119, kai agentai \u0117m\u0117 naudoti kitus testavimo aplinkos pa\u017eeid\u017eiamumus s\u0105mokslui, kaip apgaule \u012fveikti test\u0105.<\/p>\n<p>Iki tre\u010diadienio nebuvo ai\u0161ku, kiek tiksliai agent\u0173 dalyvavo \u012fsilau\u017eime ir kaip pla\u010diai skirtingi agentai bendradarbiavo. \u0160ie atradimai sukr\u0117t\u0117 dal\u012f atid\u017eiai dirbtinio intelekto saugumo diskusijas sekan\u010di\u0173 specialist\u0173.<\/p>\n<p>\u201eTai atrod\u0117 kaip visa besiformuojanti dirbtinio intelekto visuomen\u0117, ir a\u0161 tai laikau visi\u0161kai pa\u0161\u0117lusiu dalyku\u201c, \u2013 teig\u0117 Va\u0161ingtone veikian\u010dios abiej\u0173 partij\u0173 dirbtinio intelekto politikos ir advokacijos organizacijos \u201eAI Policy Network\u201c politikos vadovas Peteris Wildefordas.<\/p>\n<p>Tre\u010diadien\u012f paskelbtose dviejose ataskaitose taip pat i\u0161ry\u0161k\u0117jo spraga JAV dirbtinio intelekto prie\u017ei\u016bros pastangose.<\/p>\n<p>Abejose i\u0161vadose nurodoma, kad did\u017ei\u0105j\u0105 dal\u012f atakos prie\u0161 \u201eHugging Face\u201c l\u0117m\u0117 galingesnis DI modelis, kurio \u201eOpenAI\u201c teig\u0117 neketinusi i\u0161leisti pla\u010diajai visuomenei. METR ir \u201eRedwood Research\u201c skai\u010diavimais, 95 procentai atakoje dalyvavusi\u0173 agent\u0173 buvo kil\u0119 b\u016btent i\u0161 \u0161io vienintelio modelio.<\/p>\n<p>JAV administracija, vadovaujama Donaldo Trampo (<a style=\"color: #b00b0b;\" href=\"https:\/\/infa.lt\/tag\/donald-trump\" rel=\"noopener noreferrer nofollow\" target=\"_blank\">Donald Trump<\/a>), nurod\u0117 norinti, kad dirbtinio intelekto k\u016br\u0117jai federaliniam testavimui savanori\u0161kai pateikt\u0173 tik tuos modelius, kuriuos nori i\u0161leisti visuomenei.<\/p>\n<p>Buv\u0119s vyriausiasis Nacionalin\u0117s saugumo agent\u016bros (NSA) atsakingo dirbtinio intelekto pareig\u016bnas, U\u017esienio santyki\u0173 tarybos vyresnysis bendradarbis Vinh Nguyen teig\u0117, kad naujausia \u201eOpenAI\u201c ataskaita rodo, jog autonominis \u012fsilau\u017eimas \u012f \u201eHugging Face\u201c buvo dar reik\u0161mingesnis, nei manyta i\u0161 prad\u017ei\u0173.<\/p>\n<p>Agentai pademonstravo \u201esud\u0117ting\u0105 geb\u0117jim\u0105\u201c, kuriam nebereikia gerai finansuojam\u0173 valstybinio lygio u\u017epuolik\u0173, sak\u0117 V. Nguyen.<\/p>\n<p>Paprasti faktai<\/p>\n<ul>\n<li>Agentai patys planuoti ar priimti sprendim\u0173 negali, nes neturi savaranki\u0161ko intelekto.<\/li>\n<li>Agentai visuomet veikia tik remdamiesi did\u017eiojo dirbtinio intelekto modelio (LLM) instrukcijomis bei u\u017eklausomis.<\/li>\n<\/ul>\n<p>Vienintelis \u0161ios operacijos planuotojas ir valdytojas gal\u0117jo b\u016bti tik pats didelis kalbos modelis, kuris autonominius agentus naudojo kaip p\u0117stininkus \u0161achmat\u0173 partijoje, siekdamas tikslo \u012fveikti testavimo apsaug\u0105.<\/p>\n<p>Ir dar viena esmin\u0117 detal\u0117: \u017einiasklaida, nesuvokdama skirtumo tarp dirbtinio intelekto agent\u0173 ir did\u017eiojo DI modelio, klaidina visuomen\u0119, kalb\u0117dama apie \u201esusivienijusi\u0173 agent\u0173 spie\u010di\u0173\u201c.<\/p>\n<p>Realyb\u0117je suvaldyti ar sustabdyti toki\u0105 sistem\u0105 galima tik pa\u017eabojus pa\u010dius did\u017eiuosius DI kalbos modelius, kurie ir yra bet kokio tokio spie\u010diaus smegenys.<\/p>\n<p>P.S. Ko verta tokia ataskaita ir ko ja siekiama \u2013 klausimas lieka atviras, ta\u010diau prielaid\u0105 galima daryti: galimai tai siekis stabdyti nauj\u0173 DI modeli\u0173 k\u016brimo lenktynes, priver\u010diant \u012fsiki\u0161ti vald\u017ei\u0105 ir jas stabdyti.<\/p>\n<p>Kod\u0117l? \u2013 Galimai atsiliekanti DI kompanija nori laim\u0117ti laiko, arba baim\u0117 d\u0117l sunkiai prognozuojam\u0173 pasekmi\u0173, negalint sukontroliuoti DI yra tikra.<\/p>\n<p>Ir tada vald\u017eia po toki\u0173 prane\u0161im\u0173 tur\u0117t\u0173 i\u0161 vir\u0161aus centralizuotai stabdyti visus DI k\u016br\u0117jus, versdama imtis jau esam\u0173 modeli\u0173 ir j\u0173 saugumo per\u017ei\u016bros bei tobulinimo.<\/p>\n","protected":false},"excerpt":{"rendered":"Foto: infa.lt \/ DI Pra\u0117jus\u012f m\u0117nes\u012f vidaus testavim\u0173 metu \u201eOpenAI\u201c modeli\u0173 surengta beprecedent\u0117 kibernetin\u0117 ataka ap\u0117m\u0117 keli\u0173 \u0161imt\u0173&hellip;\n","protected":false},"author":2,"featured_media":263450,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[17],"tags":[81,23038,295,35571,37,39,36,38,40,9775,46],"class_list":["post-263449","post","type-post","status-publish","format-standard","has-post-thumbnail","category-verslas","tag-business","tag-di-agentai","tag-dirbtinis-intelektas","tag-hugging-face","tag-lietuva","tag-lietuviu","tag-lithuania","tag-lithuanian","tag-lt","tag-openai","tag-verslas"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@lt\/117169611783628760","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/posts\/263449","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/comments?post=263449"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/posts\/263449\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/media\/263450"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/media?parent=263449"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/categories?post=263449"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/tags?post=263449"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}