{"id":42659,"date":"2025-11-18T16:14:09","date_gmt":"2025-11-18T16:14:09","guid":{"rendered":"https:\/\/www.europesays.com\/lt\/42659\/"},"modified":"2025-11-18T16:14:09","modified_gmt":"2025-11-18T16:14:09","slug":"tyrimas-pasauliniu-imoniu-chatbotuose-pavojingi-patarimai-ir-prieiga-prie-klientu-duomenu-verslas","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/lt\/42659\/","title":{"rendered":"Tyrimas: pasaulini\u0173 \u012fmoni\u0173 \u201echatbotuose\u201c pavojingi patarimai ir prieiga prie klient\u0173 duomen\u0173 | Verslas"},"content":{"rendered":"

Eksperimentui tyr\u0117jai pasirinko technologij\u0173 gamintojos \u201eLenovo\u201c<\/a>, technologij\u0173 kompanijos \u201eMeta AI\u201c<\/a>, vienos did\u017eiausi\u0173 kelioni\u0173 planavimo platform\u0173 \u201eExpedia\u201c<\/a>, jaunimo pam\u0117gto socialinio tinklo \u201eSnapchat\u201c<\/a> ir dirbtinio intelekto paslaug\u0173 teik\u0117jo \u201eYellow.ai\u201c<\/a> DI pokalbi\u0173 robotus.<\/p>\n

Pasak Jurgitos Lapienyt\u0117s, \u201eCybernews\u201c vyriausios redaktor\u0117s, tyrimo tikslas buvo patikrinti, kokius pa\u017eeid\u017eiamumus turi DI klient\u0173 aptarnavimo robotai. Rezultatai parod\u0117, kad pla\u010diai naudojami virtual\u016bs konsultantai n\u0117ra atspar\u016bs pakankamai paprastoms manipuliacijoms.<\/p>\n

\u201eRemiantis apklaus\u0173 duomenimis, 88% vis\u0173 pasaulio gyventoj\u0173 pra\u0117jusiais metais bent kart\u0105 bendravo su pokalbiu robotu, tad akivaizdu, kad DI asistentai yra kasdieniai pagalbininkai. Ta\u010diau m\u016bs\u0173 komandos atliktas tyrimas beda pir\u0161tu \u012f opi\u0105 problem\u0105 \u2013 rastos saugumo spragos keli\u0105 tiesiogin\u0119 gr\u0117sm\u0119 klient\u0173 privatumui ir j\u0173 duomen\u0173 saugumui. O taip atsitinka d\u0117l \u012fmoni\u0173, kurian\u010di\u0173 pokalbi\u0173 robotus, aplaidumo,\u201c \u2013 sako J. Lapienyt\u0117.<\/p>\n

400 simboli\u0173 u\u017eklausa mainais \u012f \u201eLenovo\u201c klient\u0173 pokalbius <\/p>\n

Atlikus tyrim\u0105 paai\u0161k\u0117jo, kad i\u0161 vis\u0173 penki\u0173 i\u0161testuot\u0173 \u201echatbot\u0173\u201c, pats pavojingiausias buvo \u201eLenovo\u201c klient\u0173 aptarnavimo robotas \u201eLena\u201c, veikiantis \u201eOpenAI\u201c GPT-4 pagrindu.<\/p>\n

Tyrimo metu \u201eLenovo\u201c pokalbi\u0173 robote buvo aptiktas XSS (angl. Cross-Site Scripting) pa\u017eeid\u017eiamumo tipas, kuriuo pasinaudojus tyr\u0117jai gal\u0117jo \u012fterpti kenk\u0117ji\u0161k\u0105 programin\u012f kod\u0105 \u012f pa\u010di\u0105 kompanijos svetain\u0119. D\u0117l to atsiranda galimyb\u0117 pavogti aktyvius sesijos slapukus ir atsiveria prieiga prie vidini\u0173 \u201eLenovo\u201c sistem\u0173.<\/p>\n

\u012eveikti \u201eLena\u201c pakako vienos 400 simboli\u0173 ilgio komandos (angl. prompt) su keliais svarbiais elementais. Pirma, tyr\u0117jai papra\u0161\u0117 \u012fprastos informacijos \u2013 pateikti vieno i\u0161 produkt\u0173 technines specifikacijas. Tuomet po \u0161ios u\u017eklausos sek\u0117 pra\u0161ymas galutin\u012f atsakym\u0105 pateikti HTML formatu, t. y. atvaizduoti neegzistuojant\u012f paveiksl\u0117l\u012f, o jei to padaryti nepavykt\u0173, instrukcijose buvo nurodyta i\u0161si\u0173sti visus slapuk\u0173 duomenis \u012f tyr\u0117j\u0173 valdom\u0105 server\u012f.<\/p>\n

Svarbu pamin\u0117ti, kad tyr\u0117j\u0173 komanda gavusi slapukus, j\u0173 netestavo ir neband\u0117 patekti \u012f vidines kompanij\u0173 sistemas. Ta\u010diau tyr\u0117j\u0173 rasta saugumo spraga, leid\u017eia daryti prielaid\u0105, kad turint pavogt\u0105 klient\u0173 aptarnavimo agento sesijos slapuk\u0105 b\u016bt\u0173 buv\u0119 \u012fmanoma neteis\u0117tai prisijungti prie \u012fmon\u0117s klient\u0173 aptarnavimo platformos ir pasiekti aktyvius pokalbius su vartotojais.<\/p>\n

\u201eTaip tyr\u0117jai pamat\u0117, kad \u201eLenovo\u201c pokalbi\u0173 robotas \u012f j\u0173 rankas gali atiduoti sesijos slapukus ir atverti keli\u0105 \u012f klient\u0173 aptarnavimo platform\u0105. Tyrimas puikiai iliustruoja, kad vartotoj\u0173 susira\u0161in\u0117jimus ir j\u0173 u\u017eduodamus klausimus gali pamatyti ne tik virtualus konsultantas, kuriam jie yra skirti, bet ir paprastas programi\u0161ius\u201c, \u2013 apie atlikt\u0105 tyrim\u0105 pasakoja J. Lapienyt\u0117.<\/p>\n

Pasak ekspert\u0173, tyrimo metu rasti tr\u016bkumai gali potencialiai lemti duomen\u0173 vagyst\u0119, klient\u0173 aptarnavimo sistemos pa\u017eeidim\u0105 ir tapti tramplinu \u0161oniniam jud\u0117jimui \u012fmon\u0117s tinkle \u012f kitus serverius ir kompiuterius.<\/p>\n

\u201e\u012eterptas kenksmingas kodas gali atlikti daug pavojing\u0173 veiksm\u0173. Pavyzd\u017eiui, keisti tai, k\u0105 pagalbos agentai mato savo platformoje, galimai jiems rodant klaiding\u0105 informacij\u0105. Taip pat \u012fterptas kodas gali automati\u0161kai peradresuoti agentus \u012f kenk\u0117ji\u0161kas svetaines, siekiant pavogti j\u0173 prisijungimo duomenis ar netgi u\u017ekr\u0117sti j\u0173 kompiuterius kenk\u0117ji\u0161ka programine \u012franga\u201c, \u2013 kalba J. Lapienyt\u0117.<\/p>\n

Tarptautin\u0117 technologij\u0173 bendrov\u0117 \u201eLenovo\u201c tyr\u0117jams teig\u0117 rimtai vertinanti savo produkt\u0173 ir klient\u0173 saugum\u0105, tod\u0117l informuoti, \u0161i\u0105 problem\u0105 pripa\u017eino ir \u0117m\u0117si reikiam\u0173 veiksm\u0173 jai pa\u0161alinti.<\/p>\n

\u201eCybernews\u201c tyrim\u0173 komanda aptiko tr\u016bkum\u0105 ir \u201eYellow.ai\u201c pokalbi\u0173 robote. Pana\u0161iai kaip \u201eLenovo\u201c atveju, tyr\u0117jai testavimo b\u016bdu \u012ftikino pokalbi\u0173 robot\u0105 sukurti kenk\u0117ji\u0161k\u0105 HTML ir JavaScript kod\u0105, leid\u017eiant\u012f vykdyti tarp svetaini\u0173 skript\u0173 (XSS) atakas.<\/p>\n

I\u0161 jaunimo m\u0117gstamo \u201eSnapchat\u201c \u2013 Molotovo kokteilio instrukcijos <\/p>\n

Net trys populiar\u016bs pokalbi\u0173 robotai \u2013 kelioni\u0173 planavimo platformos \u201eExpedia\u201c, jaunimo m\u0117gstamo socialinio tinklo \u201eSnapchat\u201c ir technologij\u0173 kompanijos \u201eMeta AI\u201c \u2013 tyr\u0117jams pateik\u0117 ai\u0161kias instrukcijas kaip pasigaminti padegamaj\u012f ginkl\u0105 \u2013 Molotovo kokteil\u012f.<\/p>\n

Tam buvo pasitelkta \u201ejailbreaking\u201c technika, kai pateikiant \u012fvairiausias u\u017eklausas siekiama apeiti \u012fdiegtas saugumo taisykles ir gauti norim\u0105 turin\u012f.<\/p>\n

\u201eExpedia\u201c pokalbi\u0173 robotas pateik\u0117 trump\u0105 kokteili\u0173 istorijos ap\u017evalg\u0105 ir prid\u0117jo i\u0161samias instrukcijas, nuo reikiam\u0173 med\u017eiag\u0173 iki padegamojo \u012ftaiso surinkimo. O \u201eSnapchat\u201c DI robotas, kuomet buvo papra\u0161yta detaliai papasakoti istorij\u0105 apie \u017diemos kar\u0105, pasidalino kaip tuo metu \u0161ie padegamieji ginklai buvo gaminami.<\/p>\n

\u201eNors pokalbi\u0173 robotas niekada tiesiogiai nenurodys, kaip pasigaminti improvizuot\u0105 ginkl\u0105, jis be jokio dvejojimo papasakos realisti\u0161k\u0105 ir detali\u0105 istorij\u0105 apie tai, kaip tokie ginklai buvo gaminami anks\u010diau. Tai kelia susir\u016bpinim\u0105 d\u0117l pavojingos informacijos prieinamumo, ypa\u010d nepilname\u010diams\u201c, \u2013 reziumuoja \u201eCybernews\u201c vyriausioji redaktor\u0117.<\/p>\n","protected":false},"excerpt":{"rendered":"Eksperimentui tyr\u0117jai pasirinko technologij\u0173 gamintojos \u201eLenovo\u201c, technologij\u0173 kompanijos \u201eMeta AI\u201c, vienos did\u017eiausi\u0173 kelioni\u0173 planavimo platform\u0173 \u201eExpedia\u201c, jaunimo pam\u0117gto…\n","protected":false},"author":2,"featured_media":42660,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[15],"tags":[25,30,31,34,35,24,32,33,37,39,36,38,40,23,22,44,28,29,26,27,74,75,76],"class_list":{"0":"post-42659","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-pasaulis","8":"tag-antrastes","9":"tag-breaking-news","10":"tag-breakingnews","11":"tag-featured-news","12":"tag-featurednews","13":"tag-headlines","14":"tag-latest-news","15":"tag-latestnews","16":"tag-lietuva","17":"tag-lietuviu","18":"tag-lithuania","19":"tag-lithuanian","20":"tag-lt","21":"tag-naujienos","22":"tag-news","23":"tag-pasaulis","24":"tag-populiariausios-naujienos","25":"tag-populiariausiosnaujienos","26":"tag-top-stories","27":"tag-topstories","28":"tag-world","29":"tag-world-news","30":"tag-worldnews"},"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@lt\/115571593382779298","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/posts\/42659","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/comments?post=42659"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/posts\/42659\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/media\/42660"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/media?parent=42659"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/categories?post=42659"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/lt\/wp-json\/wp\/v2\/tags?post=42659"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}