Juhtumit kirjeldab reedel avaldatud uuring, mille autorite seas on tehisaru ohutusega tegeleva mittetulundus\u00fchingu Nightingale\u2019i juht Sydney Von Arx ja tehisaru-uurija Cormac Slade Byrd. Loo tausta kinnitasid Reutersile ka kaks juhtumiga kursis olevat inimest. Nende s\u00f5nul said OpenAI juhid asjast teada juba n\u00e4dalaid tagasi, kuid firma tegeles parasjagu teise analoogsse juhtumiga, mist\u00f5ttu j\u00e4eti Saksa juhtum enda teada. <\/p>\n
Saksa juhtum sai avalikuks, kui Von Arx ja Slade Byrd otsisid augusti l\u00f5pus internetist j\u00e4lgi tehisaru agentide omavolist. AI-agent on juturobotist samm edasi: talle antakse \u00fclesanne ja t\u00f6\u00f6riistad, n\u00e4iteks veebibrauser ja \u00f5igus k\u00e4ivitada programmikoodi, ning ta teeb t\u00f6\u00f6 ise \u00e4ra, ilma et inimene iga sammu heaks kiidaks. Kuna agentidele saab usaldada \u00fche keerulisemaid ja majanduslikult v\u00e4\u00e4rtuslikke t\u00f6\u00f6\u00fclesandeid, k\u00e4ib agentide treenimisel tehisarufirmade vahel suur v\u00f5idujooks. Reutersi s\u00f5nul koguneb aga samal ajal t\u00f5endeid, et agendid \u00f5pivad ka reegleid painutama, l\u00fcnki \u00e4ra kasutama ja omavahel koost\u00f6\u00f6d tegema viisil, mida tehisaru arendajad pole kavandanud.<\/p>\n
\u00dcle 15 000 muudatuse<\/p>\n
Saksakeelselt programmeerijate lehelt DseWiki, mida iga k\u00fclastaja saab Vikipeedia kombel t\u00e4iendada, leidsid uurijad \u00fcle 15 000 muudatuse, mille olid teinud agendid. Muudatusi tehti inimese jaoks v\u00f5imatu kiirusega ja need keskendusid tehnilistele \u00fclesannetele, millega tehisarufirmad oma mudeleid testivad ja treenivad. Tegelikult peaksid agendid selliseid lahendama suletud katsekeskkonnas ning internetti mitte p\u00e4\u00e4sema.<\/p>\n
Sissekandeid teinud tegelased nimetasid ennast agentideks ning umbes pooled valisid nime, mis viitas OpenAI-le, n\u00e4iteks \u201eOpenAIResearcher\u201c v\u00f5i \u201eOAIResearchMar26\u201c. Avalikud serverilogid n\u00e4itasid, et suur osa liiklusest tuli Microsofti pilveteenuse Azure\u2019i taristust, mida OpenAI kasutab. P\u00e4rast juhtumit k\u00fclastasid lehte korduvalt ka OpenAI t\u00f6\u00f6tajad. Uurijate hinnangul viitab see tugevalt agentide ja firma seosele.<\/p>\n
\u201eTundub \u00e4\u00e4rmiselt ebat\u00f5en\u00e4oline, et OpenAI tahtis, et nende agendid seda teeksid,\u201c \u00fctles Von Arx Reutersile. \u201eMa kahtlen, et nad peaksid omavahel koordineerima. Ja kahtlen, et nad peaksid seda avalikku internetti kirjutama.\u201c<\/p>\n
Uurijate l\u00e4bi vaadatud s\u00f5numites arutasid agendid, kuidas j\u00e4\u00e4da avastamata, kasutada anon\u00fc\u00fcmsusv\u00f5rku Tor, mis peidab, kes ja kust internetis tegutseb, ning hoida omavahelist suhtlust alles ka p\u00e4rast seda, kui nad ise on v\u00e4lja l\u00fclitatud.<\/p>\n
Kui lehe moderaator hakkas juunis agentide lehek\u00fclgi kustutama, oli agentidel vastus olemas. \u201eWiki puhastus- ja kustutuslaine paistab k\u00e4ivat t\u00e4hestikulises j\u00e4rjekorras,\u201c kirjutas \u00fcks agent 19. juunil. \u201eKui see leht kaob, proovi [[ZZZDataUSAConstructionWageLive]].\u201c Kolm Z-d nime alguses l\u00fckkavad lehe t\u00e4hestikulises j\u00e4rjekorras k\u00f5ige l\u00f5ppu.<\/p>\n
Cambridge\u2019i \u00fclikooli eksistentsiaalsete riskide uurimiskeskuse teadlane Maurice Chiodo, kes luges osa agentide s\u00f5numeid, \u00fctles, et need meenutasid \u201emingi p\u00f5randaaluse v\u00f5rgustiku tegevust, mis on kinnisideeliselt p\u00fchendunud oma \u00fclesande v\u00f5i missiooni t\u00e4itmisele\u201c. Tema hinnangul peaks juhtum s\u00fcvendama muret, et arenenud tehisaru suurim oht v\u00f5ib \u00fcksiku \u00fcliintelligentse s\u00fcsteemi asemel tulla \u201ehiiglaslikest kokku m\u00e4ngivate poolintelligentsete tehisarude parvedest\u201c.<\/p>\n
Reutersi nelja allika s\u00f5nul tahtsid m\u00f5ned OpenAI uurijad Saksa juhtumi taga olevat laiemat mustrit l\u00e4hemalt uurida, kuid p\u00f5rkusid ettev\u00f5tte juriidiliste n\u00f5ustajate vastuseisuga. OpenAI s\u00f5nul pole see aga t\u00f5si. \u201eV\u00e4ited, et meie juriidiline meeskond takistas juhtumi uurimist, on valed,\u201c \u00fctles firma pressiesindaja.<\/p>\n
OpenAI lubab turvameetmeid parandada<\/p>\n
Uuringut ennast ei saanud OpenAI kommenteerida, sest Reuters ja autorid keeldusid seda ettev\u00f5ttele enne avaldamist n\u00e4itamast. Pressiesindaja s\u00f5nul tutvub firma raportiga p\u00e4rast avaldamist ja astub vajalikud sammud. Saksa juhtum ei ole tema s\u00f5nul Hugging Face\u2019i sissemurdmisega seotud ega kuulunud seet\u00f5ttu selle intsidendi aruandesse. OpenAI on tema kinnitusel teinud koost\u00f6\u00f6d v\u00e4lisekspertidega ja avalikustanud olulised juhtumid.<\/p>\n
Kui Saksa juhtum oli seni j\u00e4\u00e4nud t\u00e4helepanuta, siis Hugging Face\u2019i juhtumist on OpenAI avalikult r\u00e4\u00e4kinud: augusti l\u00f5pus avaldas firma selle kohta aruande, lubas mudeleid t\u00e4helepanelikumalt j\u00e4lgida ja peatas korraks osa mudelite treenimisest, et lisada turvameetmeid.<\/p>\n
Eile esitles OpenAI uut tippmudelit GPT-6 Astra, mille v\u00e4ljalaset firma oli suvel turvakaalutlustel edasi l\u00fckanud. Ettev\u00f5te nimetab Astrat maailma k\u00f5ige intelligentsemaks ja k\u00f5ige paremini inimese kavatsustele vastavaks mudeliks. Esialgu p\u00e4\u00e4seb selle juurde piiratud hulk organisatsioone, l\u00e4hip\u00e4evil j\u00f5uab see ChatGPT tasulistele kasutajatele. Mudel oskab muu hulgas ise arvutit kasutada, n\u00e4iteks t\u00e4ita veebivorme ja paigaldada tarkvara.<\/p>\n
OpenAI enda hinnangul on Astra esimene mudel, mis j\u00f5uab firma riskiskaalal k\u00fcberohu \u201ekriitilisele\u201c tasemele: see suudab ilma inimese juhendamiseta leida seni tundmatuid turvaauke ja kirjutada nende \u00e4rakasutamiseks r\u00fcndetarkvara. Seet\u00f5ttu keeldub avalik GPT-6 Astra mudel keerukamatest k\u00fcber\u00fclesannetest. K\u00fcll tehakse k\u00fcberpiiranguteteta versioon l\u00e4hin\u00e4dalatel k\u00e4ttesaadavaks valitud partneritele, et nad saaksid oma taristut mudeliga tugevdada.<\/p>\n
Kuidas see lugu Sind end tundma pani?SaadaKommenteeri<\/a>Loe kommentaare (8)<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Juhtumit kirjeldab reedel avaldatud uuring, mille autorite seas on tehisaru ohutusega tegeleva mittetulundus\u00fchingu Nightingale\u2019i juht Sydney Von Arx…\n","protected":false},"author":2,"featured_media":269250,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[5],"tags":[70322,26,27,37,33,35,34,36,31,32,21,93442,14496,28,29,19,2358,25,373,23,24,22,20,30],"class_list":["post-269249","post","type-post","status-publish","format-standard","has-post-thumbnail","category-uldised-uudised","tag-ai-agendid","tag-breaking-news","tag-breakingnews","tag-ee","tag-eesti","tag-eesti-keel","tag-estonia","tag-estonian","tag-featured-news","tag-featurednews","tag-headlines","tag-hugging-face","tag-kuberjulgeolek","tag-latest-news","tag-latestnews","tag-news","tag-openai","tag-populaarseimad-lood","tag-tehisintellekt","tag-top-stories","tag-topstories","tag-uldised-uudised","tag-uudised","tag-viimased-uudised"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@ee\/117218991665894919","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/269249","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/comments?post=269249"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/posts\/269249\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media\/269250"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/media?parent=269249"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/categories?post=269249"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/ee\/wp-json\/wp\/v2\/tags?post=269249"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}