Det tok flere dager f\u00f8r Open AI skj\u00f8nte at deres egen agent sto bak angrepet, opplyser kilder til nyhetsbyr\u00e5et Reuters.<\/p>\n
Agenten fors\u00f8kte \u00e5 bryte ut av sitt isolerte testmilj\u00f8 hos Open AI rundt 9. juli. Innbruddet hos Hugging Face begynte 11. juli og varte til 13. juli, if\u00f8lge Thomas Wolf, medgr\u00fcnder av Hugging Face.<\/p>\n
De to selskapene kommuniserte for f\u00f8rste gang om dataangrepet rundt 20. juli, if\u00f8lge Wolf og tre personer med kjennskap til etterforskningen.<\/p>\n
Open AIs tap av kontroll over KI-agenten reiser sp\u00f8rsm\u00e5l om selskapets sikkerhetsprosedyrer, mener eksperter p\u00e5 cybersikkerhet.<\/p>\n
\u2013 Betyr det at de lot den operere uten tilsyn og ikke visste hva den gjorde? Eller visste de kanskje det, men visste ikke hvordan de skulle stoppe den? Begge deler er like farlig og urovekkende, sier ledende etterretningsspesialist Marley Smith ved World Ethical Data Foundation til Reuters.<\/p>\n
Skal publisere rapport<\/p>\n
Open AI sier angrepet var enest\u00e5ende og at det \u00abmarkerer et viktig \u00f8yeblikk for KI-sikkerhet\u00bb. Selskapet gjennomg\u00e5r hendelsen og vil publisere en teknisk rapport.<\/p>\n
Marius Sandbu, som er spesialist p\u00e5 KI og skyteknologi i Sopra Steria, mener det er langt fra siste gang vi kommer til \u00e5 se et semiautomatisk angrep fra en KI-modell.<\/p>\n
\u2013 Selv om angrepet kanskje ikke n\u00f8dvendigvis var teknisk avansert, og kunne blitt avverget med enkle basis sikkerhetsfunksjoner, blir man litt skeptisk n\u00e5r de store KI-leverand\u00f8rene som Open AI ikke har kontroll p\u00e5 egen infrastruktur og tjenester, sa Sandbu til Digi<\/a> tidligere denne uken da angrepet ble kjent.<\/p>\n","protected":false},"excerpt":{"rendered":"Det tok flere dager f\u00f8r Open AI skj\u00f8nte at deres egen agent sto bak angrepet, opplyser kilder til…\n","protected":false},"author":2,"featured_media":303703,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[56],"tags":[60,61,2895,467,62,30,28,29,1219],"class_list":["post-303702","post","type-post","status-publish","format-standard","has-post-thumbnail","category-naeringsliv","tag-business","tag-economy","tag-ki","tag-kunstig-intelligens","tag-naeringsliv","tag-no","tag-norge","tag-norway","tag-sikkerhet"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@no\/116991091120828776","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts\/303702","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/comments?post=303702"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/posts\/303702\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/media\/303703"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/media?parent=303702"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/categories?post=303702"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/no\/wp-json\/wp\/v2\/tags?post=303702"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}