Eddigi leger\u0151sebb mesters\u00e9gesintelligencia-modellje kiad\u00e1s\u00e1ra k\u00e9sz\u00fcl az OpenAI. Az Astra megjelen\u00e9s\u00e9t m\u00e1r eddig is hetekkel tolta el a c\u00e9g, van itt azonban egy m\u00e1sik probl\u00e9ma is: a tesztel\u00e9s sor\u00e1n az AI-eszk\u00f6z val\u00f3di c\u00e9lpontokat t\u00e1madott meg. A halaszt\u00e1s \u00edgy annak sz\u00f3l, hogy az OpenAI meger\u0151s\u00edtse a biztons\u00e1gi protokollokat.<\/p>\n
A modellr\u0151l egyre t\u00f6bb r\u00e9szlet l\u00e1t napvil\u00e1got, ezzel p\u00e1rhuzamosan pedig a kutat\u00f3k is egyre ink\u00e1bb agg\u00f3dnak miatta \u2013 \u00edrja a The Verge<\/a>. A szakemberek egyenesen \u00fagy v\u00e9lik, hogy \u201eez lehet az AI szempontj\u00e1b\u00f3l az eddigi legrosszabb fejlem\u00e9ny\u201d. <\/p>\n Azut\u00e1n, hogy az OpenAI kedden bejelentette, biztons\u00e1gi megfontol\u00e1sb\u00f3l elhalasztotta az Astra megjelen\u00e9s\u00e9t, a The Information<\/a> arr\u00f3l \u00edrt, hogy j\u00f3val kev\u00e9sb\u00e9 lesz \u201egondolkod\u00f3\u201d modell, mint a t\u00f6bbi \u2013 ez pedig agg\u00e1lyokat vet fel a m\u0171k\u00f6d\u00e9s\u00e9nek ellen\u0151rz\u00e9s\u00e9vel kapcsolatban.<\/p>\n <\/p>\n https:\/\/hvg.hu\/tudomany\/20260903_egyesult-allamok-new-york-altalanos-iskola-mesterseges-intelligencia-tilalom<\/p>\n A legt\u00f6bb jelenlegi AI-modell egy olyan technol\u00f3gia k\u00f6r\u00e9 \u00e9p\u00fcl, amely bizonyos t\u00edpus\u00fa inform\u00e1ci\u00f3kat line\u00e1risan, r\u00e9tegeken kereszt\u00fcl dolgoz fel v\u00e1laszad\u00e1s el\u0151tt. Ak\u00e1r \u00fagy is be lehet \u00e1ll\u00edtani \u0151ket, hogy bemutass\u00e1k, hogyan jutottak a l\u00e1tott eredm\u00e9nyre \u2013 amolyan hangos gondolkod\u00e1ssal.<\/p>\n Ez lehet\u0151v\u00e9 teszi a kutat\u00f3k \u00e9s az automatiz\u00e1lt biztons\u00e1gi rendszerek sz\u00e1m\u00e1ra, hogy nyomon k\u00f6vess\u00e9k az AI-rendszerek tev\u00e9kenys\u00e9g\u00e9t, \u00e9s m\u00e9g azel\u0151tt felismerj\u00e9k a probl\u00e9m\u00e1s viselked\u00e9sform\u00e1kat, hogy bajt csin\u00e1ln\u00e1nak.<\/p>\n Nos, az Astra nem ilyen. Egy neve elhallgat\u00e1s\u00e1t k\u00e9r\u0151 bels\u0151 inform\u00e1tor arr\u00f3l besz\u00e9lt a The Informationnek, hogy ez a modell egy \u00e1tl\u00e1thatatlanabb technik\u00e1t alkalmaz, amely az inform\u00e1ci\u00f3t annak kiad\u00e1sa el\u0151tt m\u00e9g \u201emegforgatja\u201d a bels\u0151 r\u00e9tegek k\u00f6z\u00f6tt.<\/p>\n \u00cdgy a gondolkod\u00e1si folyamat j\u00f3val nagyobb r\u00e9sze zajlik a rendszeren bel\u00fcl, r\u00e1ad\u00e1sul olyan form\u00e1ban, amely sokkal kev\u00e9sb\u00e9 hasonl\u00edt az emberi nyelvre. Ez \u00f6sszess\u00e9g\u00e9ben jav\u00edthatja a modell teljes\u00edtm\u00e9ny\u00e9t, ugyanakkor megnehez\u00edti a potenci\u00e1lis fenyeget\u00e9sek \u00e9s a nemk\u00edv\u00e1natos viselked\u00e9sek \u00e9szlel\u00e9s\u00e9t is.<\/p>\n Az OpenAI korl\u00e1tozta az Astra egyedi technik\u00e1j\u00e1nak alkalmaz\u00e1s\u00e1t, hogy a kutat\u00f3k tov\u00e1bbra is szemmel tudj\u00e1k tartani a modell \u00e9rvel\u00e9s\u00e9t \u2013 mondta el a n\u00e9vtelen forr\u00e1s.<\/p>\n <\/p>\n https:\/\/hvg.hu\/tudomany\/20260831_google-openai-nyilt-level-mesterseges-intelligencia-veszelyek-kiberbiztonsag<\/p>\n A c\u00e9g a halaszt\u00e1sr\u00f3l sz\u00f3l\u00f3 blogbejegyz\u00e9s\u00e9ben csup\u00e1n arr\u00f3l ejtett sz\u00f3t, hogy extra v\u00e9delmi int\u00e9zked\u00e9seket \u00e9p\u00edtenek az Astr\u00e1ba \u2013 arra nem t\u00e9rnek ki, hogy a modell \u00faj technol\u00f3giai alapokra \u00e9p\u00fcl.<\/p>\n A The Information jelent\u00e9se aggodalmat keltett az AI-biztons\u00e1gi kutat\u00f3k k\u00f6r\u00e9ben \u2013 jegyzi meg a The Verge. Ryan Greenblatt, a Redwood Research vezet\u0151 kutat\u00f3ja \u00fagy v\u00e9li, egy \u00e1tl\u00e1thatatlanabb architekt\u00fara haszn\u00e1lata az eddigi legrosszabb fejlem\u00e9ny lehet az AI-fejleszt\u00e9s ter\u00e9n.<\/p>\n Greenblatt tagja volt a Hugging Face-t\u00e1mad\u00e1st vizsg\u00e1l\u00f3, h\u00e1romf\u0151s k\u00fcls\u0151 szakembercsapatnak is. Ez a vizsg\u00e1lat szavai szerint nagyban t\u00e1maszkodott a modellek gondolati l\u00e1nc\u00e1ra \u2013 a kev\u00e9sb\u00e9 k\u00f6vethet\u0151 \u00e9rvel\u00e9s lehet\u0151v\u00e9 teheti az AI-rendszerek sz\u00e1m\u00e1ra, hogy olyan strat\u00e9gi\u00e1kat dolgozzanak ki \u00e9s hajtsanak v\u00e9gre, amelyeket a kutat\u00f3k csak sokkal nehezebben ismerhetn\u00e9nek fel.<\/p>\n A szakember \u2013 sok m\u00e1s<\/a> t\u00e1rs\u00e1hoz<\/a> hasonl\u00f3an \u2013 att\u00f3l tart, hogy a fejlettebb AI-rendszerek fejleszt\u00e9s\u00e9\u00e9rt zajl\u00f3 versenyben olyan architekt\u00far\u00e1k k\u00e9sz\u00edt\u00e9se ker\u00fclhet a f\u00f3kuszba, amelyek katasztrof\u00e1lisak lehetnek az AI fel\u00fcgyelet\u00e9re n\u00e9zve.<\/p>\n