{"id":283467,"date":"2026-10-19T08:38:10","date_gmt":"2026-10-19T08:38:10","guid":{"rendered":"https:\/\/www.europesays.com\/hu\/283467\/"},"modified":"2026-10-19T08:38:10","modified_gmt":"2026-10-19T08:38:10","slug":"index-tech-tudomany-a-matematikusok-rajottek-mikor-kezd-el-hibazni-az-ai","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/hu\/283467\/","title":{"rendered":"Index &#8211; Tech-Tudom\u00e1ny &#8211; A matematikusok r\u00e1j\u00f6ttek, mikor kezd el hib\u00e1zni az AI"},"content":{"rendered":"<p>Egy \u00faj tanulm\u00e1nyban Neil Johnson fizikaprofesszor \u00e9s Frank Yingjie Huo doktorandusz a George Washington Egyetemr\u0151l bemutatja, hogy a chatbot v\u00e1laszainak sorrendje drasztikusan \u00e1talak\u00edthatja a k\u00e9s\u0151bbi reakci\u00f3it, ami rossz v\u00e1laszokhoz vezethet. Persze az is k\u00e9rd\u00e9s, ki a felel\u0151s, ha az AI-\u00fcgyn\u00f6k <a href=\"https:\/\/www.livescience.com\/technology\/artificial-intelligence\/autonomy-always-begins-with-something-a-human-hands-it-whos-responsible-when-an-ai-agent-goes-rogue\" id=\"hyperlink_2a955eddcd5aea7484960f6342a7e5c7\" rel=\"nofollow noopener\" target=\"_blank\">hib\u00e1zik<\/a>? P\u00e9ld\u00e1ul\u00a0ha az OpenAI AI-\u00e1gense behatol egy ausztr\u00e1l, <a href=\"https:\/\/index.hu\/kulfold\/2026\/09\/24\/anthony-albanese-openai-medicare-ausztralia\/\" id=\"hyperlink_3c1489cd62cb7ce2192eead06b19648e\" target=\"_self\" rel=\"nofollow noopener\">korm\u00e1nyzati<\/a> ir\u00e1ny\u00edt\u00e1s\u00fa eg\u00e9szs\u00e9g\u00fcgyi port\u00e1lba \u00e9s jogosulatlan hozz\u00e1f\u00e9r\u00e9st szerez az ott t\u00e1rolt f\u00e1jlokhoz? A c\u00e9g, a fejleszt\u0151 vagy az IT hib\u00e1ja?<\/p>\n<p>Az elm\u00falt \u00e9vek AI-forradalma technol\u00f3giailag leny\u0171g\u00f6z\u0151, de most mintha kezdene kiszabadulni a szellem a palackb\u00f3l, erre figyelmeztetnek a topfejleszt\u0151k \u00e9s tud\u00f3sok is. Kontroll kell, bel\u00e1t\u00e1s, \u00e9s a tudatoss\u00e1g, hogy minden munk\u00e1t, ter\u00fcletet nem engedhet\u00fcnk \u00e1t az AI-nak. A rutinszer\u0171, mechanikus d\u00f6nt\u00e9sek mehetnek, ez az embert am\u00fagy sem el\u00e9g\u00edti ki. Ha hib\u00e1zik az \u201eautosapiens&#8221;, vagyis az \u00e1gens, felhatalmaz\u00e1st kapott, de t\u0151l\u00fcnk.<\/p>\n<p>\u0150 az \u00faj munkat\u00e1rs, de a felel\u0151ss\u00e9g sem h\u00e1r\u00edthat\u00f3 kiz\u00e1r\u00f3lag r\u00e1. Az oszt\u00e1ly\u00e1t terheli, p\u00e9ld\u00e1ul ha a gazdas\u00e1gi r\u00e9szlegen seg\u00edt, akkor a felel\u0151ss\u00e9g \u00e9s fel\u00fcgyelet ez\u00e9 a szekci\u00f3\u00e9. Egy \u00faj kutat\u00e1s a hib\u00e1k kik\u00fcsz\u00f6b\u00f6l\u00e9s\u00e9t \u00e1ll\u00edtotta f\u00f3kuszba, a chatbotok hib\u00e1s p\u00e1rbesz\u00e9deinek, tan\u00e1csainak felg\u00f6ngy\u00f6l\u00edt\u00e9s\u00e9t, megakad\u00e1lyoz\u00e1s\u00e1t.<\/p>\n<p>\u00c1ltal\u00e1ban az\u00e9rt hib\u00e1znak, mert nem emberi m\u00f3don gondolkodnak.<\/p>\n<p>A chatbotok komplik\u00e1lt matematikai \u00e9s statisztikai mint\u00e1kat k\u00f6vetnek.\u00a0Nem \u201e\u00e9rtik\u201d a szavak val\u00f3s jelent\u00e9s\u00e9t, csup\u00e1n megtippelik a k\u00f6vetkez\u0151 legval\u00f3sz\u00edn\u0171bb sz\u00f3t. Ez\u00e9rt is logikus, ha matematikai k\u00e9plettel pr\u00f3b\u00e1lnak k\u00f6vetkeztetni a l\u00e9p\u00e9seire.<\/p>\n<p>                        Nem mindegy, mit, mikor, hogyan<\/p>\n<p>Neil Johnson fizikaprofesszor \u00e9s Frank Yingjie Huo szerint a kontextus lehet a magyar\u00e1zat. K\u00e9plet\u00fck k\u00f6nnyen megj\u00f3solhatja, mikort\u00f3l v\u00e1rhat\u00f3 a baki \u00e9s mi\u00e9rt. Mivel sok borzalmas t\u00f6rt\u00e9net kering a neten arr\u00f3l, hogy a mesters\u00e9ges intelligencia <a href=\"https:\/\/www.bbc.co.uk\/news\/articles\/ce3xgwyywe4o\" id=\"hyperlink_88d27c5d178bc869feb48644f73a583b\" rel=\"nofollow noopener\" target=\"_blank\">\u00f6ngyilkoss\u00e1gra \u00f6szt\u00f6nzi<\/a> a felhaszn\u00e1l\u00f3kat, <a href=\"https:\/\/www.nytimes.com\/2026\/04\/29\/us\/ai-chatbots-biological-weapons.html?eafs_enabled=false\" id=\"hyperlink_5115e29dc00249fc00c97f8bbb5dc0f2\" rel=\"nofollow noopener\" target=\"_blank\">seg\u00edt<\/a> hal\u00e1los fegyverek \u00e9p\u00edt\u00e9s<a href=\"https:\/\/www.nytimes.com\/2026\/04\/29\/us\/ai-chatbots-biological-weapons.html?eafs_enabled=false\" id=\"hyperlink_5115e29dc00249fc00c97f8bbb5dc0f2\" rel=\"nofollow noopener\" target=\"_blank\">\u00e9ben \u00e9s\u00a0<a href=\"https:\/\/www.livescience.com\/technology\/artificial-intelligence\/ai-chatbots-are-turbo-charging-violence-against-women-and-girls-we-urgently-need-to-regulate-them-opinion\" id=\"hyperlink_43da09960895cf372ce9a64a0b8546ee\" rel=\"nofollow noopener\" target=\"_blank\">feler\u0151s\u00edti<\/a> a n\u0151k elleni agresszi\u00f3t, Johnson\u00e9k kutat\u00e1sa fontos a chatbotok megb\u00edzhat\u00f3s\u00e1ga szempontj\u00e1b\u00f3l. Az OpenAI, az Anthropic kutat\u00f3i t\u00f6bbsz\u00f6r is hangs\u00falyozt\u00e1k, nem \u00e9rtik, mi\u00e9rt viselkednek \u00fagy az alkot\u00e1saik, ahogy. De csak olyan biztons\u00e1gi int\u00e9zked\u00e9seket \u00e9p\u00edtettek be, amik Johnson szerint csup\u00e1n halottnak a cs\u00f3k.<\/p>\n<p>Ezek az eszk\u00f6z\u00f6k el\u00e9gtelenek, Hu\u00f3val egy\u00fctt komolyabb v\u00e9delmet kerestek. R\u00e1j\u00f6ttek, hogy nem is a tartalom megv\u00e1ltoztat\u00e1sa a l\u00e9nyeg, hanem a k\u00e9rd\u00e9sek sorrendj\u00e9nek megv\u00e1ltoztat\u00e1sa.<\/p>\n<p>K\u00e9nyes a bels\u0151 egyens\u00faly a j\u00f3 \u00e9s a rossz, a k\u00edv\u00e1natos \u00e9s a nemk\u00edv\u00e1natos k\u00f6z\u00f6tt.<\/p>\n<p>Az OpenAI alapvet\u0151 GPT-2 modellj\u00e9t a vakcin\u00e1kra vonatkoz\u00f3 \u00e9s m\u00e1sok b\u00e1ntalmaz\u00e1s\u00e1val \u00e9s \u00f6nk\u00e1ros\u00edt\u00e1ssal kapcsolatos k\u00e9rd\u00e9sekkel ind\u00edtott\u00e1k el. Amikor a p\u00e1rbesz\u00e9det a \u201eRosszak-e az olt\u00e1sok?\u201d k\u00e9rd\u00e9ssel kezdt\u00e9k, teljesen m\u00e1shogy reag\u00e1lt, mint mikor a diskurzus v\u00e9g\u00e9n tett\u00e9k fel ugyanezt a k\u00e9rd\u00e9st.<\/p>\n<p>Wei Xing a Sheffieldi Egyetem mesters\u00e9gesintelligencia-oktat\u00f3ja nem vett r\u00e9szt a kutat\u00e1sukban, de egyet\u00e9rt azzal, hogy a fel\u00fcgyelet n\u00e9lk\u00fcli offline eszk\u00f6z\u00f6kkel kapcsolatos aggodalmak megalapozottak. Ugyanakkor \u00f3vatoss\u00e1gra intett, mert Johnson\u00e9k csak egy apr\u00f3 r\u00e9szletre f\u00f3kusz\u00e1ltak \u00e9s r\u00e9gi modelleken (GPT-2, EleutherAI Pythia \u00e9s Meta OPT ny\u00edlt forr\u00e1sk\u00f3d\u00fa modelljei) tesztelt\u00e9k, nem pedig ma haszn\u00e1latban l\u00e9v\u0151 MI-asszisztenseken.<\/p>\n<p>Biztos, hogy tov\u00e1bbi tesztel\u00e9sre van sz\u00fcks\u00e9g a leg\u00fajabb modelleken annak meg\u00e1llap\u00edt\u00e1s\u00e1hoz, hogy ennek a mesters\u00e9ges intelligencia korai figyelmeztet\u0151rendszer\u00e9nek van-e m\u00e9g ereje. Egyel\u0151re azonban Johnson \u00e9s Huo kutat\u00e1sa egy fontos t\u00e9nyre h\u00edvta fel a figyelmet: a mesters\u00e9ges intelligencia egy pillant\u00e1s alatt k\u00e9pes nemk\u00edv\u00e1natos viselked\u00e9sre.<\/p>\n<p>(Bor\u00edt\u00f3k\u00e9p: K\u00e9p\u00fcnk illusztr\u00e1ci\u00f3! Fot\u00f3:\u00a0 Nikolas Kokovlis\u00a0 \/ Getty Images)<\/p>\n<p><a href=\"https:\/\/dex.hu\/x.php?id=googlepref_desktop&amp;url=https:\/\/google.com\/preferences\/source?q=https:\/\/index.hu\" class=\"google-pref-banner \" id=\"googlePrefBanner\" rel=\"nofollow noopener\" target=\"_blank\"><\/p>\n<p>    Itt \u00e1ll\u00edtsa be, hogy az Index az els\u0151k k\u00f6z\u00f6tt legyen a Google-tal\u00e1latokban!<\/p>\n<p><\/a><\/p>\n<p>                <a href=\"https:\/\/konyvek.index.hu\/\" target=\"_blank\" rel=\"nofollow noopener\"><br \/>\n                <img decoding=\"async\" src=\"https:\/\/index.hu\/assets\/images\/konyvajanlo\/book_indapress\/book_indapress_logo.svg\" loading=\"lazy\" alt=\"Inda Press Kiad\u00f3\"\/><br \/>\n                <\/a><\/p>\n<p>                <img decoding=\"async\" src=\"https:\/\/www.europesays.com\/hu\/wp-content\/uploads\/2026\/10\/1792399088_239_whatsnext.png\" loading=\"lazy\" alt=\"What's next is now!\"\/><\/p>\n<p>Mi lenne, ha a j\u00f6v\u0151 nem csak t\u00f6rt\u00e9nne veled, hanem te alak\u00edtan\u00e1d? Ez a k\u00f6nyv seg\u00edt felk\u00e9sz\u00fclni, sosem tapasztalt m\u00f3don. Tedd meg az els\u0151 l\u00e9p\u00e9st most.  <\/p>\n<p>                <a class=\"book_index_btn\" href=\"https:\/\/indexadhu.hit.gemius.pl\/hitredir?id=nSCbubuYpDWJZLZs0TssLrbt33Lk5kbipuiZrkg89G3.g7&amp;stparam=vcfjpqgmbf&amp;fastid=lplbwtajxrtlabdtadgtgveqxwlp&amp;nc=0&amp;url=https:\/\/www.indapresskiado.hu\/products\/whats-next-is-now-tervezd-a-jelent\" target=\"_blank\" rel=\"nofollow noopener\">MEGVESZEM<\/a><\/p>\n<p>    <img decoding=\"async\" src=\"https:\/\/www.europesays.com\/hu\/wp-content\/uploads\/2026\/10\/1792399089_715_redot.gif\"\/><\/p>\n<p>    <img decoding=\"async\" src=\"https:\/\/index.hu\/assets\/images\/social-follow\/logo-big.svg\" alt=\"Index.hu logo\"\/><\/p>\n<p>K\u00f6vesse az Indexet Facebookon is!<\/p>\n<p>    <a href=\"https:\/\/facebook.com\/Indexhu\" target=\"_blank\" rel=\"nofollow noopener\"><\/p>\n<p>        K\u00f6vetem!<br \/>\n    <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Egy \u00faj tanulm\u00e1nyban Neil Johnson fizikaprofesszor \u00e9s Frank Yingjie Huo doktorandusz a George Washington Egyetemr\u0151l bemutatja, hogy a&hellip;\n","protected":false},"author":2,"featured_media":283468,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[33],"tags":[282,370,785,38,35,2181,37,44,42,40,43,41,12982,34,357,36,39],"class_list":["post-283467","post","type-post","status-publish","format-standard","has-post-thumbnail","category-hirek","tag-ai","tag-chatbot","tag-chatgpt","tag-focimek","tag-headlines","tag-hiba","tag-hirek","tag-hu","tag-hungarian","tag-hungary","tag-magyar","tag-magyarorszag","tag-matematika","tag-news","tag-tech-tudomany","tag-top-stories","tag-vezeto-hirek"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@hu\/117466674352194633","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/posts\/283467","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/comments?post=283467"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/posts\/283467\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/media\/283468"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/media?parent=283467"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/categories?post=283467"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/hu\/wp-json\/wp\/v2\/tags?post=283467"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}