Ned\u00e1vn\u00e9 sv\u00e9voln\u00e9 kybernetick\u00e9 \u00fatoky p\u0159edn\u00edch americk\u00fdch model\u016f um\u011bl\u00e9 inteligence (AI) vyd\u011bsily cel\u00fd sv\u011bt v\u010detn\u011b samotn\u00fdch v\u00fdvoj\u00e1\u0159\u016f, kte\u0159\u00ed nyn\u00ed volaj\u00ed po bezpe\u010dnostn\u00edch pojistk\u00e1ch a p\u0159\u00edsn\u011bj\u0161\u00ed regulaci. Podle kritik\u016f se t\u00edm v\u0161ak pouze br\u00e1n\u00ed rostouc\u00ed konkurenci v r\u00e1mci Silicon Valley, a p\u0159edev\u0161\u00edm ze strany levn\u011bj\u0161\u00edch a \u010d\u00edm d\u00e1l lep\u0161\u00edch \u010d\u00ednsk\u00fdch alternativ.<\/p>\n
D\u0159\u00edv\u011bj\u0161\u00ed teoretick\u00e9 obavy, \u017ee by AI mohla nahradit lidskou pr\u00e1ci, b\u00fdt zneu\u017eita, nebo se dokonce mohla zcela vymknout kontrole, nabyly v posledn\u00edch t\u00fddnech konkr\u00e9tn\u011bj\u0161\u00edch obrys\u016f. Takzvan\u00fdm autonomn\u00edm agent\u016fm firem OpenAI, Anthropic a Meta se b\u011bhem testov\u00e1n\u00ed v offline re\u017eimu poda\u0159ilo uniknout na internet a tam se vl\u00e1mat do syst\u00e9m\u016f jin\u00fdch organizac\u00ed. V p\u0159\u00edpad\u011b OpenAI se boty na husarsk\u00fd kousek hodn\u00fd nejlep\u0161\u00edch hacker\u016f n\u011bkolik t\u00fddn\u016f systematicky p\u0159ipravovaly a domlouvaly za z\u00e1dy sv\u00fdch tv\u016frc\u016f.<\/p>\n
Tyto rychle rostouc\u00ed a potenci\u00e1ln\u011b nebezpe\u010dn\u00e9 schopnosti nav\u00edc p\u0159ich\u00e1zej\u00ed v dob\u011b, kdy AI za\u010d\u00edn\u00e1 samu sebe zdokonalovat a programovat sv\u00e9 pokro\u010dilej\u0161\u00ed verze. Podle n\u011bkter\u00fdch p\u0159edpov\u011bd\u00ed technologie b\u011bhem n\u011bkolika let dosp\u011bje do stadia takzvan\u00e9 obecn\u00e9 um\u011bl\u00e9 inteligence (artificial general intelligence neboli AGI), jej\u00ed\u017e schopnosti budou v t\u00e9m\u011b\u0159 v\u0161ech oblastech stejn\u00e9 jako u lid\u00ed nebo \u2013 v p\u0159\u00edpad\u011b takzvan\u00e9 superinteligence \u2013 je\u0161t\u011b vy\u0161\u0161\u00ed.<\/p>\n
A pr\u00e1v\u011b na tato rizika reaguje otev\u0159en\u00fd dopis americk\u00e9 vl\u00e1d\u011b, kter\u00fd na konci \u010dervence podepsalo t\u00e9m\u011b\u0159 1400 zam\u011bstnanc\u016f odv\u011btv\u00ed v\u010detn\u011b \u0161\u00e9fa Anthropicu Daria Amodeie. V textu nazvan\u00e9m \u201ePacing the Frontier\u201c<\/a> volaj\u00ed po mezin\u00e1rodn\u00ed dohod\u011b, je\u017e by v\u00fdvoj zpomalila a dala lidem \u010das zav\u00e1d\u011bt nov\u00e1 pravidla a syst\u00e9m dohledu. Kv\u016fli rostouc\u00ed konkurenci a geopolitick\u00e9 rivalit\u011b si v\u0161ak podle autor\u016f v\u00fdzvy \u017e\u00e1dn\u00e1 zem\u011b \u010di firma nem\u016f\u017ee dovolit tento krok ud\u011blat sama.<\/p>\n \u201eAI by mohla pomoci vytvo\u0159it dramaticky lep\u0161\u00ed budoucnost, ale tento v\u00fdsledek nen\u00ed zaru\u010den,\u201c stoj\u00ed v dopise. \u201eExistuje re\u00e1ln\u00e9 riziko, \u017ee rozvoj schopnost\u00ed v\u00fdrazn\u011b p\u0159ekro\u010d\u00ed na\u0161i schopnost porozum\u011bt v\u00fdsledn\u00fdm syst\u00e9m\u016fm nebo je ovl\u00e1dat.\u201c<\/p>\n Vznik mezin\u00e1rodn\u00ed dohody, kter\u00e1 by p\u0159edn\u00edm laborato\u0159\u00edm umo\u017enila zpomalit nebo do\u010dasn\u011b pozastavit v\u00fdvoj nejpokro\u010dilej\u0161\u00edch AI model\u016f, navrhuje<\/a> tak\u00e9 samotn\u00fd Anthropic. \u0160\u00e9f v\u00fdvoj\u00e1\u0159e Google DeepMind Demis Hassabis zase minul\u00fd m\u011bs\u00edc navrhl vytvo\u0159it org\u00e1n financovan\u00fd samotn\u00fdm odv\u011btv\u00edm po vzoru americk\u00e9ho \u00da\u0159adu pro regulaci finan\u010dn\u00edho sektoru (FINRA). Ten by nejpokro\u010dilej\u0161\u00ed modely testoval a dohl\u00ed\u017eel na jejich bezpe\u010dn\u00e9 uv\u00e1d\u011bn\u00ed na trh.<\/p>\n \u201eTo, jak budeme v\u0161ichni postupovat te\u010f, ovlivn\u00ed dal\u0161\u00ed f\u00e1zi na\u0161\u00ed civilizace,\u201c napsal Hassabis na s\u00edti X<\/a>. \u201ePokud zajist\u00edme bezpe\u010dn\u00fd p\u0159\u00edchod AGI do sv\u011bta, m\u016f\u017eeme vstoupit do nov\u00e9ho zlat\u00e9ho v\u011bku v\u011bdeck\u00fdch objev\u016f a pokroku a otev\u0159\u00edt cestu k z\u00e1\u0159iv\u00e9 budoucnosti, v n\u00ed\u017e bude lidstvo nev\u00eddan\u00fdm zp\u016fsobem vzkv\u00e9tat.\u201c<\/p>\n Kritici t\u011bchto iniciativ ov\u0161em tvrd\u00ed<\/a>, \u017ee se jedn\u00e1 pouze o ok\u00e1zal\u00e9 divadlo a skute\u010dn\u00fdm c\u00edlem p\u0159edn\u00edch v\u00fdvoj\u00e1\u0159\u016f je regulaci ovliv\u0148ovat a t\u00edm omezit zdravou konkurenci. Tento pohled zast\u00e1v\u00e1 rovn\u011b\u017e investor a hlavn\u00ed poradce americk\u00e9ho prezidenta Donalda Trumpa pro toto odv\u011btv\u00ed David Sacks. Upozor\u0148uje, \u017ee Anthropic a OpenAI o sv\u00fdch obav\u00e1ch o bezpe\u010dnost a n\u00e1vrz\u00edch na pomalej\u0161\u00ed postup neinformuj\u00ed potenci\u00e1ln\u00ed akcion\u00e1\u0159e v dokumentech spojen\u00fdch s jejich pl\u00e1novan\u00fdm vstupem na burzu.<\/p>\n \u010c\u00edna doh\u00e1n\u00ed Ameriku<\/p>\n Sacks se nav\u00edc ob\u00e1v\u00e1, \u017ee p\u0159\u00edli\u0161n\u00e1 americk\u00e1 regulace by mohla p\u0159edat v\u00fdhodu v technologick\u00fdch z\u00e1vodech \u010c\u00edn\u011b, co\u017e by m\u011blo nedoz\u00edrn\u00e9 hospod\u00e1\u0159sk\u00e9 a geopolitick\u00e9 d\u016fsledky. Za \u201eznepokojiv\u00e9\u201c v \u010dervenci ozna\u010dil zpr\u00e1vy, podle nich\u017e \u010d\u00ednsk\u00e9 firmy jako Alibaba a Moonshot se sv\u00fdmi v\u00fdrazn\u011b levn\u011bj\u0161\u00edmi modely typu Qwen 3.8 Max a Kimi K3 rychle dotahuj\u00ed n\u00e1skok americk\u00fdch v\u00fdvoj\u00e1\u0159\u016f.<\/p>\n \u201eAmerika si p\u0159itom sama h\u00e1z\u00ed klacky pod nohy: politici a \u00fa\u0159edn\u00edci zakazuj\u00ed nov\u00e1 datov\u00e1 centra, vr\u0161\u00ed na sebe st\u00e1tn\u00ed regulace a prosazuj\u00ed vznik nov\u00fdch feder\u00e1ln\u00edch \u00fa\u0159ad\u016f, je\u017e by musely p\u0159edem schvalovat \u0161pi\u010dkov\u00e9 modely AI,\u201c napsal Sacks na s\u00edti X<\/a>. \u201eTakhle se prohr\u00e1v\u00e1 z\u00e1vod o AI. Pokud se sami zbyte\u010dn\u011b zbrzd\u00edme, zbytek sv\u011bta nebude hr\u00e1t podle na\u0161ich pravidel.\u201c<\/p>\n V\u00fdrazn\u011b m\u00edrn\u011bj\u0161\u00ed pravidla prosazuje tak\u00e9 \u0161\u00e9f spole\u010dnosti Meta Mark Zuckerberg. Ve sv\u00e9m ned\u00e1vno vydan\u00e9m manifestu<\/a> \u201eThe Future is for Everyone\u201c varuje p\u0159ed p\u0159\u00edli\u0161nou koncentrac\u00ed nejpokro\u010dilej\u0161\u00edch AI model\u016f v rukou n\u011bkolika firem nebo instituc\u00ed. M\u00edsto zpomalov\u00e1n\u00ed v\u00fdvoje prosazuje co nej\u0161ir\u0161\u00ed dostupnost pokro\u010dil\u00fdch AI syst\u00e9m\u016f a tvrd\u00ed, \u017ee jejich bezpe\u010dnost lze zajistit vyva\u017eov\u00e1n\u00edm moci mezi jednotliv\u00fdmi hr\u00e1\u010di sp\u00ed\u0161e ne\u017e omezov\u00e1n\u00edm jejich schopnost\u00ed.<\/p>\n Meta coby majitel Facebooku, Instagramu a WhatsAppu je ve v\u00fdvoji vlastn\u00ed AI pozadu a te\u010f se sna\u017e\u00ed n\u00e1skok Anthropicu a OpenAI dohnat ob\u0159\u00edmi investicemi, jejich\u017e n\u00e1vratnost je nejist\u00e1 \u2013 mimo jin\u00e9 kv\u016fli mo\u017en\u00e9 nov\u00e9 regulaci odv\u011btv\u00ed. Varov\u00e1n\u00ed p\u0159ed riziky technologie Zuckerberg podobn\u011b jako Sacks pova\u017euje za p\u0159ehnan\u00e1 a podot\u00fdk\u00e1, \u017ee kdyby vedouc\u00ed v\u00fdvoj\u00e1\u0159i sv\u00fdm katastrofick\u00fdm sc\u00e9n\u00e1\u0159\u016fm skute\u010dn\u011b v\u011b\u0159ili, prost\u011b by se z\u00e1vodu v AI ne\u00fa\u010dastnili.<\/p>\n \u201eKl\u00ed\u010dov\u00e9 ot\u00e1zky na\u0161\u00ed doby zn\u011bj\u00ed: Kdo bude m\u00edt p\u0159\u00edstup k superinteligenci a k \u010demu ji budeme pou\u017e\u00edvat?\u201c p\u00ed\u0161e v eseji. \u201eBude centralizovan\u00e1 a omezen\u00e1 na n\u011bkolik m\u00e1lo instituc\u00ed, nebo se stane n\u00e1strojem, kter\u00fd pos\u00edl\u00ed postaven\u00ed v\u0161ech?\u201c<\/p>\n Minim\u00e1ln\u00ed regulaci doned\u00e1vna prosazoval i s\u00e1m Trump a jeho administrativa. Po v\u00fd\u0161e zm\u00edn\u011bn\u00fdch \u00fatoc\u00edch testovan\u00fdch model\u016f v\u0161ak prezident prohl\u00e1sil<\/a>, \u017ee zv\u00e1\u017e\u00ed p\u0159\u00edsn\u011bj\u0161\u00ed dohled nad odv\u011btv\u00edm, z\u00e1rove\u0148 v\u0161ak nechce americk\u00e9 v\u00fdvoj\u00e1\u0159e p\u0159\u00edli\u0161 znev\u00fdhodnit oproti \u010d\u00ednsk\u00fdm konkurent\u016fm. Minul\u00fd t\u00fdden podle webu Axios z\u00e1stupci B\u00edl\u00e9ho domu nejv\u011bt\u0161\u00edm dom\u00e1c\u00edm AI firm\u00e1m p\u0159edstavili<\/a> n\u00e1vrh, podle n\u011bj\u017e by v\u00fdvoj\u00e1\u0159i mohli dobrovoln\u011b feder\u00e1ln\u00edm bezpe\u010dnostn\u00edm expert\u016fm poskytnout p\u0159\u00edstup k nejpokro\u010dilej\u0161\u00edm model\u016fm 30 dn\u00ed p\u0159ed komer\u010dn\u00edm spu\u0161t\u011bn\u00edm.<\/p>\n Jako jadern\u00e9 zbran\u011b?<\/p>\n Takov\u00fd syst\u00e9m kontroly je ov\u0161em podle v\u011bt\u0161iny odborn\u00edk\u016f nedostate\u010dn\u00fd. \u00da\u010dinn\u00e1 regulace bude vy\u017eadovat mezin\u00e1rodn\u00ed spolupr\u00e1ci, proto\u017ee \u010d\u00ednsk\u00e9 open-source AI modely<\/a> sv\u00fdmi schopnostmi americkou konkurenci rychle doh\u00e1n\u011bj\u00ed \u2013 a \u010d\u00edm d\u00e1l v\u00edce firemn\u00edch u\u017eivatel\u016f k nim p\u0159ech\u00e1z\u00ed kv\u016fli \u00faspo\u0159e n\u00e1klad\u016f. Tak\u00e9 proto OpenAI a Anthropic \u2013 na rozd\u00edl od v\u00fdrobc\u016f \u010dip\u016f a v\u011bt\u0161iny dal\u0161\u00edch velk\u00fdch firem v Silicon Valley \u2013 zd\u016fraz\u0148uj\u00ed bezpe\u010dnostn\u00ed rizika spojen\u00e1 s \u010d\u00ednskou konkurenc\u00ed a tla\u010d\u00ed na jej\u00ed z\u00e1kaz \u010di omezen\u00ed.<\/p>\n Ob\u011b velmoci by o ot\u00e1zk\u00e1ch bezpe\u010dnosti AI m\u011bly jednat b\u011bhem z\u00e1\u0159ijov\u00e9 n\u00e1v\u0161t\u011bvy \u010d\u00ednsk\u00e9ho prezidenta Si \u0164in-pchinga ve Washingtonu. Optimist\u00e9 doufaj\u00ed, \u017ee se v tomto oboru poda\u0159\u00ed dohodnout spole\u010dn\u00fd postup \u2013 podobn\u011b jako kdy\u017e b\u011bhem studen\u00e9 v\u00e1lky Spojen\u00e9 st\u00e1ty a Sov\u011btsk\u00fd svaz p\u0159es vz\u00e1jemn\u00e9 soupe\u0159en\u00ed spolupracovaly na omezov\u00e1n\u00ed jadern\u00e9ho zbrojen\u00ed a s n\u00edm spojen\u00fdch rizik.<\/p>\n