Použití AI nástroje Claude americkou armádou už přitom není teoretickou otázkou. Americká média před časem informovala, že byl použit mimo jiné při lednové akci, která vedla k únosu a zatčení venezuelského diktátora Nicoláse Madura. Právě znepokojení Anthropicu tímto zjištěním vedlo k dalšímu jednání firmy s Pentagonem, který požadoval volné ruce k používání tohoto nástroje, napsaly již dříve web Axios a list The Wall Street Journal.
„Hrozby nemění náš postoj: s čistým svědomím nemůžeme jejich žádosti vyhovět,“ napsal už ve čtvrtek Amodei na svém blogu s tím, že Pentagon firmě paradoxně hrozí dvěma protichůdnými scénáři – že společnost kvůli bezpečnostnímu riziku buď vyškrtne z vládních kontraktů, nebo jí naopak poskytnutí produktů pro americkou armádu nařídí s tím, že jsou kriticky důležité.
Konec kontraktů za 200 milionů dolarů
V pátek americký prezident Donald Trump firmu označil za „bláznivé levičáky“ a skutečně nařídil vládě USA, aby zastavila veškeré používání umělé inteligence od Anthropicu, a zrušila tak federální smlouvy v hodnotě přes 200 milionů dolarů. Ministr obrany Pete Hegseth označil Anthropic za „riziko dodavatelského řetězce pro národní bezpečnost“ – což se u americké společnosti stalo poprvé.
„Vzhledem k tomu, kolik jsme udělali pro národní bezpečnost USA, to působí jako pomsta a velmi nevhodně,“ řekl v neděli v rozhovoru se stanicí CBS Amodei, jehož firma se chce bránit soudně.
Šéf Anthropicu tvrdí, že obecně má za to, že poskytnutí AI technologií armádě je potřebné k obraně USA a demokracie. I to má ale, podle něj, své limity, na jejichž odstranění nyní Pentagon tlačí. Červené linie pro firmy jsou prý stále tytéž.
„Některá použití jsou jednoduše mimo hranice toho, co dnešní technologie dokáží bezpečně a spolehlivě dělat. Dva takové případy použití nikdy nebyly zahrnuty do našich smluv s ministerstvem války a domníváme se, že by neměly být zahrnuty ani nyní,“ píše Amodei. Jako tyto červené čáry přitom jmenuje masové špehování domácí populace a zbraňové systémy s plně autonomním rozhodováním řízeným AI.
„Hromadný dohled založený na umělé inteligenci představuje vážná a nová rizika pro naše základní svobody. Pokud je takový dohled v současnosti legální, je to pouze proto, že zákon dosud nestačí na rychle rostoucí možnosti umělé inteligence,“ argumentuje Amodei. „Výkonná umělá inteligence umožňuje automaticky a ve velkém měřítku sestavit rozptýlená, jednotlivě neškodná data do komplexního obrazu života jakékoli osoby,“ varuje.
Šéf Anthropicu pak připouští, že zbraňové systémy s rozhodovacími procesy plně řízenými AI mohou být v budoucnu prospěšné, ale v současnosti nejsou tyto technologie dostatečně spolehlivé. „Vědomě nebudeme dodávat produkt, který ohrožuje americké vojáky i civilisty. Nabídli jsme přímou spolupráci s ministerstvem války na výzkumu a vývoji s cílem zlepšit spolehlivost těchto systémů, ale tuto nabídku nepřijali,“ podotkl Amodei s tím, že řádná pravidla pro omezení používání plně autonomních zbrojních systémů dnes chybí.
Nic takového nechceme, oponuje ministerstvo
Mluvčí Pentagonu Sean Parnell ještě krátce před zveřejněním Amodeiova příspěvku odmítl, že by Pentagon o tyto věci usiloval. „Ministerstvo války nemá zájem používat umělou inteligenci k hromadnému sledování Američanů (což je nezákonné), ani nechceme používat umělou inteligenci k vývoji autonomních zbraní, které fungují bez lidského zásahu. Tento narativ je falešný a šíří ho levičáci v médiích. Žádáme toto: Umožněte Pentagonu používat model Anthropic pro všechny zákonné účely,“ napsal na síť X, aniž by upřesnil, co tím myslí.
Pentagon má kromě Anthropicu také smlouvy se společnostmi Google, OpenAI a xAI Elona Muska, připomněla AP. Společnost stojící za AI nástrojem Claude je jediná, která se proti tlaku na rozvolnění podmínek používání armádou veřejně ohradila. Firma má přitom ojedinělé postavení.
„Mnoho společností zabývajících se umělou inteligencí vyvíjí specializované nástroje pro armádu Spojených států, přičemž většina z nich je dostupná pouze na neutajovaných sítích, které se obvykle používají pro vojenskou administrativu. Pouze jedna společnost v oblasti AI – Anthropic – je prostřednictvím třetích stran dostupná i v utajovaných systémech, avšak vláda je stále vázána zásadami používání stanovenými touto společností,“ upozornila letos v polovině února agentura Reuters.
