Američané při únosu Madura použili nástroj AI Claude. Viní je z porušení pravidel

Pentagon při lednovém útoku na Venezuelu a únosu jejího prezidenta Nicoláse Madura použil nástroj umělé inteligence (AI) Claude společnosti Anthropic. Spojené státy při vojenském zásahu bombardovaly několik míst ve Venezuele a podle Caracasu zabily na 100 lidí.

Pravidla firmy Anthropic pro používání nástroje Claude přitom zakazují jeho používání k násilí, vývoji zbraní či sledování. Píší o tom list The Wall Street Journal (WSJ) a web Axios s odvoláním na své zdroje.

Poté, co Anthropic vyjádřil znepokojení ohledně toho, jak Pentagon využívá jeho nástroj AI, členové administrativy prezidenta Trumpa zvažují, že s firmou přeruší spolupráci, uvedla obě média. "Anthropic se zeptal, jestli byl jeho software použit při razii k zajetí Madura, což způsobilo skutečné napětí napříč ministerstvem války, jelikož to naznačovalo, že by s tím nemusel souhlasit," sdělil Axiosu americký představitel, přičemž nazval ministerstvo obrany jeho neoficiálním názvem, který používá Trumpova administrativa. "Musíme přehodnotit naši spolupráci s jakoukoliv společností, která by ohrozila úspěch operací našich vojáků v terénu," dodal zdroj.

Pentagon ve Venezuele použil Claude v rámci partnerství Anthropicu se společností Palantir Technologies, jejíž nástroje ministerstvo obrany a federální bezpečnostní složky běžně používají, uvedly zdroje WSJ. Anthropic zároveň loni v létě získal smlouvu s ministerstvem obrany v hodnotě 200 milionů dolarů (4,1 miliardy Kč). Někteří členové administrativy podle WSJ v poslední době zvažují její zrušení.

Claude je podle WSJ první model AI, který Pentagon použil při utajované operaci. Modely AI dokáží zpracovávat data v reálném čase, což je schopnost, které si Pentagon cení vzhledem k chaotickému prostředí, ve kterém se vojenské operace konají. Není jasné, jakou roli Claude při únosu Madura hrál, píše Axios. Americká armáda nástroj v minulosti použila k analýze satelitních snímků či informací zpravodajských služeb. Ve Venezuele nástroj použila během samotné operace, ne pouze v její přípravné fázi, uvedly zdroje webu.

"Nemůžeme se vyjádřit k tomu, zda byl Claude nebo jakýkoliv jiný model AI použit pro specifickou utajovanou nebo neutajovanou operaci. Jakékoliv použití Claudea, ať už v soukromém sektoru nebo napříč vládou, musí být v souladu s našimi zásadami používání," uvedl podle Axious mluvčí Anthropicu.

Anthropic je jednou z několika velkých technologických společností, které vytvářejí modely AI a spolupracují s Pentagonem. OpenAI, Google a xAI uzavřely dohody s vojenskými uživateli, kteří mají přístup k jejich modelům AI bez bezpečnostních pravidel platných pro běžné uživatele. Podle Axiosu není zřejmé, zda některý z těchto modelů armáda pro operaci ve Venezuele rovněž použila. Tyto tři společnosti nyní s Pentagonem jednají o povolení k nasazení modelů AI do utajovaných systémů. Pentagon a Anthropic rovněž vedou rozhovory o možném uvolnění omezení vztahujících se na používání nástroje Claude.