Názory k článku
Americká vláda zakázala Anthropicu poskytovat Fable 5 a Mythos 5 zahraničním uživatelům

Docela zajímavé, že má vláda USA informace o možném prolomení ochran Fable, když jsem doslova od jednoho chudáka četl, že mu Fable nebylo schopno opravit zranitelnosti v jeho vlastním kódu, s odvoláním na ochrany ohledně kyberbezpečnosti. Zdá se, že si americká vláda cucá informace z prstu.

To je vlastností bezpečnostních chyb, že zatímco drtivé většině lidí se něco nedaří, někdo zná skulinu, jak to obejít. Třeba když někdo zapomene heslo ke svému routeru, ale útočník se do něj dokáže dostat bez hesla, je to přesně ten případ, který vás tak udivuje.

Vláda neuvedla konkrétní důvod, prolomení ochrany je doměnka na straně poskytovatele modelu. Stejně tak za tím může být snaha mít výhodu oproti Číně, kde se uplatnil zákaz vývozu zobží.

Trumpeta se asi msti za to, ze Anthropic nechce spolupracovat na zbranovych systemech. Fable jsem zkousel vcera a ten pokrok od predchozich modelu mi prisel celkem vyrazny. Skoda ho, snad se brzy vrati.

Nestihl jsem ho ani vyzkoušet, takže vlastně nevím o co jsem přišel. Jenom bych rád aby se tahle informace dostala i k managementu všech firem, které se AI transformují. Takhle snadno můžete přijít i o zbylé modely, nějaký moula řekne, že firma nesmí prodávat a hotovo.

Třiatřicet let, a stále se nepoučili!
Před více než třiceti lety Phil Zimmermann čelil obžalobě z neamerické činnosti, protože jeho PGP používalo 128-bitové šifrování, což bylo vyhodnoceno jako v rukou cizích mocností nebezpečné. Tenkrát se z toho vyzul publikováním kódu ve formě knihy a odvoláním se na první dodatek americké ústavy.
Přestože AI/LLM není tak jednoduše publikovatelné, docela by mne zajímalo, kdo - pokud si to US goverment nerozmyslí - první přijde s podobným postupem, jak dostat zakázaný model k zahraničním zákazníkům (kterých je určitě víc, než těch amerických).
A možná nebude potřeba čekat dlouho: někoho napadne se Mythosu zeptat: Jak zajistit dostupnost technologie, zakázané Neameričanům, pro neamerické klienty?

"někoho napadne se Mythosu zeptat: "Jak zajistit dostupnost technologie, zakázané Neameričanům, pro neamerické klienty?"

vy si říkáte "někdo"?

Už před lety se AI někdo ptal: "jak bezpečně dostat kokain z kolumbie do evropy?" a (nejpozději) od té doby všechny (veřejně dostupné) modely mají vestavěný "system prompt", tedy modifikační prompt, který se automaticky lepí ke každému user promptu a nejde vypnout.

Stále existuje šance, že na to přijde někdo vlastní hlavou, vez AI.
A stále existují cesty, jak se správně zeptat.