Amazon, jeden z největších investorů do AI firmy Anthropic, údajně stojí za vládním zákazem jejich nejnovějších modelů. Jejich CEO prý osobně donesl do Bílého domu report o bezpečnostní díře. Tohle nevymyslíš.
Tak si to shrňme. Amazon, který do Anthropic nasypal miliardy, pošle své lidi, aby si hráli s jejich novým modelem Fable 5. Těm se podaří z modelu vymámit pár instrukcí, které by se teoreticky daly zneužít pro kyberútok. A co udělá CEO Amazonu Andy Jassy? Místo aby zavolal šéfovi Anthropic, vezme to rovnou do Bílého domu. Výsledek? Anthropic musí s okamžitou platností zaříznout přístup ke svým klíčovým modelům pro kohokoliv mimo USA. Au.
Oficiálně je to samozřejmě o národní bezpečnosti. Vždyť jde o to, aby se nebezpečné AI nástroje nedostaly do špatných rukou. Ale já si nemůžu pomoct, něco mi na tom smrdí. Amazon není jen investor. Amazon je taky brutální konkurent. Přes AWS hostuje většinu AI startupů a zároveň vyvíjí vlastní modely Titan, které přímo soupeří s Claude od Anthropic.
Najednou jejich „výzkum“ odhalí zranitelnost u největšího rivala, ve kterém mají shodou okolností podíl. Jaká náhoda. Přijde mi to jako situace, kdy si koupíte podíl v sousedově pizzerii a pak na něj zavoláte hygienu, protože jste v jedné z tisíce pizz našli vlas. A mezitím za rohem otvíráte vlastní, zaručeně „čistší“ bistro.
Nebuďme naivní. Tohle je partička korporátního pokeru na nejvyšší úrovni. Amazon tímhle tahem získal hned několik věcí najednou.
Zaprvé, zpomalil Anthropic. Regulace a zákazy jsou pro byznys peklo. Ztráta zákazníků, reputační škoda, právní tahanice. Zadruhé, pozicoval sám sebe jako toho zodpovědného hráče v místnosti. „My, na rozdíl od ostatních, bereme bezpečnost vážně.“ Jasně. A zatřetí, a to je možná nejdůležitější, poslal vzkaz celému trhu: my máme přímou linku do Bílého domu a nebojíme se ji použít.
Celá ta věc s „jailbreakem“ je navíc směšně vágní. Anthropic se brání, že šlo o minoritní zranitelnost a že vláda jim ani nedala konkrétní důkazy. Ale to je teď jedno. Škoda byla napáchána. Amazon zahrál riskantní, ale z jeho pohledu zřejmě geniální hru. Pro zbytek AI světa je to ale ledová sprcha. Ukazuje se, že tvůj největší spojenec může být zároveň tvůj největší hrobník. Prostě byznys.