Celé Silicon Valley mluví o etice a bezpečnosti AI. A pak je tu realita. Anthropic, údajný etický maják, má být na černé listině Pentagonu, ale jeho inženýři si podle všeho dávají kafe v kantýně NSA a pomáhají jim rozjet AI pro kybernetické operace. Tady něco smrdí.
Vypadalo to jako jasný příběh. Hodný Anthropic, co dbá na bezpečnost, versus zlý Pentagon, co chce autonomní zbraně. Firma odmítla, takže ji ministerstvo obrany označilo za „riziko v dodavatelském řetězci“. Zní to hezky, že? Čistý štít.
Jenže teď se ukazuje, že tenhle příběh má poněkud temnější pokračování. Podle několika reportů totiž inženýři z Anthropicu nejsou na hanbě, ale sedí přímo v centrále NSA. Jejich úkol? Pomáhat implementovat model jménem Mythos. Ne, to není další chatbot na psaní básniček. Je to nástroj navržený pro kybernetické operace.
Celý ten koncept „černé listiny“ je od začátku směšný. Takže si to shrňme. Pentagon se urazí, protože mu nedáte hračky na zabíjení, a tak vás oficiálně hodí přes palubu. Ale jiná, mnohem tajnůstkářštější vládní agentura, vás zadními vrátky pozve dál, protože vaše technologie se jim hodí na něco, čemu eufemisticky říkají „ofenzivní kybernetické operace“.
Najednou je to v pohodě? Najednou to není problém?
Je to klasická ukázka politického divadla. Jedna ruka vás plácá přes prsty, druhá vám pod stolem cpe peníze a přístup k nejcitlivějším systémům. Anthropic si může dál držet marketingovou fasádu firmy, která řekla „ne“ armádě, zatímco v tichosti spolupracuje s rozvědkou. Geniální.
Samozřejmě, všichni zúčastnění se budou ohánět pojmem „dual-use“. Ano, Mythos umí hledat zranitelnosti v systémech, což je technicky vzato obranná schopnost. Můžete s ním posílit vlastní sítě. Super.
Jenže ten samý nástroj, který díru najde, ji obvykle umí i zneužít. A jsme u toho. Hranice mezi obranou a útokem v kyberprostoru je tenčí než vlas. Všichni to vědí. Anthropic to věděl taky, proto prý původně omezil přístup k Mythosu jen na pár vyvolených organizací.
Teď je ale jedním z těch vyvolených NSA. Agentura, jejíž samotná existence je postavena na prolomení cizích systémů. Tvrdit, že jim jde jen o záplatování vlastních děr, je buď naivní, nebo je to prostě lež. Všichni v Silicon Valley milují slovo „dual-use“. Zní to tak dospěle, tak zodpovědně. V reálu je to jenom PR zkratka pro „doufáme, že to nikdo nepoužije na páchání zvěrstev, ale smlouva s vládou je smlouva s vládou“.
Nejde o to, že NSA používá AI. To bylo nevyhnutelné. Jde o tu naprostou prázdnotu etických deklarací, se kterými se velké AI firmy tak rády chlubí. Jejich „principy“ jsou pevné jako skála, dokud se na stole neobjeví dostatečně velký šek od zpravodajské komunity.
Příště, až vám nějaký CEO v roláku bude vyprávět o tom, jak buduje bezpečnou a etickou umělou inteligenci pro blaho lidstva, vzpomeňte si na Mythos. A na ty inženýry, co teď ladí kód v jedné z nejstřeženějších budov světa. Protože přesně takhle vypadá etika v praxi.