Google posílá Gemini do války. Bez dohledu a na odpojených sítích
Google podepsal dohodu s Pentagonem o nasazení modelu Gemini na utajovaných sítích. Technická realita je ale taková, že na fyzicky odpojené infrastruktuře nelze vynutit žádná etická pravidla. A stovky inženýrů z Googlu to dobře vědí.
Dohoda mezi Googlem a americkým ministerstvem obrany není jen další kontrakt. Je to technický a etický milník. Gemini poběží na takzvaných air-gapped sítích – tedy systémech, které jsou fyzicky, galvanicky oddělené od zbytku internetu.
Co to znamená v praxi? Představte si superpočítač zamčený v trezoru. Můžete do něj vložit data a on vám vrátí výsledek, ale nemáte absolutně žádnou možnost sledovat, jak k němu došel. Google tak ztrácí jakoukoliv schopnost auditovat, k čemu Pentagon jeho model reálně používá.
Proklamace o „omezeních proti autonomním zbraním a sledování“ jsou v tomto kontextu jen prázdná slova. Technická realita je neúprosná: kontrola na odpojeném systému neexistuje. Na to poukazuje i více než 600 zaměstnanců Googlu, kteří proti dohodě protestují.
Je to paradoxní situace. V roce 2018 Google po masivním tlaku inženýrů vycouval z projektu Maven, který se týkal analýzy obrazu z dronů. Firma tehdy zavedla AI principy, které explicitně zakazovaly vývoj zbraňových technologií. Dnes je situace jiná.
Zatímco Anthropic odmítl podobnou spolupráci z principu a Pentagon ho za to označil za „riziko v dodavatelském řetězci“, Google se rozhodl pro pragmatičtější cestu. Pentagon požaduje právo na „všechny legální způsoby užití“, což je bianko šek.
OpenAI má sice podobnou dohodu s vlastními červenými liniemi, ale naráží na stejný fundamentální problém. Jak vynutit pravidla na hardwaru, ke kterému nemáte přístup? Odpověď je jednoduchá. Nijak. Důvěra se stává jediným a dost tenkým bezpečnostním mechanismem.