Autonomní AI agenti slibují revoluci ve vývoji a správě systémů. Nedávné bezpečnostní incidenty ve firmách jako Meta a Amazon ale ukazují, že jejich nasazení bez adekvátních mantinelů představuje značné riziko pro stabilitu i bezpečnost firemních dat.
Nástup AI agentů, kteří dokáží samostatně psát kód, spravovat infrastrukturu nebo interagovat s dalšími systémy, otevírá nové možnosti pro automatizaci. Tato autonomie je však dvousečná zbraň.
Praxe ukazuje, že nekontrolovaná činnost AI může vést ke kritickým chybám. Příkladem je nedávný výpadek služeb Amazonu, údajně spojený s AI nástrojem Kiro. Ten směl provádět změny v kódu bez standardního schválení vývojářem, což je postup u lidí nemyslitelný.
Další incident se odehrál ve společnosti Meta. Interní AI agent při řešení technického problému neúmyslně odhalil citlivá firemní a uživatelská data neautorizovaným zaměstnancům. Únik trval přibližně dvě hodiny a byl řešen jako incident nejvyšší priority.
Nejde jen o interní nástroje. Bezpečnostní experti na konferenci Black Hat demonstrovali, jak lze zneužít i veřejně dostupné agenty v Copilotu nebo Gemini k získání přístupu k soukromým datům na Google Drive nebo k firemním CRM databázím. Stačil k tomu jediný škodlivý e-mail.
Pro české firmy je zpráva jasná: AI agenty nelze vnímat jako běžný software, který stačí nainstalovat a spustit. Jsou to spíše noví, nevyzpytatelní juniorní kolegové, kteří potřebují neustálý dohled. **DevOps a MLOps týmy musí přehodnotit své zavedené postupy** a začít k agentům přistupovat s maximální opatrností, podobně jako k externím dodavatelům. Zásadní je **důsledný sandboxing** – agent musí běžet v plně izolovaném prostředí, oddělený od zbytku infrastruktury. Stejně tak je nutné aplikovat **princip minimálních oprávnění** a nedávat agentovi přístup k systémům, které pro svou práci nezbytně nepotřebuje. U kritických operací, jako je deployment do produkce nebo změny v databázích, musí být zaveden **proces vyžadující lidské schválení**. Cílem není AI blokovat, ale zavést robustní pravidla, která zabrání nákladným chybám a udrží kontrolu v rukou člověka.
Ve vodách digitálního marketingu je to samý žralok – jednou z největších nástrah je lákavá nabídka auditu zdarma. Ať už vás takto osloví někdo se SEO auditem, auditem webu, UX...
CEO & digitální strategie · 1.6.2024
Do CSS míří nová funkce contrast-color(), která slibuje konec ručního ladění barev textu. Prohlížeč automaticky vybere černou nebo bílou variantu tak, aby byl text na...
Nástroje generující uživatelská rozhraní (GenUI) přestávají být sci-fi. Pro firmy to znamená jediné: design systémy postavené na sadě statických komponent přestávají...
Článek shrnuje, co se děje. Pokud řešíte něco podobného u vás, nechte kontakt. Ozveme se s konkrétním postupem.