Role
Interně jsme podle Aktu o umělé inteligenci zavádějící subjekt (deployer): cizí modely používáme v kódu, v analýze a v obsahu.
Když dáváme klientovi do provozu chatbota, agenta nebo jiný AI systém, vůči tomu systému jsme často poskytovatel (provider). Povinnosti se odvíjejí od role a od konkrétního nasazení.
Označení obsahu na anycoders.cz
Články v rubrice AI novinky píše stroj. U každého je označení „AI generováno“ a člověk je před zveřejněním nečte.
Na blogu označujeme odznakem „S pomocí AI“ články, u kterých AI pomáhala s textem a které autor před zveřejněním zkontroloval. To není totéž co AI novinky.
Úvodní obrázky u blogu, služeb, slovníku a technologií, které kreslí AI, označujeme dole na stránce („Obrázek: AI“), ne popiskem pod fotkou.
Chatboti a agenti u klientů
Kdo u vás mluví s chatbotem nebo agentem, při první interakci uvidí, že jde o stroj, pokud to z kontextu není samozřejmé. S tím počítáme už při návrhu.
Zákazy a vysoké riziko
Před spuštěním ověřujeme, jestli nasazení nepatří mezi zakázané praktiky (článek 5) a jestli nespadá do vysokého rizika (příloha III): nábor a rozhodování o lidech, biometrie, podstatné veřejné nebo soukromé služby. Běžný chatbot nebo vyhledávání v dokumentech tam obvykle nepatří. Tato kontrola je součástí zakázky.
Gramotnost týmu
Kdo s modelem pracuje, zná jeho limity: vymýšlí si (halucinace) a zkresluje. Hesla, tokeny ani osobní údaje do něj nepatří. Máme na to interní pravidla podle článku 4.
Klientská data
Na klientských projektech posíláme data jen do rozhraní, kde se z nich nesmějí trénovat veřejné modely. Tokeny, hesla, osobní údaje a neveřejný kód do neprověřených nástrojů nepatří. Kde to projekt vyžaduje, běží model u nás nebo u vás.
Odpovědnost
Za dodané řešení ručíme my. AI je nástroj. Kód, který na zakázce vznikne s pomocí AI, prochází code review. Tam, kde chybný výstup modelu může pokazit data nebo provoz, výstup před spuštěním ověřují validátory.
Když řešíte nasazení ve firmě, začněte u AI řešení nebo napište nám.