Role
Interně jsme provozovatel (deployer) cizích modelů: používáme je v kódu, v analýze a v obsahu.
Když dáváme klientovi do provozu chatbota, agenta nebo jiný AI systém, vůči tomu systému jsme často poskytovatel (provider). Povinnosti se odvíjí od role a od konkrétního nasazení.
Označení obsahu na anycoders.cz
Rubrika AI novinky je strojově psaný text. U každého článku je označení „AI generováno“. Člověk ho před zveřejněním nečte.
Na blogu označujeme odznakem „S pomocí AI“ články, u kterých AI pomáhalo s textem a které autor před zveřejněním zkontroloval. To není totéž co AI novinky.
Úvodní obrázky u blogu, služeb, slovníku a technologií, které kreslí AI, označujeme dole na stránce („Obrázek: AI“), ne popiskem pod fotkou.
Chatboti a agenti u klientů
Kdo u vás mluví s chatbotem nebo agentem, při první interakci uvidí, že jde o stroj, pokud to z kontextu není samozřejmé. To patří do produktu.
Zákazy a vysoké riziko
Před spuštěním bereme, jestli nasazení nepadá do zakázaných praktik (článek 5) a jestli nespadá do vysokého rizika (příloha III): nábor a rozhodování o lidech, biometrie, podstatné veřejné nebo soukromé služby. Běžný chatbot nebo vyhledávání v dokumentech tam obvykle nepatří. Screening je součástí zakázky.
Gramotnost týmu
Kdo s modelem pracuje, zná jeho limity: vymýšlí si (halucinace) a zkresluje. Hesla, tokeny ani osobní údaje do něj nepatří. Držíme to jako interní proces podle článku 4.
Klientská data
Na klientských projektech jdou data jen do rozhraní, která nesmí trénovat veřejné modely. Tokeny, hesla, osobní údaje a neveřejný kód do neprověřených nástrojů nepatří. Kde to projekt vyžaduje, běží model u nás nebo u vás.
Odpovědnost
Za dodané řešení ručíme my. AI je nástroj. Kód, který na zakázce vznikne s pomocí AI, prochází code review. Tam, kde chybný výstup modelu může pokazit data nebo provoz, výstup před spuštěním ověřují validátory.
Když řešíte nasazení ve firmě, začněte u AI řešení nebo napište nám.