Google chce paměť vašeho chatbota. Je to jen glorifikovaný copy-paste?

Takže. Google přichází s funkcí „Import Memory“ a „Import Chat History“. Cílem je usnadnit přechod od konkurence, typicky od Anthropicu nebo OpenAI. Uživatel v podstatě vyexportuje své staré konverzace a nacpe je do Gemini.

První věc, kterou si musíme ujasnit: AI nemá „paměť“ v lidském slova smyslu. To, čemu říkáme paměť, je ve světě LLM jen masivní kontextové okno naplněné textem. Nic víc.

Celý proces je až bolestně přímočarý. Pro import „paměti“ vám Gemini navrhne prompt, který vložíte do svého starého chatbota. Jeho výstup pak zkopírujete zpět do Gemini. Hotovo. Je to jako stěhovat byt tak, že si všechno nafotíte a pak se snažíte věci rozmístit podle fotek.

Import historie chatu je podobný. Vyžádáte si export, nahrajete soubor. Gemini si to schroustá. Nejde o žádnou hlubokou integraci na úrovni API. Je to prostě uživatelsky přívětivější způsob, jak modelu podstrčit obrovský textový soubor s vašimi předchozími interakcemi.

Technicky to znamená, že model musí tenhle balast z minulosti neustále nosit s sebou. Každý nový dotaz potenciálně znamená znovu zpracovávat celý ten importovaný kontext. To má přímý dopad na latenci a náklady na inferenci. A samozřejmě narážíme na limity kontextového okna samotného modelu.

Architektonicky je to jen berlička. Skutečné řešení by vyžadovalo standardizovaný formát pro přenos stavu a preferencí mezi modely, což je v současném konkurenčním prostředí čistá utopie. Každý si hlídá svůj píseček.

Ve výsledku je to jen chytrý marketingový tah, jak snížit bariéru pro přechod. Google vám nedává skutečnou kontinuitu, jen nástroj na hromadné zkopírování poznámek. A doufá, že lenost zvítězí a vy zůstanete. Technicky? Nuda. Pragmaticky? Možná to bude fungovat.