Na čtvrtý ročník Systeum Knowledge Hub jsme pozvali tři hosty, kteří se na agentní AI dívají z odlišných pozic. Kateřina Lesch řídí AI strategii v mezinárodní lékárenské skupině, Peter Krejzl staví agentické platformy pro enterprise provoz a Sara Polak zkoumá technologické změny jako archeoložka a antropoložka. Každý mluvil o něčem jiném, a přesto se jejich pohledy opakovaně potkávaly v jednom bodě: rozhodující nejsou modely, ale lidé, pravidla a odpovědnost.
Dotazů z publika přišlo tolik, že některé jsme museli odložit až do závěrečného panelu. Pojďme se podívat, co na letošním ročníku Systeum Knowledge Hubu zaznělo.
Kateřina Lesch: Úspěch AI projektů se rozhoduje u lidí
Kateřina Lesch vede jako Group AI Manager AI strategii ve skupině Dr. Max, která působí na šesti trzích a zaměstnává 22 000 lidí.
Na otázku, co firmám při zavádění AI působí největší potíže, odpověděla bez váhání: lidé a change management. Tato transformace je podle ní náročnější než ty předchozí, protože se dotýká profesní identity zaměstnanců. Ukáže se to už při mapování procesů, kde lidé často nedokážou popsat, co ve své práci skutečně dělají, a část z nich tuší, že právě tím popisem může o práci přijít. Dr. Max proto automatizaci od začátku rámuje tak, že nahrazuje dílčí kroky procesu, ne člověka. Nejtěžší skupinou přitom bývá střední management: rozhoduje, ale s nástroji sám nepracuje, a ze strachu, že tématu nebude rozumět, může projekt zastavit.
Pilotní projekty podle Kateřiny zpravidla nekončí kvůli špatnému nápadu, ale proto, že s nimi nikdo dál neběží a nikdo za ně nechce převzít odpovědnost. Vyplácí se proto nejprve udělat nepopulární základy: jasného vlastníka, pořádek a klasifikaci v datech a bezpečnou bránu k jazykovým modelům. Stejně pragmaticky přistupuje k nákladům. Na faktuře nikdy není jen cena za tokeny, přidávají se cloudové náklady i kurzové rozdíly, a tak pravidla a limity pro AI řeší už ve smlouvách a výběrových řízeních a licence přiděluje podle byznysového případu, ne podle spotřeby tokenů. Automatizace navíc nemusí vždy znamenat AI a v některých případech je lidská práce stále levnější.
A na dotaz, jak se promění práce za deset až dvacet let, odpověděla, že se víc než ztráty práce obává ztráty smyslu.
Celou diskuzi s Kateřinou Lesch najdete na našem YouTube kanálu.
Peter Krejzl: Pravidlo v promptu není pravidlo, ale přání
Peter Krejzl působí jako Senior Director of AI v Bloomreach, kde stojí za vývojem produkční agentické platformy postavené na architektuře více spolupracujících agentů. Jeho teze zní: vytvořit agenta je dnes snadné, mnohem těžší je věřit mu natolik, abyste ho poslali k zákazníkovi. Ukázal to na případu softwarové firmy pro autopůjčovny, kde agent při jednoduché úloze našel na disku vývojáře přístupový token a smazal celou produkční databázi. Trvalo to devět sekund, přičemž vývojář měl podobné kroky v pravidlech agenta výslovně zakázány. Z toho plyne Peterův hlavní vzkaz: jedna věta v promptu většinou zabere, ale ne pokaždé.
Bezpečnost proto musí být řešená ve vrstvě pod agentem, ne v jeho zadání: minimální oprávnění, vlastní identita, výčet povolených nástrojů a domén, žádný přístup k produkci ani k platební kartě a u mazání nebo posílání peněz člověk v procesu a možnost vrátit změnu zpět. Logovat je přitom třeba úplně všechno, aby šlo situaci později přehrát, a monitoring nikdy nemá běžet na agentovi, ale na platformě. Za každým agentem má navíc stát konkrétní člověk a existovat vypínač, který zvládne použít i kolega mimo vývojový tým. Peter upozornil i na to, že co říká agent na vašich stránkách, říká vaše firma, a že se vyplatí vzít právníka k projektu už na začátku. Shadow AI se podle něj nevyplatí potlačovat, ale usnadňovat, a na závěr dodal, že to, že se s agenty cítíme rychlejší, ještě neznamená, že rychlejší skutečně jsme.
Celé vystoupení Petera Krejzla najdete na našem YouTube kanále.
Sara Polak: Odolnost firmy se staví na paměti a rozhodování
Sara Polak je archeoložka, antropoložka a technologická strategička. Působí na University of Oxford a na ČVUT CIIRC, kde založila mezioborové centrum Liminal. Na AI nabídla pohled z odstupu 200 000 let lidské adaptace na civilizační změny a vyšla z teze, že technologie je kulturní produkt: jen to, že existuje, neznamená, že je užitečná. Římané znali parní stroj, ale zůstal pro ně společenským trikem. Sara to zná i z praxe: tutéž technologii pro politické kampaně používalo v jednu dobu sedm kandidátů na francouzského prezidenta, a každý úplně jinak. Právě proto podle ní špičkové AI firmy nabírají filozofy, lingvisty i archeology, jazyk a kulturní kontext ovlivňují chování modelů.
Druhým velkým tématem byla paměť. Internet se dnes z velké části skládá z obsahu generovaného AI, značná část vědění visí na neudržovaných serverech a infrastruktura se koncentruje u několika hráčů. Firmám proto doporučuje zamyslet se, kde mají data, komu patří a kdo je může vypnout; jak to vypadá v praxi, ukazuje projekt s rodinou Lobkowiczů, kde digitalizovaný katalog knihovny běží v chatbotu na vlastním železe. Adopci AI přitom podle ní nejvíc brzdí lidské věci: závist mezi kolegy a shadow AI, kvůli které lidé spolu méně mluví a nikdo pak neví, na základě čeho se ve firmě rozhoduje. Jako protiváhu uvádí inspiraci z Bletchley Parku a od šéfky britské rozvědky: hledat zvědavé a zapálené lidi bez ohledu na obor a dát jim pravidla tak jednoduchá, jak to jde, a už ne jednodušší.
Celé vystoupení Sary Polak najdete na našem YouTube kanále.
Panelová diskuze
Závěrečný panel otevřel téma, které je nám v Systeum blízké: co nástup AI znamená pro juniorní pozice. Řada firem je podle hostů nabírat přestala a čeká, co se stane. Kateřina k tomu popsala pohovory, kde uchazeč přijde s desítkami vygenerovaných slajdů, ale neumí v pěti bodech říct, v čem jeho strategie spočívá. Peter za nejlepší juniory, které kdy přijal, označil ty, kdo si na zadání vzali papír a začali přemýšlet selským rozumem, a dnešním studentům radí přijít s vlastním portfoliem toho, co už si sami postavili. Sara k výběru lidí dodala, že se vyplatí hledat zvědavost a slušnost, protože tým deseti egocentriků se rozpadne, i kdyby měl skvělé dovednosti. Dál došlo na obavy, kde Saru nejvíc znepokojuje koncentrace moci u několika technologických firem a Kateřinu záblesky vlastní agendy u agentů, i na to, kde má AI největší přínos: shodně padl výzkum a vývoj v medicíně a omezení byrokracie ve státní správě. A u otázky, zda firmy rezignují na vlastnictví zdrojového kódu, zazněla myšlenka, která propojila celé dopoledne: skutečnou hodnotou je kontext a know-how firmy, zatímco odpovědnost za výsledek zůstává na člověku.
Celý záznam panelové diskuze najdete na našem YouTube kanále.
Děkujeme a těšíme se na příště
Děkujeme Kateřině Lesch, Peteru Krejzlovi a Saře Polak za otevřenost, s jakou mluvili, a všem účastníkům za dotazy, které byly opravdu zajímavé.
Chcete-li být u našich dalších akcí mezi prvními, přihlaste se k odběru newsletteru a sledujte nás na sociálních sítích. Děkujeme všem zúčastněným a za jejich skvělé dotazy v živé diskuzi a těšíme se brzy na dalším Systeum Hubu!
⬇️
🟡 Hledáte zajímavý projekt? Mrkněte, jak to u nás chodí a jaké kolegy aktuálně hledáme.
🟡 Máte kolegu nebo kamaráda, který se poohlíží po novém projektu? Zapojte se do našeho referral programu Doporuč a získejte finanční odměnu za doporučení.
