S rostoucími možnostmi AI agentů vyvstává otázka, jak zajistit jejich bezpečné, spolehlivé a efektivní fungování ve firemním prostředí. Právě toto téma se opakovaně objevovalo v diskusích na Data Festivalu 2026 na VŠE. Přinášíme naše postřehy z akce a pohled na výzvy, které firmy při zavádění AI řeší.
V úterý 3. listopadu jsme opět navštívili Data Festival na VŠE. Podle očekávání patřily mezi hlavní témata umělá inteligence a možnosti využití AI agentů. Mnohem zajímavější než to, co všechno už dnes dokážou, však byla otázka, zda jsou firmy skutečně připravené nasadit je do reálného provozu.
Diskuse se opakovaně vracely k několika zásadním tématům.
Sémantická vrstva: Bez kontextu bude agent jen draze tápat
AI agent může mít přístup k obrovskému množství dat. Pokud ale nerozumí jejich významu a vzájemným souvislostem, začne hledat odpovědi metodou pokus a omyl.
Výsledkem mohou být slepé cesty, nesprávné interpretace a zbytečně spálené tokeny.
Do popředí se proto opět dostávají témata, která možná nepůsobí tak atraktivně jako generativní AI, ale pro její spolehlivé fungování jsou zásadní: ontologie, datové katalogy, jednotné definice a strojově čitelné znalostní báze.
Governance a ownership: Agent potřebuje jasnou odpovědnost
Kdo ručí za to, že agent odpovídá správně? Kdo rozhoduje o datech, ke kterým má přístup? Kdo schvaluje změny jeho chování? A kdo ponese odpovědnost, když způsobí škodu?
Pokud na tyto otázky neexistuje konkrétní odpověď, je obtížné mluvit o skutečně řízeném produkčním agentovi. Spíše jde o experiment bez jasného vlastníka a nastavené odpovědnosti.
Přechod do produkce: Demo ještě není produkt
Působivých ukázek AI agentů dnes vidíme nespočet. Skutečné výzvy ale přicházejí ve chvíli, kdy je potřeba agenta nasadit do produkčního prostředí.
Je nutné vyřešit integrace, přístupová oprávnění, bezpečnost, monitoring, auditovatelnost, kvalitu výstupů, náklady i reakce na incidenty. A to není úkol, který vyřeší jeden člověk během několika večerů pomocí vibe codingu.
Produkční nasazení AI je proto komplexní úkol, který vyžaduje systematický přístup a spolupráci zkušených IT a datových týmů, které už dnes často fungují na hranici svých kapacit.
Jasné hranice: Co agent smí skutečně udělat?
Agent, který pouze doporučuje další postup, představuje jiný typ rizika než agent, který může samostatně měnit produkční data, zadávat objednávky nebo spouštět firemní procesy.
S rostoucí autonomií roste i potřeba jasně definovaných pravidel, kontrolních mechanismů a lidského dohledu. Nejde tedy jen o to, co agent dokáže, ale také o to, co mu firma může bezpečně svěřit.
Od experimentů k reálné hodnotě
A nejde jen o teoretické otázky z Data Festivalu. Podobné výzvy řešíme u našich zákazníků každý den. Firmy chtějí využívat potenciál AI, ale zároveň mnohem více potřebují vybudovat spolehlivé datové základy, nastavit governance, zajistit bezpečnost i přechod do reálného provozu.
Naštěstí na to nemusí být samy. V UD4D jim pomáháme proměnit AI experimenty ve spolehlivá a prakticky využitelná řešení, která dávají smysl nejen v demu, ale především v každodenním fungování firmy.
Časté dotazy
Co si UD4D odneslo z Data Festivalu 2026?
Jedním z hlavních poznatků bylo, že technologické možnosti AI agentů se rozvíjejí rychleji než připravenost mnoha firem na jejich produkční nasazení. Vedle samotných schopností AI se proto stále více řeší datový kontext, odpovědnost, bezpečnost a dlouhodobá správa.
Jak poznat, zda je firma připravená na nasazení AI agentů?
Dobrým výchozím bodem je ověřit, zda má firma kvalitní a srozumitelně popsaná data, nastavená přístupová oprávnění, jasně rozdělené odpovědnosti a procesy pro kontrolu výsledků AI. Důležitá je také schopnost provoz agenta monitorovat a bezpečně zasáhnout, pokud nefunguje podle očekávání.
Jakou roli hraje data governance při zavádění AI?
Data governance pomáhá určit, jaká data jsou dostupná, co znamenají, kdo za ně odpovídá a jakým způsobem se mohou používat. Pro AI agenty tak vytváří základ, díky kterému mohou pracovat s důvěryhodnými informacemi a v rámci stanovených pravidel.
