Supermani docházejí. Umělá inteligence k nim má lidi přiblížit

Umělá inteligence se ve firmách šíří rychleji než interní směrnice, které by ji měly řídit. Zatímco zaměstnanci s ní experimentují v každodenní práci, vedení často teprve hledá odpověď, co od ní vlastně čekat. Téma pro Lukáše Grosse ze Seyforu, Pavla Kaplana z Konica Minolta a Tomáše Rezka z Profinitu.

Často se říká, že využití AI je největší změna ve firmách a v práci za poslední desítky let. Kdy můžeme říct, že je to skutečně využitelný nástroj, který přináší úsporu času a peněz, a nejde jen o módní vlnu?

Kaplan: Technologie, o kterých se dnes bavíme – modernizace práce v kanceláři, automatizace procesů, a dokonce i umělá inteligence –, tu v různých podobách existují mnohem déle, než se začalo mluvit o ChatGPT nebo OpenAI. Rozdíl je v tom, jak jsou dostupné. Dřív jste si museli objednat firmu, dnes máte umělou inteligenci na pár kliknutí přes webový prohlížeč. Není to řešení všeho, ale je dostupná. To je hlavní změna – široká dostupnost a relativně nízká cena. Tím pádem to ovlivňuje každou firmu. I když firma AI neimplementovala řízeně, téměř jistě má zaměstnance, kteří ji používají, platí si službu ze soukromých peněz a využívají ji pro pracovní účely neřízeně. Troufl bych si říct, že každá firma je už dnes AI ovlivněná, jen o tom často neví.

Gross: To je asi největší změna, kterou vidíme i my. Dřív jsme přemlouvali management, aby začal digitalizovat a měnil procesy. Dnes zaměstnanci doma pracují s ChatGPT, vidí, že si něco najdou za deset vteřin, a v práci to hledají půl hodiny. A říkají si: Není něco špatně? Podle mě to rozhodně není módní vlna. Peloton už vyjel. Firmy, které s tím nezačnou, aspoň trochu se nevezou v závětří a nesnaží se držet tempo, prostě odpadnou.

Rezek: Je to tak, všichni to používají – oficiálně nebo neoficiálně – a ovlivňuje to chod firmy. Když jsou vstupní data dobrá, všechno je efektivnější. Když jsou data špatná, problémy jsou o to větší. Proto říkáme: Neřešte teprve, jestli budete AI zavádět. Vy ji už zavádíte, jen o tom nevíte. Potřebujete to dostat pod kontrolu. Současně ale pořád existuje „módní vlna“ na určité úrovni. Mám x jednání s vrcholovým managementem, kde zaznívá: Chceme umělou inteligenci, a nejlépe dvě, minimálně o dvě víc než konkurence. Je jim v zásadě jedno, co to bude dělat, hlavně aby si mohli odškrtnout, že „máme AI“, zmínit to ve výroční zprávě, v závěrečné prezentaci pro akcionáře, a pozvednout hodnotu akcií.

Gross: Myslím, že všichni tady máme jeden obrovský úkol – nastavit správná očekávání. Marketing rozdmýchal obrovský hype. Pak přijdete do firmy po nějakém „prodavači snů“, který nastavil očekávání, že to pomůže nejen dnes, ale už včera. A vy musíte říct: Vymyslíme koncept, pak půl roku budeme čistit data. To bolí, ale je to realita. Firmy v tom nežijí, nepočítají s tím. A to je naše evangelizační role: vysvětlit, že AI není spasitel, ale technologie, se kterou se musí správně pracovat.

Tím se dostáváme k dalším otázkám: Jaký je rozdíl mezi digitalizací a zaváděním AI do firmy? Co musí firma konkrétně udělat, pokud chce AI opravdu používat?

Kaplan: Firma, která neprovedla digitalizaci, nemá data, která by mohla umělé inteligenci předat. Bez toho to nejde. Pokud nemá digitalizované dokumenty, CRM, ERP nebo jiný zdroj klíčových informací, nemá co říct: Milá umělá inteligence, tohle jsou informace důležité pro moje zaměstnance, hledej primárně tady. Data z internetu jsou nečistá, mohou generovat nesmysly. Pokud nemám zdigitalizováno, musím udělat krok zpět: nejprve digitalizovat, teprve potom zavádět AI.

Gross: Devadesát devět procent poptávek začíná „potřebujeme AI“. Osmdesát pět procent z nich nakonec skončí – a říkám to pozitivně – u „pouhé“ digitalizace. Zaplaťpánbůh za ni. Někde na konci to trochu „posolíme“ AI, začneme data sbírat a strukturovat. Revoluce AI začíná u malých věcí. Musíte z lidí vytáhnout správné scénáře a nastavit očekávání: něco bude osobní produktivita, něco týmová, něco firemní. Než se firma dobere k firemní produktivitě, musí odpracovat jednotlivce, scénáře, očekávání a odstranit to, že často „neví, co neví“. Odhaduje se, že 85 procent nepřipravených scénářů kolabuje. Vzniká frustrace, důvěra se vytrácí a její znovuzískání je peklo. Když pak přijdu jako externista, dívají se na mě jako na UFO. A naopak: když si scénář dobře odpracujeme, ověříme hypotézy a lidi si na to sami sáhnou, funguje to. Přenesená zkušenost v AI nefunguje – musíte si to osahat.

Kaplan: Platí to i opačně. Pokud se firma sveze jen na módní vlně a implementuje AI bez rozmyslu, utratí peníze, předá nástroj přehlcenému pracovníkovi, kterého nikdo neproškolil, nedal mu příklady použití. Po půlroce za ním přijde management a říká: Tak co, Tomáši, máme to nasadit do celé firmy? A on odpoví: Ne, vůbec, je to zbytečné, k ničemu mi to nebylo. Jen proto, že to bylo bez plánu, jen kvůli pocitu, že když si „nekoupíme AI“, jsme pozadu.

Rezek: Často vidíme, že firmy chtějí investovat do „naleštěné krabičky“ AI, ale minimum z nich je ochotno investovat do vyčištění dat, data governance nebo datové správy. Jedno bez druhého nefunguje. Můžete mít dílčí úspěch – třeba v OCR nebo skenování dokumentů –, ale představa, že „zavedeme AI a zvýšíme obrat o 20 až 30 procent“ bez pořádných dat, je ve většině případů nereálná. Někdy by stačilo běžné strojové učení, které je levnější a efektivnější, ale zazní: Ne, my musíme mít AI. Vyvineme to, nasadíme, za tři měsíce se ozve telefon: Ono to nějak nefunguje. Lidi, kteří to mají udržovat, nejsou proškolení, nemají znalost, výsledky jsou nekonzistentní. Ztrácí se důvěra – a tu pak získáváte zpátky velmi těžce.

Gross: Rád si to vysvětluju na třech „kopečcích“: procesy, data a lidé. Procesy – digitalizace; data – podvozek; lidé – adopce. Lidi nepotřebujete hlavně vyškolit, ale adaptovat. Musejí si vzít za své ne to, co umí ChatGPT obecně, ale jak konkrétně pomůže v jejich práci. Nedigitalizujte proces tak, jak je. Nemá smysl dát pásový dopravník někomu, kdo nosí kýble s vodou, když tam můžete natáhnout vodovod. Pokud proces jen „překlopíte“ do digitální podoby, přijdete o možnost ho zlepšit. Je potřeba zvednout uvažování o patro výš. Dnešní digitalizace je hodně o řetězení „agentů“ – malých robotů, kteří mají konkrétní úkol: jeden zpracuje dokumenty, jiný vytáhne data, další je propojí. To je budoucnost.

Kaplan: Nechci, aby to vyznělo, že firmy strašíme, jak je implementace AI náročná. Naopak – když firma chce začít, ale neví, jestli má dostatečně digitalizováno, jestli má popsané procesy, není to překážka. Ideální je, když přijde a řekne: Máme tady Janu, která zná celou firmu, ví, jak funguje produkce, co dělají oddělení. Sedneme si s Janou a identifikujeme, kde by AI mohla pomáhat. Dá se jí nástroj, aby si ho vyzkoušela, pochopila princip, dala zpětnou vazbu. Může říct: Jsme technologická firma, 90 procent zaměstnanců jsou programátoři, pokud jim dáte AI, všichni si s tím poradí. Nebo naopak: Nemáme nikoho připraveného, nikdo neví, jak s AI pracovat, pojďme začít něčím jednodušším, aby se lidi nevyděsili.

Gross: Nejpodařenější implementace AI je taková, že si nikdo nevšimne, že tam AI je. Pokud propagujeme technologii místo přínosu, popisujeme to špatně a špatně pracujeme s lidmi. Jana musí vědět, že má prostor pro chyby, že jí za omyl nikdo „neutrhne hlavu“. Musí mít prostor i čas – i na to, aby si ujasnila, co vlastně hledá. Zavádíme ve firmách „ideatony“. S firmami začínáme identifikací scénářů: z deseti lidí vypadne sedmdesát nápadů, z nichž se dvacet překrývá a čtyři jsou realizovatelné jako „nízko visící ovoce“ v řádu dnů. Tohle odstartuje AI transformaci. Lidi pak chodí a říkají: Fakt jsme to udělali, klikla jsem, systém mi spároval fakturu s objednávkou, nemusím to dělat dvě hodiny, ale deset minut, a ono mě to nenahradí, jen mi to uvolnilo ruce. To je uvědomění, které na žádný slide nenakreslíte. Osobní zkušenost zaměstnanců s AI je to, co opravdu nastartuje digitalizaci firmy.

Zůstaňme u těch reálných přínosů. Kde se ve vaší praxi AI nejvíc osvědčila? Jaké konkrétní procesy a nástroje v typických firmách?

Gross: Obecně práce s velkým množstvím dat a informací – jak se k nim co nejefektivněji dostat. Typický příklad: chci vědět, jak si v práci zažádat o nový notebook. Do jaké směrnice jít, jaký proces spustit? Místo prohrabávání intranetu napíšu přirozenou otázku a systém, který vychází z aktuálních a vyčištěných interních směrnic, mi dá stručnou odpověď, sesumarizuje postup a zároveň přidá odkaz na zdroj. Za pět vteřin mám relevantní část textu. Budujeme proto vlastní RAG chatboty – Retrieval Augmented Generation. Najdou správné dokumenty, sesumarizují je do lidsky srozumitelné odpovědi, přidají zdroje. Ideálně v jednom prostředí – třeba v Teams – bez dalších přihlašování. Lidi nečtou, pojďme jim to zjednodušit.

Kaplan: U nás si těch přínosů nejvíc cení obchod. Obchodníci se ztrácejí v komunikačních kanálech – něco četli ve Viva, něco v Teams, něco v e-mailech. V tom chaosu už nevědí, kde je jaká informace. Jsou frustrovaní z neustálého dohledávání. Když mají nasazené základní AI nástroje, stačí říct asistentovi – nebo jim AI sama nabídne –, kdy byla poslední schůzka, o čem se se zákazníkem bavili, co je v zápisu. Nemusejí hledat. A to je úleva, kterou si umí představit každý, kdo někdy hledal jednu větu ve třech různých kanálech.

Rezek: Obecný vzorec je vytěžování dokumentů a faktur, OCR, ale i scénáře šité na míru. Dělali jsme třeba pro německou banku Berenberg AI model, který porovnával smlouvy s dodavateli podle regulace s ideálním vzorem. Model generoval podklady typu: V tomto odstavci na páté stránce je znění, které neodpovídá podmínce x, mělo by to být takto. Ušetřilo to 80 procent času. Ale narážíme na důvěru. Právníci si to stejně ověřovali. Kdybychom jim dali jen výstup bez referencí, neprosadili bychom to. Reference, odkud to AI vzala, jsou klíčové.

Kaplan: A to je správně. U každého procesu se ptáme: Jak kritický je? EU AI Act říká: U nekritických dat může AI dávat odpověď bez povinné lidské kontroly. Ale u osobních údajů, právní agendy nebo jiných kritických dat musí vstoupit člověk. AI výsledek „předchroustá“, ale u důležitých věcí ho člověk musí zkontrolovat. To je i odpověď na to, jestli nás AI nahradí – u citlivých věcí zatím ne.

Rezek: Proto se doporučuje nezačínat u kritických procesů. Vybrat něco, co zabírá hodně času, je rutinní, ale snadno kontrolovatelné. Tam je šance, že model převezme práci dobře.

Gross: Mám rád dělení na osobní produktivitu, týmovou a firemní. Pavel popisoval osobní – kopiloti, kteří znají můj kalendář, e-maily, historii a umějí mě připravit na schůzku. Pak je firemní úroveň – třeba překladač přizpůsobený terminologii konkrétní firmy. Překladačů je spousta, ale my chceme, aby „mluvil“ naší řečí, podle toho, jak deset let překládáme. Tak na to natrénujeme jazykový model. To jsou scénáře, které dávají smysl, ale nesmí se začínat „velkým knedlíkem“. Najít nízko visící ovoce, získat důvěru, na ni nabalovat další věci.

Jak vysvětlujete zaměstnancům, aby se AI nebáli?

Rezek: Zavádí se kvůli lidem, ne proti nim. Má jim zvednout produktivitu. Pokud je nedokážu přesvědčit, že jim AI umožní soustředit se na věci s nejvyšší přidanou hodnotou – zkušenost, znalosti, kontakty –, budou se bát, hledat chyby, sabotovat výsledek. Je to klasická křivka změny: popírání, odpor, až potom přijetí. Firma musí umět řídit změnu – a AI je změna jako každá jiná.

Gross: Děláme pro firmy webináře, kde v reálném čase, bez prezentací, klikáme jednoduchého agenta a ukazujeme, jak si sami mohou práci zrychlit. Myšlenkový pochod začíná u samotného zaměstnance: Proč by mě to mělo nahradit? Zjistí, že to spíš nahradí někoho, kdo to nevyužívá. AI mu dává prostor, aby se rozvíjel, trénuje kritické myšlení.

Kaplan: Jsme v ideálním období nasazení AI. Na trhu práce je nedostatek kvalifikovaných lidí. Většina firem hledá „supermana“, který nahradí zaměstnance, jenž tam pracoval deset let. Supermani na trhu nejsou. Umělá inteligence asistuje – pomáhá „obyčejným“ lidem, aby se k těm supermanům přiblížili. Uvolní jim ruce, odpoví na základní dotazy, které by jinak směřovali na supermana. Tím snižuje riziko, že přetížený expert odejde.

Rezek: Pozor ale na iluzi, že AI nahradí reálnou zkušenost. Juniorní vývojář se nestane seniorem jen tím, že si bude povídat s kopilotem. Může mu to pomoct, ale zkušenost je nepřenosná. Bude pořád rozdíl mezi tím, kdo má deset let praxe, a tím, kdo má jen nástroje.

Gross: Změní se i nábor. Job description se píše pomocí AI, kandidát si pomocí AI upraví životopis přesně na míru. Na papíře vše splňuje na 99 procent. Pak potřebujete experta, aby poznal, jaký opravdu je. Stejně tak se musí změnit způsob zkoušení, diplomových prací, hodnocení.

To nás přivádí k náboru, hodnocení, HR. Jak AI mění tyto procesy?

Rezek: Personalisté už dnes mají asistenty, kteří jim pomáhají filtrovat CV, vyhledávat kandidáty v databázi, dělat první předvýběr. Je to běžná praxe.

Gross: Ale je to ošidné. Když nechám AI filtrovat třicet kandidátů a pustí mi dál pět, můžu vyřadit lidi, kteří si napsali CV poctivě sami a nevyužili AI, aby jim to „napárovala“ na job description. AI Act i tohle řeší – jak s tím nakládat. Může se stát, že CV vypadá perfektně, ale záznam z reálného rozhovoru – klidně nahraný, přepsaný a vyhodnocený jazykovým modelem – ukáže, že skutečný překryv je 34 procent. AI pak sama řekne: Tento kandidát si to v CV vylhal.

Kaplan: Ten scénář nemám rád, protože je na hraně toho, co by AI měla o člověku rozhodovat. Mnohem raději mám scénáře, kde AI pomáhá a uklidňuje – například snižuje fluktuaci. Představte si firmu se stovkou zaměstnanců a jedním „supermanem“ se specifickým know-how. Všichni chodí za ním, on je přetížený. Když těm sto lidem dáte AI napojenou na jeho know-how, získají základní odpověď bez toho, aby ho obtěžovali. On pak řeší jen ověření. To ho méně vyčerpává, má menší potřebu odejít. Firmy nerady přicházejí o supermany.

Gross: Krásným příkladem je i helpdesk: cílem není jen zrychlit práci lidí na helpdesku, ale předcházet vzniku ticketů. Když už pětkrát někdo řešil „nefunguje mi VPN“, systém může při zadávání nového ticketu nabídnout: Nepomohlo by tohle? Osmdesát pět procent dotazů se opakuje. Pojďme je vystrčit dopředu a uvolnit ruce lidem na helpdesku.

Trh s AI je dnes velmi dynamický, což vede k roztříštěnosti systémů. Není jich dnes ve firmách příliš? Nepovede to nakonec k nějaké centralizaci?

Gross: Představte si AI jako nářadí řemeslníka. Máte kladivo, zednickou lžíci, flexu. Nebude jeden nástroj na všechno. Nevidím řešení typu „masterofuniverse.com“, který vyřeší v jedné krabici všechno. Je potřeba vytipovat scénáře, zvolit nástroje pro konkrétní role a procesy a nasadit je s rozumem. Nesmíme uživatelům dát dvanáct různých systémů a říct: Tady se přihlaš, tady taky. Možná nakonec vznikne sjednocené rozhraní, ale svatý grál, který umí všechno, neexistuje.

Kaplan: Ekonomika funguje v cyklu konsolidace a defragmentace. Dnes je systémů hodně, management je bude chtít konsolidovat, pak se objeví další a cyklus se opakuje. Pokud má firma dvanáct systémů a hrozí, že v nich musí uživatel běžně pracovat, doporučil bych skutečně jednotné uživatelské rozhraní, které to nad nimi sjednotí.

Rezek: U základních use casů není často velký rozdíl mezi modely. U specifických scénářů už ano. Pro něco je lepší jeden model, pro něco jiný. Dnes se běžně setkáváme s multicloudovým prostředím, takže mít více modelů s daty v různých cloudech není neřešitelný problém.

Gross: A to je právě doba agentů – z každého systému bude mít konkrétní „agent“ svůj úkol. Každý si vyčistí data, která potřebuje, a v řetězu aktivit se poskládají. Nebudeme mít jednoho obrovského agenta, ale sadu menších, udržovatelných. Na konci bude jedno místo pravdy pro uživatele.

Pojďme k bezpečnosti, rizikům, odpovědnosti a regulaci. Jaké jsou dnes pro firmy největší výzvy?

Gross: Obecně tomu říkáme governance. Nemá pokrývat jen to, že někde „lítá“ shadow AI a lidé používají neplacenou verzi ChatGPT, ale i motivaci a pravidla použití. Četl jsem statistiku: z lidí, kteří používají ChatGPT, si jen asi dvě procenta službu skutečně platí. Zbytek platí daty. Governance má říkat, co se smí a co ne, ale i jak si říct o licenci, kdo koho zaškolí, jaké nástroje máme – typicky multicloud: Azure, AWS, Copilot, ChatGPT… K tomu je potřeba směrnice, která říká: Sem můžete dát tohle, tady je největší přidaná hodnota. Navíc nás čeká povinnost vůči AI Actu. Každá firma, která používá třeba jen Copilot v Microsoft 365, bude muset mít posudek: jaká data se posílají, jak se s nimi nakládá. Každé řešení, které volá jazykový model, bude muset mít dokumentovanou práci s daty. Je to svazující, ale úplná volnost by byla taky špatně.

Kaplan: Představme si marketingové oddělení a zaměstnance, který není spokojen s výstupy marketingu. Nemá s marketingem nic společného, ale vezme AI, nechá si udělat vánoční animaci podle svého gusta a začne ji postovat na sítě. Přesně tomu má governance předcházet. Má říkat: Ano, můžeš AI použít, ale musíš respektovat manuál, právní rámec, důvěrnost informací.

Rezek: Dnes už jsme snad za fází popírání problému a absolutních zákazů typu „AI se nesmí používat“. Stále platí jednoduché pravidlo: žádné osobní nebo citlivé informace do žádného externího jazykového modelu, pokud není výslovně schválený a zabezpečený. Raději pracovat s uzavřenými instancemi modelů než to pouštět „do internetu“. Čím dál víc se proto poptávají syntetická data – pro trénování modelů bez práce s ostrými daty. Než pustíte model k reálné produkci, učíte se na syntetických datech.

Kaplan: Někdo by to mohl špatně interpretovat jako „zakážeme AI ve firmě“. To je chyba. Pokud firma nezačne AI používat a nepůjde tomu naproti, za pár let nemusí existovat. A hlavně – zaměstnanci si vždycky najdou cestu, jak pravidla obejít. Firma má zavést takové nástroje, aby je lidé chtěli používat a nemuseli obcházet pravidla. Zákaz situaci nezlepší.

Gross: Nejde o represe, ale o motivaci. Vysvětlit: Když uděláš tohle, může se to otočit proti nám, tady máš nástroj, který ti pomůže, použij raději ten. Je to kulturní změna, ne týdenní kampaň. Aby se mi v hlavě přepnulo, že první, co mě při řešení úkolu napadne, je AI, trvá to měsíce. Během té doby nesmím dopustit, aby člověk spadl do frustrace. Musí vědět, že má prostor pro chyby, že se to nepovede na první dobrou. Ať se klidně zeptá AI: Jak mám správně používat AI? Tyto nástroje se navzájem znají často nejlíp.

Pokud byste měli dát doporučení firmám, které chtějí s AI začít, jak to mají udělat nejlépe?

Gross: Nevymýšlejte to za lidi. Nechte zaměstnance, aby sami definovali, kde jim AI může pomoci. Seberte nápady napříč firmou, udělejte rozvahu, vyberte nízko visící ovoce, spočítejte, kde to nejvíc vydělá – a tam začněte. AI je technologie, zlato je v hlavách lidí.

Kaplan: AI neudělá nic bez zadání a neumí sama zkontrolovat, jestli výsledek obsahuje všechno. V rámci evangelizace zaměstnancům pořád připomínat: AI řídíte vy. Bez vás se utrhne ze řetězu – ne jako Skynet, ale bude generovat nesmysly a nikdo ji „neklepne přes prsty“. Musí tam být člověk, který zadá, zkontroluje, případně upraví.

Rezek: Musí to být změna řízená. Ideálně tak, aby naplňovala konkrétní cíle – ať už „odspodu“ přes ideatony, nebo na základě strategie shora. Ale vždy pod kontrolou a s jasným účelem, ne chaotické Zkusíme, kde to zafunguje.