Většina organizací už AI používá v produkčním provozu. Téměř žádná ji však nenasadila tam, kde na ní skutečně záleží: do řešení pro klienty, zásadních obchodních rozhodnutí nebo procesů s minimálním lidským dohledem. Právě v této mezeře se získává i ztrácí konkurenční výhoda.
Překážkou zpravidla není schopnost, ale důvěra. Při nasazení AI v kritických situacích tato důvěra vzniká tehdy, když jsou splněna čtyři konkrétní kritéria.
Tato kritéria zahrnují způsob testování chování AI, tvorbu a řízení řešení v podnikovém měřítku i to, zda vedení skutečně chápe, proč je to důležité.
Splnění těchto kritérií vytváří potřebné návyky a odpovědnost a dává vám méně důvodů vyhýbat se nasazení AI, které může přinést skutečně významnou změnu. Bez této důvěry AI uvízne u okrajových případů využití, kde sice šetří koruny, ale fungování organizace podstatně neovlivní.
Před rokem (což je v éře AI spíše desetiletí) byla většina firem v „očistci ověřování konceptu AI“: měla spoustu zajímavých projektů ukazujících možnosti AI, ale nedařilo se jí žádný z nich převést do produkce. O rok později už má řada organizací alespoň několik řešení AI v produkčním provozu, což je významný krok vpřed.
AI se však často používá jen v okrajových procesech: je to snazší, řešení může vytvořit inovační tým s nadšeným uživatelem z byznysu, a pokud se něco pokazí, „svět se nezboří“. Na procesu příliš nezáleží, existuje ruční záložní postup nebo několik úrovní lidské kontroly, které omezují případné negativní důsledky.
Výsledkem tohoto pochopitelného, ale opatrného přístupu je také omezený dopad řešení: pravděpodobně nijak výrazně nepřispějí k růstu, zákaznické zkušenosti ani nákladovému profilu.
Právě to odlišuje budoucí vítěze od ostatních: progresivní firmy investují do využití AI tam, kde ovlivňuje výkonnost podniku.
Zaostávající firmy také „dělají AI“, ale ne tam, kde by měla významný dopad na podnikání.
Ano, nasazení AI do investičního rozhodování, klientské zkušenosti, vývoje produktů, výzkumu & návrhu či automatizace zcela bez lidského zásahu bude působit rizikověji. Právě tam se však skrývá skutečný přínos.
Firmy, které si v této oblasti budují náskok, ještě nemusí být na trhu vidět. Než se však projeví, bude rozdíl nejen značný, ale kvůli rychlejšímu nasazování AI se bude dál zvětšovat, zatímco opozdilci teprve pochopí, v čem se celou dobu mýlili.
Otázka tedy zní: co organizace potřebuje, aby mohla s důvěrou nasazovat AI do procesů, na kterých skutečně záleží?
Předpokládejme nejprve, že jste už postoupili od „máme nástroj AI, jako je ChatGPT“ přes „máme projekty ověřující koncept“ až k „máme v provozu deset jednoduchých AI řešení“. Pokud ne, musíte to řešit přednostně. Tyto první kroky mohou být jednoduché, ale jsou nezbytné: začínají budovat podnikovou gramotnost v oblasti AI, přinášejí lepší nápady na případy použití a odhalují interní postup potřebný k uvedení AI do produkce.
V této fázi by organizace měla zvýšit ambice a přejít k „významným praktickým řešením AI s lidským dohledem“ a poté k odlišujícímu přístupu „AI využíváme v klíčových procesech a klientských řešeních“.
Tyto poslední kroky obvykle neomezuje technologie, ale nedostatečná důvěra organizace. Protože se vždy najde důvod náročné věci odložit nebo se jim vyhnout:
„Co když poskytne nesprávné poznatky?“ „Co když se zachová nesprávně a dostaneme se do médií?“ „Co když udělá chybu ve výpočtu a my se rozhodneme špatně?“ „Co když bude klienty urážet?“ „Co když model přestane být dostupný?“ „Jak budeme zajišťovat aktualizace?“ „Co když se změní regulace?“ „Neměli bychom počkat na nový model?“ a podobně.
Podle nás existují čtyři typické podmínky, které dodávají důvěru potřebnou ke stisknutí tlačítka „Spustit“ u změny s velkým dopadem využívající AI.
Proč: Přijala organizace (zejména její vrcholné vedení) skutečně za své vysvětlení, „proč je AI důležitá pro náš obchodní úspěch“? Pokud ne, organizace si spíše najde důvody, proč se obtížným rozhodnutím vyhnout.
Podpora: Existuje tým pro změnu, transformaci nebo podporu AI, který organizaci pomáhá s rozvojem využití AI? Tým, který se stará o přijetí, vzdělávání, regulaci, nové způsoby práce a zpochybňování předpokladů, zajišťuje potřebné financování a podobně. AI není změna, kterou má „vyřešit IT“, jak tomu často bývalo u cloudových nebo digitálních iniciativ. Musí ji řídit firma a musí mít dobrou podporu.
Jak: Existuje zavedená podniková architektura a architektura řešení pro praktické využití AI? Jde sice o neustále se vyvíjející oblast, ale jasná koncepce nutí organizaci přemýšlet a rozvíjet znalosti o vhodných ochranných mechanismech, nákladech, observabilitě, kontrolních prvcích či přístupu k modelům. Tím se uvnitř organizace začíná budovat důvěryhodnost, že v oblasti AI „ví, co dělá“, a zároveň se předchází vzniku mnoha různých způsobů vývoje.
Test důvěry před spuštěním: Odpovědné osoby mohou donekonečna odkládat rozhodnutí, „zda je řešení dost dobré ke spuštění“. Tradiční testování týmy kontroly kvality neposkytuje u nedeterministického systému AI potřebnou důvěru ani pocit odpovědnosti. Hodnocení ano.
Projděme si je v opačném pořadí, protože tak budeme postupovat od bodu, který je nejblíže rozhodnutí o spuštění.
Organizace po desetiletí spoléhaly na tým kontroly kvality, který rozhodoval, zda je nová verze dostatečně dobrá. Na papíře testovali zástupci firmy, ve skutečnosti to dělal tým kontroly kvality. Výsledkem bylo buď splnění, nebo nesplnění nesčetných pravidel typu „pokud toto, pak tamto“. Bylo s tím hodně práce, ale princip byl jednoduchý.
U AI to nefunguje, protože musíme hodnotit chování.
Hodnocení neboli evaly umožňují převést kvalitativní chování AI na měřitelné hodnoty. Místo prostého splnění či nesplnění určíte kritéria (například správnost, tón, faktické ukotvení nebo chování při odmítnutí) a přidělíte jim skóre. Sledujte tato skóre po celou dobu projektu při vylepšování promptů, modelů či ochranných mechanismů. Projektový tým, výbory pro změny i vedení firmy tak získají podklad, podle něhož mohou s důvěrou jednat: například skóre správnosti, které se během projektu zvýšilo z x na y.
Toto číslo plní dvě úlohy. Zaprvé posiluje důvěru, protože dokládá postupné zlepšování a poskytuje zúčastněným stranám hmatatelný důkaz, že se systém v rámci stanovených očekávání trvale chová spolehlivě.
Zadruhé vytváří odpovědnost. Lze se opřít o konkrétní čísla i dohledatelný původ těchto hodnocení. Zdokumentovaný soubor hodnocení otestovaný na jasně vymezené škále scénářů je obdobou protokolu o testování AI. Schvalovací komisi dokládá náležitou péči: dělá systém pouze to, co dělat má, a pouze takovým způsobem, jakým to dělat má?
Tato čísla mají samozřejmě smysl jen tehdy, jsou-li hodnoticí kritéria dostatečně propracovaná. To vyžaduje změnu provozního modelu, kterou většina organizací zpočátku nezvládne: za hodnoticí kritéria musí být odpovědná firma, nikoli technologický tým, tým kontroly kvality nebo jediný nezkušený uživatel. Osoby odpovědné za produkt a specialisté rozumějí oboru, okrajovým případům, požadovanému tónu komunikace, typům interakcí, s nimiž mohou uživatelé přijít, smysluplným krokům uvažování, způsobům selhání, správným dvojicím otázek a odpovědí a dalším aspektům. O tom, jak vypadá dobrý výsledek, by měli rozhodovat lidé, kteří řešení používají a nasazují.
Pokud tedy schvalujete řešení využívající AI přímo v centru zákaznické zkušenosti, stačí položit dvě otázky:
(1) Kdo navrhl hodnoticí kritéria?
(2) Zlepšovaly se výsledky hodnocení podle těchto kritérií v průběhu času a překročily nyní minimální hranici?
Pokud odpověď zní „vytvořil je technologický tým, ale s výsledky jsme spokojeni“, aplikace není připravena. Pokud odpověď zní „ano, minulý týden jsme testovali a řešení prošlo“, nejspíš nejde o dostatečně vyspělý přístup k hodnocení, který by vzbuzoval potřebnou důvěru. Hodnocení totiž pravděpodobně nebyla výchozím bodem vývoje.
Pokud však osoba odpovědná z firmy za produkt hodnoticí kritéria definuje, kontroluje a průběžně upravuje po celou dobu vývoje a dokáže doložit, že se výsledky vyvíjejí správným směrem, máte před sebou řešení, které stojí za schválení.
Další vrstvu důvěry přináší soulad s principy a standardy AI architektury. U prvních pěti aplikací AI dávalo smysl vytvořit každou způsobem, který umožnil rychlý začátek. Pro rozšiřování a rychlé, bezpečné a dobře řízené nasazování AI napříč organizací je však postupně nutný strukturovanější přístup s referenčními architekturami aplikací a podnikovou platformou AI.
Všechny technické týmy musí mít možnost rychle „zdědit“ přístup k modelům, ochranné mechanismy, pozorovatelnost, škálování, řízení nákladů a další prvky, aby se mohly soustředit na vývoj řešení.
Jasná představa o podnikové platformě AI a architektonických přístupech dále posiluje důvěru organizace, že může AI bezpečně nasazovat do kritických systémů – i když má tato představa kvůli rychlému vývoji jen krátkou životnost. Znamená totiž, že někdo promyslel všechny klíčové faktory a zvolil optimální cestu k nasazení. I to zvyšuje důvěru, že řešení dokáže tyto důležité procesy podpořit.
Nejde o to „dělat totéž, jen mít přístup k nástroji AI“. Může to znít jako klišé, ale transformace znamená přepracovat procesy, přehodnotit nabídku produktů, rozvíjet klientskou zkušenost a měnit způsob práce – a nejspíš i strukturu týmů.
To nelze zvládnout bokem vedle běžné práce a nemůže to řídit jen technologické oddělení (a ne, ani váš tříčlenný „inovační“ tým). A pokud zvolíte přístup „ono se to nějak vyřeší“, nedosáhnete tempa změn, jakého mohou dosáhnout úspěšní konkurenti.
Odhalení skutečně převratných případů použití a získání podpory pro ně navíc vyžaduje důkladnou znalost AI napříč podnikem a pozitivní přístup k ní.
Transformace pomocí AI proto potřebuje lidi, kteří vědí, co organizace potřebuje, umějí prosazovat změny a rozumějí AI. Od představenstva musí dostat mandát, aby zajistili koordinaci, energii, financování, přesvědčování, správu, stanovování priorit a rozhodování.
Zejména v prvních fázích se osvědčuje centrální útvar typu centrum AI, transformace AI nebo kancelář AI. Tento centrální tým posiluje důvěru, že organizace má proveditelnou strategii, zásadní rozhodnutí lze rychle přijímat a šířit a pro transformaci pomocí AI existují jasná kvalitativní kritéria. Bez něj hrozí přílišná roztříštěnost, která vede k nejednotným rozhodnutím, volbě produktů či řešení a rozdílům v kvalitě. To nakonec podkopává důvěru potřebnou k nasazení AI v kritických oblastech.
Jak už zaznělo, skutečnou konkurenční výhodu z AI získají firmy, které si vybudují podnikové zkušenosti, odborné znalosti a důvěru potřebnou k častému a rychlému nasazování AI přímo do důležitých procesů a řešení zlepšujících klientskou zkušenost, výkonnost produktů či rychlost výroby.
Nezbytné jsou kvalitní postupy hodnocení, rychle přizpůsobitelná a škálovatelná architektura i aktivní řízení transformace, které organizaci pomáhá učit se, přizpůsobovat a zavádět nové způsoby práce.
Nic z toho však nelze úspěšně uskutečnit „zdola“. Změny a jejich důsledky jsou na to příliš rychlé a významné. Nestačí ani „souhlas představenstva“ nebo „podpora vedení“.
Pokud zaměstnanci jasně nechápou, proč jsou změny nutné, co pro ně osobně znamenají – dobrého i špatného – a co jim přinesou, proběhne transformace zadními vrátky a napáchá mnoho vedlejších škod.
Čtvrtým prvkem potřebným k získání skutečné výhody z přijetí AI je proto vedení firmy, které opravdu chápe a věří, že investice do AI jsou nezbytné pro její další úspěch. Je to jejich strategie AI, která je začleněna do poslání a cílů firmy, kterou vedení opakovaně propaguje a podle níž prokazatelně rozhoduje a jedná.
Tím vznikají pobídky, podpora a pocit naléhavosti, které týmy v celé organizaci potřebují k rozvoji dovedností a k přijetí nepříjemných, ale důležitých rozhodnutí ve prospěch náročnější a přínosnější cesty. Dodává to důvěru potřebnou ke stisknutí tlačítka „Spustit“ u klientského řešení nebo investičního rozhodovacího procesu využívajícího AI.
V příštích dvou letech nebudou díky AI vítězit firmy s největším počtem nasazení. Budou to ty, které dokázaly využít AI v důležitých systémech a procesech zaměřených na klienty, ovlivňujících rozhodování a zásadních pro podnikání – a vybudovaly si schopnost dělat to soustavně a bezpečně v celém podniku.
Co byste tedy měli udělat? Pokud vaše organizace „má AI“, ale na úspěch firmy to nemá žádný vliv, zkuste odpovědět na následující otázky:
Je jasné, jakou roli AI hraje při naplňování poslání vaší firmy? Máte pocit, že vedení skutečně věří, že přijetí AI je pro budoucí úspěch firmy nezbytné?
Existuje centrální útvar, který prosazuje agendu AI, vzdělává celou organizaci a koordinuje aktivity?
Buduje technologický tým odborné znalosti, kapacity a vzory, které umožňují rychlejší a bezpečnější vývoj AI?
Dostávají se verze do produkce bez překážek způsobených nezodpovězenými otázkami ohledně chování AI?
Pokud je odpověď na kteroukoli z těchto otázek záporná, víte, kde začít budovat důvěru organizace, že AI lze rychle a konzistentně nasazovat a získat tak konkurenční výhodu v oblastech, kde na ní skutečně záleží.