Všichni jsme zažili neuspokojivou interakci s AI nebo známe lidi, kteří „nenávidí chatboty“, často proto, že základní prostředí není užitečné, přínosné ani příjemné. Toto zklamání často nesouvisí ani tak se schopnostmi modelu jako se samotnou zkušeností: s interakcí mezi lidmi, agentem AI a požadovaným výsledkem. Jde o významnou překážku přijetí, zejména ve firmách, kde špatně navržené interakce mohou uživatele zahltit, opomíjet aktuální kontext nebo přehlížet jejich záměr a chování.
Z tohoto pohledu jsme u každého vzorce určili jeho přínosy, související designové výzvy a praktické pokyny k použití. Tyto vzorce lze použít napříč typy a modalitami interakce. Vytvářejí příležitosti pro spotřebitelská prostředí i interní řešení AI, která znalostním pracovníkům pomáhají lépe se rozhodovat.
Chceme se podělit o nové vzorce, které pozorujeme při vývoji a zkoušení mnoha řešení generativní AI, a pomoci tak navrhovat lepší vztahy mezi lidmi a AI.
Mnoho našich interakcí s technologiemi, ať už při práci se znalostmi, nebo jako spotřebitelé, zbytečně komplikuje každodenní úkoly. Omezují naši produktivitu, efektivitu i přínos.
Znalostní pracovníky i spotřebitele může zahltit obrovské množství dostupných informací, možností a nástrojů. Tento neustálý příval často protichůdných sdělení ztěžuje jasné rozhodování i udržení pozornosti. Výzkumy naznačují, že zaměstnanci tráví až 40 % pracovního dne pouhým hledáním potřebných informací (McKinsey). Toto zahlcení informacemi ovlivňuje produktivitu i duševní pohodu.
Máme také omezenou kapacitu pozornosti. I když informace najdeme, nedokážeme zpracovat či analyzovat vše potřebné pro informované rozhodnutí. V daném okamžiku se dokážeme soustředit jen na malou část dostupných dat a často se držíme dosavadních přesvědčení či nápadů, které nám brání zvažovat alternativy nebo odhalovat nečekané vzorce.
Samotné nástroje tato omezení často nerozpoznávají. Většina technologií je navržena pro „průměrného“ uživatele — univerzální řešení se nepřizpůsobují individuálnímu kontextu. Ať používáme pracovní software, nebo spotřebitelské aplikace, tyto nástroje málokdy zohledňují naše potřeby, omezení či jedinečnou situaci. Technologie tak může být neefektivní, nebo dokonce kontraproduktivní. Generativní AI přináší příležitost vytvářet přizpůsobivější a osobnější interakce.
Mnohá pracovní prostředí navíc vytvářejí zbytečné trápení. Rostoucí objem „práce pro práci“, tlak na neustálou dostupnost a opakované úkoly s nízkou přidanou hodnotou přispívají ke ztrátě motivace a chronickému stresu. Přestože by generativní AI a agenti AI mohli tyto zkušenosti omezit či odstranit, mnoho lidí stále nedůvěřuje schopnosti AI celkově zlepšit práci. Lidé mohou odmítat představu, že „AI převezme kontrolu“, protože se obávají nahrazení nebo cítí odpovědnost za svou práci — dokonce i za úkoly, které nemají rádi.
Pouhé nasazení AI není řešením. Špatně integrovaná AI může vytvářet nové úkoly a obavy, zejména u znalostních pracovníků. Tyto výzvy ukazují potřebu interakcí mezi lidmi a AI, které jsou nejen efektivní, ale také odpovídají našim kognitivním schopnostem, individuální situaci a omezením skutečného světa. Následujících šest vzorců představuje přístupy, které respektují potřeby lidí a podporují přizpůsobivější, transparentnější a smysluplnější vztah s AI.
Vztah mezi novými designovými vzorci a principy efektivních prostředí AI zaměřených na člověka.
Kurátorství: AI jako inteligentní nabídka — AI vybírá a uspořádává informace, čímž omezuje zahlcení a pomáhá lidem orientovat se v rozsáhlých datových sadách.
Poskytování zpětné vazby: AI jako partner pro přemýšlení — AI poskytuje v reálném čase podnětnou zpětnou vazbu, která zpochybňuje předpoklady a nabízí alternativní pohledy.
Situační povědomí: AI, která rozumí tomu, co se děje tady a teď — AI se přizpůsobuje aktuálnímu kontextu průběžným zpracováváním informací o prostředí a potřebách uživatele.
Průběžné objevování: každá interakce jako uživatelský výzkum — AI využívá každou interakci uživatele k odhalování poznatků a zpřesňování svého porozumění, čímž podporuje nepřetržité učení a zlepšování.
Rozšíření: obohacení zadání uživatele pro lepší výsledky — AI na pozadí vylepšuje zadání a přitom zachovává původní záměr uživatelů.
Ukázka postupu: transparentní uvažování AI — AI zviditelňuje a zpřístupňuje svůj rozhodovací proces, čímž posiluje důvěru a pomáhá uživatelům činit informovanější rozhodnutí.
Těchto šest vzorců ukazuje, že efektivní řešení AI vyžadují více než jen dobře navržené uživatelské rozhraní. Určují, jak lidé a agenti AI spolupracují, rozhodují se a komunikují ve složitých znalostních systémech. Tyto vzorce zlepšují interakci člověka s AI následujícími způsoby:
Upřednostňují obousměrnou výměnu znalostí: Umožňují dialog, v němž AI i lidé přispívají nápady, kontextem a poznatky. To podporuje schopnější systémy AI využívající dosud neformalizované odborné znalosti a intuici.
Vytvářejí prostředí, která se přizpůsobují měnícím se okolnostem: Nástroje AI mohou rychle zastarat nebo přestat být relevantní. Systémy, které si udržují situační povědomí, průběžně se učí a přizpůsobují okolnostem jednotlivých uživatelů, zůstávají užitečné i v čase.
Posilují důvěru a jistotu: Transparentní a kooperativní interakce snižují překážky přijetí, zvyšují zapojení a zlepšují rozhodování lidí i AI. Promyšlený design pomáhá lidem dlouhodobě důvěřovat rozhodnutím a výstupům systému.
Navrhování efektivních prostředí AI je náročné, mohou však pomoci osvědčené přístupy. Základní principy porozumění uživatelům a vytváření užitečných prostředí platí i nadále, doplňují je však nové aspekty systémů AI schopných samostatně jednat. Prostředí, která efektivně vybírají informace, poskytují užitečnou zpětnou vazbu a transparentně se učí, mohou omezit zahlcení, zlepšit rozhodování a budovat důvěru.
Tyto vzorce pomáhají překonávat běžné překážky přijetí a činí AI skutečně užitečnou, přizpůsobivou a přínosnější pro všechny zúčastněné.
Následující průvodce rozebírá jednotlivé vzorce podrobněji a vysvětluje, jak mohou podpořit širší uživatelské prostředí AI.
Co to je: Namísto ručního procházení nekonečných výsledků vyhledávání či dokumentů mohou agenti AI vybírat informace z rozsáhlých datových sad a předkládat ty nejrelevantnější poznatky. AI se v podstatě stává knihovníkem, který uspořádává znalosti podle kontextu uživatele.
Proč je to užitečné: Omezuje to zahlcení informacemi. Průměrný znalostní pracovník tráví 1,8 hodiny denně hledáním informací, což u mnoha zaměstnanců přispívá k vyhoření (McKinsey). Kurátorství využívající AI tento problém řeší indexováním, vyhledáváním a propojováním informací z mnoha zdrojů. Pomáhá tak uživatelům objevit informace, možnosti a poznatky, které by při běžném vyhledávání mohli přehlédnout.
Výzva: Přechod od tradičního vyhledávání přes rozhraní k přístupu s podporou agenta vyžaduje, aby uživatelé přizpůsobili svá očekávání. Lidé jsou zvyklí procházet seznam odkazů nebo filtrovat datovou sadu pomocí tlačítek. Kurátor využívající AI naproti tomu sestavuje odpovědi ze zdrojů, o jejichž existenci uživatelé možná ani nevědí. Uživatelé tak mohou mít menší pocit kontroly nad filtrováním a musí důvěřovat volbám agenta. Známé mechanismy vyhledávání mohou lidem usnadnit přechod ke kurátorství s využitím AI, aniž by ztratili důvěru či kontrolu.
Jak OpenAI využívá známé vzorce interakce k podpoře strukturovaného i nestrukturovaného vyhledávání informací.
Nabídněte vyhledávací mechanismy jako známé interakce:
Přechod od tradičního vyhledávání usnadníte známými interakcemi namísto prázdných ploch. Uživatelé se budou cítit jistěji, pokud prostředí staví na známých možnostech, dotaznících a kontextových návrzích.
Používejte tlačítka jako prompty namísto vyžadování otevřeného zadání:
Zadávání volného textu může působit náročně nebo zdlouhavě. Přednastavená či automaticky generovaná tlačítka zpřístupňují kurátorství širšímu okruhu uživatelů. Uživatelům mohou pomoci zpřesnit výsledky například možnosti „Filtrovat podle nejnovějších“, „Porovnat ceny“ a „Zahrnout globální zdroje“. Tím se snižuje bariéra zapojení, podporuje objevování a doporučení AI se přizpůsobují záměru uživatele.
Umožněte uživatelům zpřesnit výsledky vyprávěním příběhu:
Někdy vyprávění příběhu vyjádří potřeby uživatele lépe než přímé dotazy nebo filtry. Ve složitých situacích, například při orientaci v nepřehledných přehledech nebo hledání správného produktu, mohou uživatele tradiční nástroje zahltit nebo nemusí vědět, které parametry upravit.
Když mohou uživatelé „vyprávět svůj příběh“ a popsat problém, osobní cíl či požadovaný produkt, AI dokáže jejich vyprávění převést na strukturované parametry vyhledávání. Například člověk, který řekne „Právě jsem se přestěhoval do menšího bytu a potřebuji všestranné a cenově dostupné úložné řešení“, může dostat vybrané návrhy produktů, praktické tipy a relevantní doporučení.
Vyprávění příběhu nejen snižuje kognitivní zátěž spojenou s volbou filtrů, ale také posiluje důvěru v konečný výběr a usnadňuje jeho pochopení.
Přizpůsobte objevování pomocí memů a kulturních odkazů:
Memy mohou kurátorství pomocí AI podpořit dvěma způsoby: prohlubují porozumění agenta uživateli a oživují výsledky vyhledávání lidštějším a srozumitelnějším způsobem. Zaprvé, když uživatelé vybírají nebo zmiňují memy vyjadřující jejich cíle, náladu či styl („Dnes mám náladu ve stylu ‚Treat Yo Self‘!“), v podstatě tím AI sdělují svou „teorii mysli“. Agent tak může výběr lépe vyladit, protože odvodí kontext, který by se v běžném grafickém rozhraní nebo textovém dotazu mohl ztratit.
Zadruhé může agent výsledky „přehrát“ jako tematické „startovací balíčky“ inspirované popkulturou, takže doporučení působí relevantněji a osobněji. Pokud například někdo předělává domácí pracovnu, AI může vytvořit „startovací balíček pro práci z domova“, který propojí doplňky na stůl, technologie a inspiraci.
Dejte uživatelům jasno pomocí nejvhodnějších dalších kroků:
Ať už výsledky agenta AI splní očekávání, či nikoli, uživatelé by měli mít možnost snadno zpřesnit parametry. Mohou například požádat „Ukaž mi více podobných položce 2“ nebo „Vynech zdroje starší než rok 2020“. Navržené další kroky mohou nové uživatele vést, aniž by je zahltily.
Co to je: O agentech AI se často mluví jako o způsobu, jak delegovat práci, kterou tradičně vykonávali lidé. Jejich schopnosti spolupracovat v reálném čase se věnuje méně pozornosti. Místo pouhého plnění pokynů či generování obsahu může agent klást podnětné otázky, zpochybňovat předpoklady a nabízet alternativní pohledy. AI se tak stává partnerem pro přemýšlení, který uživatelům pomáhá průběžně zlepšovat jejich práci.
Proč je to užitečné: Včasná zpětná vazba prospívá všem, ne vždy ji však dostáváme. Nesouhlas i podpora nám mohou pomoci rozpoznat vzorce dříve, než příliš přilneme k určitému nápadu. Agenti AI mohou zpochybňovat naše předpoklady, vytvářet nápady a navrhovat alternativní interpretace dat, aniž by nahrazovali lidský úsudek. Zjistili jsme, že lidé na tento druh zpětné vazby od agenta často reagují dobře.
Agenti AI mohou vytvářet protiargumenty, které odhalí mezery v uvažování nebo upozorní na jiné úhly pohledu.
Výzva: Zpětná vazba AI musí být intuitivní a prakticky využitelná, jinak pouze rozptyluje. Lidé nestojí o agenta, který je přerušuje nerelevantními návrhy nebo hnidopišsky řeší každý detail. AI by měla zasahovat ve vhodných chvílích a správným tónem. Pokud je příliš pasivní, promarní užitečné příležitosti; pokud je příliš důrazná, uživatelé mohou mít pocit, že zpochybňuje jejich úsudek.
Výzvou je způsob prezentace zpětné vazby AI: má se zobrazovat jako nápověda, volitelná kontrola, nebo obousměrný dialog? Správně navržená interakce rozhodne, zda uživatelé přijmou AI jako partnera, nebo v ní uvidí jen Sponku 2.0.
Zajistěte, aby zpětná vazba byla proaktivní, ale ne obtěžující:
Nechte AI nabízet návrhy v přirozených předělech. V textovém editoru může například před návrhem úpravy počkat, až uživatel dokončí větu nebo odstavec. Zkoumali jsme také možnost, aby agent po výběru prázdného textového pole chvíli počkal a teprve poté nabídl pomoc. Na tónu záleží: „Tady je námět ke zvážení…“ působí konstruktivněji než strohé tvrzení.
Proměňte zpětnou vazbu v objevný dialog:
Pokud je zpětná vazba nejasná, umožněte uživatelům snadno položit otázku, například „Proč navrhuješ tuto změnu?“ Zvídavá osobnost AI může dodat komunikaci konstruktivnější ráz. Podobně jako pozorný terapeut či facilitátor může agent ve správný okamžik klást relevantní otázky a proměnit zpětnou vazbu v rozhovor, který uživateli pomáhá učit se.
AI tak také získává kontext, díky němuž si uživatel a agent mohou vytvořit jasnější společné porozumění.
Nabídněte více možností, nápadů či alternativ:
Místo jediného nápadu, řešení či podnětu může agent představit několik pohledů. Designový agent může například vytvořit tři alternativní rozvržení, zatímco agent pro psaní navrhne různé verze věty pro různá publika. Nabídka více možností zdůrazňuje, že kontrola zůstává v rukou uživatele.
Zajistěte, aby zpětná vazba zohledňovala kontext:
Agent by měl svou roli „partnera pro přemýšlení“ přizpůsobit aktuálnímu kontextu uživatele. Pokud se někdo zastaví u otázky nebo textového pole, AI může položit podnětnou otázku, místo aby ihned nabídla hotovou odpověď. Když uživatel potřebuje jen přeformulovat větu, stručný návrh, který lze přijmout či odmítnout, mu pomůže zachovat kontrolu nad výsledkem.
AI musí především vědět, kdy ustoupit. Zdlouhavá komunikace může vést k „začarovanému kruhu“ nekonečných úprav a podkopat sebedůvěru uživatele. Pokud agent AI pozorně sleduje kontext a kroky uživatele, může zpětnou vazbu přizpůsobit tak, aby skutečně pomáhala a nepřekračovala hranice.
Co to je: Situační povědomí je schopnost agenta interpretovat kontextové informace v reálném čase a odpovídajícím způsobem upravovat své chování. Agenti AI se nemusí spoléhat jen na předem stanovené vstupy. Mohou průběžně zpracovávat informace o prostředí, aktuálním stavu uživatele a dalších relevantních podmínkách.
Mohou například přizpůsobit rozhraní okamžitým potřebám uživatele nebo zohlednit aktuální situaci na trhu, aby byly odpovědi relevantnější.
Proč je to užitečné: Skutečný svět není statický. Systémy AI se situačním povědomím mohou být užitečnější, protože reagují na aktuální podmínky. Když agent rozumí relevantnímu kontextu, interakce působí přirozeněji, osobněji a pevněji zakotvené v realitě.
Výzva: Vytvořit AI se skutečným situačním povědomím je náročné. Přístup k potřebným datům a jejich integrace mohou přinést značnou technickou složitost.
Mezi užitečným vnímáním kontextu a rušivým překračováním hranic vede tenká hranice. Uživatelé oceňují agenta, který „chápe situaci“, může jim však být nepříjemné, pokud žádá příliš mnoho informací nebo působí neodbytně. Protože se okolnosti mohou rychle měnit, lidská odbornost a úsudek zůstávají nezbytné.
Efektivní systém AI proto potřebuje podněty uživatelů, aby si udržel užitečné a aktuální povědomí o jejich situaci.
Ukažte uživatelům, jak vypadá kvalitní kontext:
Modely uvažování, jako je OpenAI o1, změnily způsob, jakým lidé poskytují kontext velkým jazykovým modelům. Bez ohledu na model umožňuje podrobný kontext poskytovat relevantnější odpovědi. Jasné příklady, zástupný text a rozbalovací tipy mohou uživatelům ukázat, které informace mají uvést, a vysvětlit, proč jsou důležité.
Názorná ukázka „kvalitního kontextu“ odstraňuje dohady, které jinak lidem brání uvádět podstatné podrobnosti.
Usnadněte vymezení hranic agenta:
Okamžité potřeby uživatele jsou důležité, ale nemusí být zřejmé. Agent se situačním povědomím může společně s uživatelem vymezit témata, oblasti a nástroje, které má prozkoumat. Hloubkový výzkum v ChatGPT tento přístup podporuje tím, že před zahájením výzkumné úlohy klade upřesňující otázky.
Zobrazte kontext pro rychlé úpravy a doplnění:
Uživatelé mohou potřebovat přehled toho, co AI aktuálně předpokládá o jejich cílech, zaměření a zdrojích dat. Samostatný panel může vysvětlovat datum uzávěrky znalostí, aktuální předpoklady a relevantní vstupy. Ikona může upozornit na používání údajů o poloze, zatímco shrnutí může uvádět, kolik záznamů přispělo k danému poznatku.
Lidem prospívá, když vidí, co AI „ví“, a mohou snadno doplňovat, odebírat či aktualizovat relevantní kontext.
Nechte AI vybírat funkce uživatelského rozhraní podle jejich užitečnosti:
Agenti AI mohou na základě situačních podnětů selektivně zapínat či vypínat jednotlivé funkce. Když někdo připravuje odbornou zprávu, agent může aktivovat pokročilé citační nástroje; při úpravách poznámek k prezentaci může zvýraznit editační funkce. To podporuje soustředěnou práci, aniž by uživatelé museli ručně spravovat každé nastavení.
Co to je: Design uživatelského prostředí a vývoj produktů často považují uživatelský výzkum za samostatnou fázi na začátku projektu nebo v předem daných intervalech. Průběžné objevování chápe poznávání chování, potřeb a preferencí uživatelů jako nepřetržitý proces. AI může z rozhovorů, kliknutí a zpětné vazby vytvářet příležitosti k odhalení poznatků, které uživatelé výslovně nevyjádří.
AI se tak v podstatě dál učí a v reálném čase se přizpůsobuje dané oblasti problému.
Proč je to užitečné: Získat od odborníků, praktiků a běžných uživatelů užitečnou zpětnou vazbu k účinnosti či použitelnosti výstupu AI může být obtížné. Agenti mohou pomoci zachytit reakce, poznatky a intuici v kontextu, dokud je daná zkušenost ještě čerstvá.
Výzva: Zpětná vazba často zachytí, co se stalo nebo zda se uživateli výsledek líbil, ale nevysvětlí proč. Požadovat po lidech, aby si pamatovali a zaznamenávali každý krok svého uvažování, může být zatěžující, i když by tyto poznatky zlepšily budoucí schopnosti systému.
To je zvlášť důležité u přísně omezených systémů AI, kde otevřená konverzace nemusí být žádoucí ani možná.
Zachycujte reakce pomocí popisných štítků:
Prostý „palec nahoru“ nebo „palec dolů“ málokdy vysvětlí reakci uživatele. Popisné štítky, například „užitečné pro plánování rozpočtu“ nebo „chybí informace o předpisech“, poskytují užitečnější kontext. Tyto štítky mohou vystihnout aktuální interakci nebo vyzvat uživatele ke krátkému komentáři, a proměnit tak hodnocení v informace, z nichž se AI může učit.
Směrujte agenty AI pomocí „výukových kartiček“:
Když AI udělá chybu nebo uspěje jen částečně, nabídněte uživatelům jednoduchý způsob, jak ji opravit či „učit“. Agent se například může zeptat: „Jak byste to formulovali?“ nebo „Který detail jsme přehlédli?“ Výsledné pokyny lze uložit pro aktuální interakci nebo znovu použít později.
Učte se z opakování a variant:
Někdy je nejlepší zpětnou vazbou nový pokus. Jednoduché ovládací prvky pro nové generování umožní uživatelům porovnávat nové možnosti a určit, kterým dávají přednost. Tyto volby propojují původní zadání s užitečnějším výsledkem a začleňují experimentování do procesu učení.
Sledujte interakce:
Agenti AI mohou spolupracovat a učit se napříč více interakcemi. Zatímco například jeden agent vytváří shrnutí výzkumu, jiný může analyzovat komunikaci a vyhodnocovat uživatelskou zkušenost. Tito agenti mohou podobně jako etnografové odhalovat rozdíly mezi záměrem člověka a jeho vnímáním kvality výstupu.
Tato pozorování mohou podporovat průběžné zlepšování tím, že odhalují poznatky a navrhují změny systému.
Co to je: Rozšíření upravuje zadání, prompt či pokyn uživatele tak, aby přinesl lepší výsledek a přitom zachoval původní záměr. AI provádí na pozadí další práci nad rámec výslovného požadavku. Například „stínové promptování“ může dotaz obohatit ještě předtím, než systém vygeneruje odpověď.
Uživatel zadá počáteční myšlenku a agent toto zadání rozšíří, pokud tím může výsledek zlepšit.
Proč je to užitečné: Lidé často zadávají stručné nebo obecné pokyny, přestože nejlepší odpověď může vyžadovat další kroky. Agenti AI mohou tuto mezeru překlenout, aniž by uživatelé museli všechno vysvětlovat. Například požadavek na AI „brainstorm marketing ideas for my new coffee product“ by jinak mohl vést jen k obecnému seznamu.
Rozšířený přístup může uskutečnit několik stále ambicióznějších brainstormingů a spojit nejsilnější nápady, čímž vznikne bohatší a rozmanitější výsledek.
Výzva: Práce na pozadí může oslabit pocit uživatele, že má výsledek ve svých rukou, a snížit transparentnost. Pokud AI upraví něčí požadavek bez vysvětlení, může vytvořit výsledek, který uživatel nechtěl. Designéři musí vyvážit přínos rozšíření s rizikem nežádoucí manipulace.
Designovou výzvou je umožnit uživatelům, aby rozšíření řídili, pokud o to stojí.
Zachovejte záměr uživatele a dále jej rozvíjejte:
Rozšíření by mělo podpořit cíle, které uživatel uvedl, aniž by přidávalo nové. Poté, co AI rozšíří prompt nebo dokončí úlohy na pozadí, by měla ona či samostatný validátor porovnat konečný výstup s původním požadavkem. Neočekávané doplnění je třeba jasně sdělit.
Využívejte rozšíření k podpoře bezpečnosti a kreativity:
Techniky jako stínové promptování mohou vyvolávat obavy ze skrytého přeformulování požadavků uživatele. Chcete-li zachovat důvěru, používejte je ke zvýšení srozumitelnosti, bezpečnosti či úplnosti, aniž byste narušili záměr uživatele. Pokud je nutná úprava kvůli bezpečnosti, vysvětlete ji nebo poskytněte okamžitou zpětnou vazbu.
Uživatelé mohou vidět výsledek moderování, aniž by znali použitou logiku či kritéria.
Využívejte osvědčené facilitační techniky:
Agenti AI mohou k utváření produktivních interakcí využívat metody facilitace a spolupráce, například Liberating Structures. Tyto jednoduché rámce pomáhají naplno využít tvůrčí a analytický potenciál člověka.
Agent může během konverzace využívat známé metody brainstormingu a filtrování nápadů. Drobné změny v průběhu komunikace mohou přinést širší škálu nápadů a poznatků.
Odhalte užitečný obsah pomocí paralelních vláken:
Místo jediné lineární komunikace může agent současně zkoumat několik interpretací, nápadů či řešení. Připomíná to skupinu odborníků, kteří hledají nápady z různých úhlů pohledu, aniž by přišli o užitečné poznatky.
Koordinační proces může tyto různé směry zkoumání spojit do ucelené a prakticky využitelné odpovědi.
Využívejte rozšíření ke vzdělávání uživatelů:
Dobře navržené rozšíření může lidem také pomoci naučit se efektivněji pracovat s AI. Pokud agent vysvětlí „Ve své odpovědi jsem zohlednil X a Y“, mohou uživatelé tyto faktory zahrnout do budoucích požadavků. Vzniká tak oboustranné zlepšování: lepší odpovědi nyní a postupně také kvalitnější zadání.
Co to je: Tento vzorec usnadňuje pochopení uvažování agentů AI. Promyšlené interakce mohou vysvětlit, proč agent vytvořil určitou odpověď, upozornit na podpůrné zdroje nebo zobrazit relevantní kroky jeho postupu. Cílem je podporovat efektivní rozhodování lidí, aniž by byli zahlceni.
Zobrazení relevantního uvažování funguje nejlépe, když je uživatelé mohou procházet postupně a zvolit si potřebnou míru podrobností.
Proč je to užitečné: Důvěra je pro přijetí AI zásadní, zejména ve firemním prostředí. Lidé se méně spoléhají na systém, jehož chování nemohou pochopit ani ověřit. Transparentní výstupy usnadňují diagnostiku problémů, opravu chyb a opakování užitečných postupů.
Výzva: Vysvětlování rozhodnutí AI může být obtížné. Příliš mnoho detailů může uživatele zahltit, zatímco pravděpodobnosti nebo dlouhá shrnutí uvažování se mohou obtížně interpretovat. Samotná transparentnost navíc nezaručuje přesnost.
Designéři musí zvažovat kvalitu vysvětlení, srozumitelnost jeho prezentace a způsob, jakým lze podpůrné důkazy začlenit do užitečného dialogu.
Umožněte agentům uvažovat zeširoka a poté výsledky zkraťte:
AI může problém analyzovat do hloubky a přitom výsledky podat ve snadno stravitelné podobě. Hierarchická shrnutí a postupné odhalování umožňují uživatelům začít hlavním poznatkem a rozbalit podpůrné podrobnosti, jen když je potřebují.
Dobře navržená interakce může usnadnit procházení složitých informací bez ztráty hloubky či srozumitelnosti.
Poskytněte citace a odkazy, které lze prozkoumat:
Odpovědi generované AI by měly uživatelům nabídnout jasný způsob, jak si prohlédnout podpůrné zdroje. Může jít o odkazy, výňatky z interních zpráv, relevantní výsledky výzkumu nebo podrobnější pohled na kvantitativní data.
Například v systémech generování s podporou vyhledávání by uživatelé měli mít možnost přejít od shrnutí AI k důkazům, o něž se opírá. To podporuje ověřování a umožňuje hlubší zkoumání, které posiluje důvěru.
Sdělujte důležité signály o průběhu:
Složité pracovní postupy agentů mohou zahrnovat změnu směru, návrat k předchozím krokům nebo propojování několika směrů zkoumání. Uživatelé snášejí čekání lépe, když rozumějí tomu, co se děje. Jasné informace o průběhu mohou vysvětlit, co agent dokončil, na čem pracuje a co bude následovat.
Agent by měl také vysvětlit, kdy se nemůže posunout dál nebo kdy rozhodnutí vyžaduje další pohledy.
Odhalujte výstupy AI krok za krokem:
Místo zobrazení celé odpovědi najednou může agent informace odhalovat postupně. Investiční asistent může například zobrazit stručné doporučení s možností rozbalit jeho zdůvodnění: „Krok 1: Posoudit rizikový profil. Krok 2: Zkontrolovat aktuální portfolio. Krok 3: Určit příležitosti k diverzifikaci. Krok 4: Formulovat doporučení.“ Uživatelé, kteří chtějí více podrobností, mohou prozkoumat jednotlivé kroky, ostatním postačí shrnutí.
Používejte vizuální vysvětlení uvažování AI:
Vysvětlení by měla být stejně srozumitelná jako hlavní výstup. Pokud uvažování zahrnuje čísla nebo vztahy, mohou pomoci grafy a diagramy. Vizualizace dotazů, postupu, uvažování a zdrojů agenta může uživatelům také pomoci upravit jeho směr, vysvětlit výsledek ostatním nebo postup později zopakovat.
Jasná vizuální vysvětlení pomáhají uživatelům informace rychleji pochopit a využít.