Tutti abbiamo avuto interazioni deludenti con l’IA o conosciamo persone che «odiano i chatbot», spesso perché l’esperienza «standard» non è utile, valida o piacevole. Spesso la delusione dipende meno dalle capacità di un modello che dall’esperienza stessa: l’interazione tra le persone, un agente IA e il risultato desiderato. È un ostacolo significativo all’adozione, soprattutto in ambito aziendale, dove interazioni mal progettate possono generare sovraccarico, ignorare il contesto in tempo reale o trascurare intenzioni e comportamenti degli utenti.
Da questa prospettiva, abbiamo individuato i vantaggi offerti da ciascuno schema, le relative sfide progettuali e indicazioni pratiche per applicarlo. Questi schemi si applicano a diversi tipi e modalità di interazione, creando opportunità sia per esperienze rivolte ai consumatori sia per soluzioni IA interne che aiutano chi svolge un lavoro intellettuale a prendere decisioni migliori.
Vogliamo condividere gli schemi emergenti che osserviamo, sviluppando e sperimentando numerose soluzioni di IA generativa, per contribuire a progettare relazioni migliori tra persone e IA.
Molte delle nostre interazioni con la tecnologia, sia come lavoratori della conoscenza sia come consumatori, rendono le attività quotidiane più difficili del necessario. Limitano la nostra produttività, efficacia e capacità di creare valore.
Sia chi svolge un lavoro intellettuale sia i consumatori possono sentirsi sopraffatti dall’enorme quantità di informazioni, opzioni e strumenti disponibili. Questo bombardamento costante di messaggi spesso contraddittori rende più difficile prendere decisioni chiare o mantenere la concentrazione. Secondo le ricerche, i dipendenti dedicano fino al 40% della giornata lavorativa alla sola ricerca delle informazioni necessarie (McKinsey). Questo sovraccarico informativo incide sia sulla produttività sia sul benessere.
Disponiamo inoltre di una capacità di attenzione limitata. Anche quando troviamo le informazioni, non possiamo elaborare o analizzare tutto ciò che serve per prendere una decisione consapevole. Possiamo concentrarci solo su una piccola parte dei dati disponibili in un dato momento, spesso aggrappandoci a convinzioni o idee esistenti che limitano la capacità di valutare alternative o individuare schemi inattesi.
Spesso gli strumenti stessi non riconoscono questi limiti. La maggior parte della tecnologia è progettata per la «media»: soluzioni universali che non si adattano ai singoli contesti. Che si tratti di software aziendale o app per consumatori, questi strumenti raramente tengono conto delle nostre esigenze, dei nostri vincoli o delle nostre circostanze specifiche. Di conseguenza, la tecnologia può diventare inefficiente o controproducente. L’IA generativa offre l’opportunità di creare interazioni più adattive e personali.
Infine, molti ambienti di lavoro generano un malessere inutile. La crescente mole di attività inutili, la pressione a essere «sempre disponibili» e le mansioni ripetitive e di scarso valore contribuiscono al disimpegno e allo stress cronico. Sebbene l’IA generativa e gli agenti IA possano ridurre o eliminare queste esperienze, molte persone continuano a diffidare della capacità dell’IA di migliorare il lavoro nel complesso. Le persone possono opporsi all’idea che «l’IA prenda il sopravvento» perché temono di essere sostituite o sentono un forte legame con il proprio lavoro, anche con le attività che non amano.
Applicare l’IA, da solo, non è una soluzione. Un’IA mal integrata può creare nuove attività e ansie, soprattutto per chi svolge un lavoro intellettuale. Queste sfide dimostrano la necessità di interazioni tra persone e IA che non siano solo efficienti, ma anche in linea con le nostre capacità cognitive, le circostanze individuali e i vincoli del mondo reale. I sei schemi seguenti delineano approcci che riconoscono le esigenze delle persone e favoriscono una relazione più adattiva, trasparente e significativa con l’IA.
Il rapporto tra gli schemi progettuali emergenti e i principi per esperienze IA efficaci e incentrate sulle persone.
Selezione: l’IA come menu intelligente — L’IA seleziona e organizza le informazioni, riducendo il sovraccarico e aiutando le persone a orientarsi in enormi set di dati.
Fornire feedback: l’IA come partner di riflessione — L’IA fornisce in tempo reale feedback stimolanti che mettono in discussione le premesse e offrono prospettive alternative.
Consapevolezza situazionale: un’IA che comprende il qui e ora — L’IA si adatta al contesto in tempo reale elaborando continuamente informazioni ambientali ed esigenze dell’utente.
Scoperta continua: trasformare ogni interazione in ricerca sugli utenti — L’IA usa ogni interazione per ricavare indicazioni e perfezionare la propria comprensione, garantendo apprendimento e miglioramento continui.
Amplificazione: potenziare l’input dell’utente per risultati migliori — L’IA migliora dietro le quinte l’input degli utenti preservandone l’intento originale.
Mostrare il procedimento: ragionamento trasparente dell’IA — L’IA rende visibile e utile il proprio processo decisionale, promuovendo la fiducia e aiutando gli utenti a prendere decisioni più consapevoli.
Questi sei schemi mostrano che soluzioni IA efficaci richiedono più di un’interfaccia utente ben progettata. Definiscono il modo in cui persone e agenti IA si coordinano, prendono decisioni e interagiscono all’interno di sistemi di conoscenza complessi. Gli schemi migliorano l’interazione tra persone e IA nei modi seguenti:
Dare priorità allo scambio bidirezionale di conoscenze: favorire un dialogo in cui l’IA e le persone contribuiscono con idee, contesto e indicazioni. Ciò favorisce sistemi di IA più capaci, informati da conoscenze specialistiche e intuizioni non ancora codificate.
Creare esperienze che si adattano e cambiano in base alle circostanze: gli strumenti di IA possono diventare rapidamente obsoleti o irrilevanti. I sistemi che mantengono la consapevolezza situazionale, apprendono continuamente e si adattano alle circostanze di ogni utente restano utili nel tempo.
Aumentare fiducia e sicurezza: interazioni trasparenti e collaborative riducono gli ostacoli all’adozione, accrescono il coinvolgimento e migliorano le decisioni sia umane sia dell’IA. Una progettazione attenta aiuta le persone a mantenere nel tempo la fiducia nelle decisioni e negli output di un sistema.
Progettare esperienze IA efficaci è difficile, ma gli approcci collaudati possono essere d’aiuto. I principi fondamentali per comprendere gli utenti e creare esperienze utili restano validi, insieme alle nuove considerazioni introdotte dai sistemi di IA dotati di autonomia operativa. Esperienze che selezionano efficacemente le informazioni, forniscono feedback utili e apprendono in modo trasparente possono ridurre il sovraccarico, migliorare le decisioni e creare fiducia.
Questi schemi aiutano a superare gli ostacoli comuni all’adozione, rendendo l’IA davvero utile, adattabile e più preziosa per tutte le persone coinvolte.
La guida seguente esamina ogni schema in maggiore dettaglio e spiega come può contribuire a un’esperienza IA più ampia.
Che cos’è: anziché passare manualmente al vaglio infiniti risultati di ricerca o documenti, gli agenti IA possono selezionare informazioni da enormi set di dati e presentare gli elementi più pertinenti. In sostanza, l’IA diventa una bibliotecaria che organizza le conoscenze in base al contesto dell’utente.
Perché è utile: riduce il sovraccarico informativo. In media, chi svolge un lavoro intellettuale dedica 1,8 ore al giorno alla ricerca di informazioni, contribuendo al burnout di molti dipendenti (McKinsey). La selezione basata sull’IA affronta il problema indicizzando, trovando e combinando informazioni da un’ampia varietà di fonti, per aiutare gli utenti a scoprire informazioni, opzioni e indicazioni che potrebbero sfuggire con una ricerca tradizionale.
La sfida: il passaggio dalla ricerca tradizionale basata su interfacce a un approccio assistito da un agente richiede agli utenti di adeguare le proprie aspettative. Le persone sono abituate a consultare un elenco di link o a premere pulsanti per filtrare un set di dati. Un curatore IA, invece, sintetizza risposte da fonti di cui gli utenti potrebbero ignorare l’esistenza. Ciò può ridurre la percezione di controllo sui filtri e richiedere fiducia nelle scelte dell’agente. Meccanismi di ricerca familiari possono aiutare le persone ad adattarsi alla selezione basata sull’IA senza perdere fiducia o controllo.
Come OpenAI usa schemi di interazione familiari per favorire la scoperta di informazioni strutturate e non strutturate.
Presentare i meccanismi di ricerca come interazioni familiari:
Per agevolare il passaggio dalla ricerca tradizionale, proponi interazioni familiari anziché schermate vuote. Gli utenti si sentiranno più a loro agio se l’esperienza si basa su opzioni riconoscibili, questionari e suggerimenti contestuali.
Usare i pulsanti come prompt anziché richiedere input aperti:
L’inserimento di testo libero può intimidire o richiedere troppo tempo. Pulsanti preimpostati o generati automaticamente rendono la selezione più accessibile. Ad esempio, “Filter by most recent”, “Compare pricing” e “Include global sources” possono aiutare gli utenti a perfezionare i risultati. Questo riduce le difficoltà di partecipazione, incoraggia l’esplorazione e adatta i consigli dell’IA alle intenzioni dell’utente.
Consentire agli utenti di raccontare una storia per perfezionare i risultati:
A volte, un racconto comunica le esigenze dell’utente meglio di domande dirette o filtri. Nelle situazioni complesse, come orientarsi in dashboard dense o cercare il prodotto giusto, gli strumenti tradizionali possono risultare opprimenti e non è sempre chiaro quali parametri modificare.
Quando gli utenti possono «raccontare la propria storia», descrivendo un problema, un obiettivo personale o il prodotto desiderato, l’IA può tradurre il racconto in parametri di ricerca strutturati. Ad esempio, chi dice “I just moved into a smaller home and need versatile, budget-friendly storage solutions” potrebbe ricevere una selezione di prodotti, consigli pratici e raccomandazioni pertinenti.
Accogliere la narrazione riduce lo sforzo cognitivo necessario per scegliere i filtri e aumenta la fiducia e la chiarezza dei risultati selezionati.
Usare meme e riferimenti culturali per personalizzare la scoperta:
I meme possono favorire la selezione dell’IA in due modi: arricchiscono la comprensione dell’utente da parte dell’agente e rendono i risultati di ricerca più vivi, umani e riconoscibili. In primo luogo, scegliendo o citando meme che illustrano obiettivi, umore o stile (“I’m feeling the ‘Treat Yo Self’ vibe today!”), gli utenti condividono di fatto la propria «teoria della mente» con l’IA. Ciò aiuta l’agente a perfezionare la selezione deducendo un contesto che potrebbe andare perso in una normale interfaccia grafica o query testuale.
In secondo luogo, l’agente può riproporre i risultati in «starter pack» tematici o ispirati alla cultura pop, rendendo i consigli più pertinenti e personalizzati. Ad esempio, se qualcuno sta riprogettando un ufficio domestico, l’IA potrebbe creare un «WFH starter pack» che combina accessori da scrivania, tecnologia e fonti d’ispirazione.
Offrire chiarezza indicando le migliori azioni successive:
Che i risultati di un agente IA siano centrati o meno, gli utenti devono poter perfezionare facilmente i parametri. Ad esempio, potrebbero chiedere “Show me more like item 2” o “Exclude sources older than 2020”. Le azioni successive suggerite possono guidare i nuovi utenti senza sopraffarli.
Che cos’è: gli agenti IA sono spesso considerati un mezzo per delegare attività tradizionalmente svolte dalle persone. La loro capacità di collaborare in tempo reale riceve meno attenzione. Anziché limitarsi a seguire istruzioni o generare contenuti, un agente può porre domande stimolanti, mettere in discussione le premesse e offrire prospettive alternative. L’IA diventa così un partner di riflessione che aiuta gli utenti a migliorare il lavoro mentre prende forma.
Perché è utile: tutti traiamo beneficio da feedback tempestivi, ma non sempre li riceviamo. Sia il dissenso sia il sostegno possono aiutarci a individuare schemi prima di affezionarci troppo a un’idea. Gli agenti IA possono mettere in discussione le nostre premesse, generare idee e suggerire interpretazioni alternative dei dati senza sostituire il giudizio umano. Abbiamo riscontrato che le persone spesso reagiscono bene a questo tipo di feedback fornito dagli agenti.
Gli agenti IA possono generare controargomentazioni che rivelano lacune nel ragionamento o evidenziano prospettive alternative.
La sfida: il feedback dell’IA deve essere intuitivo e attuabile, altrimenti diventa una distrazione. Le persone non apprezzano un agente che interrompe con suggerimenti irrilevanti o trova da ridire su ogni dettaglio. L’IA dovrebbe intervenire nei momenti opportuni e con il tono giusto. Se è troppo passiva, si perdono opportunità utili; se è troppo aggressiva, gli utenti possono sentirsi continuamente messi in discussione.
La sfida è decidere come presentare il feedback dell’IA: sotto forma di suggerimenti, revisione facoltativa o dialogo bidirezionale? La qualità dell’interazione determinerà se gli utenti accoglieranno l’IA come partner o la vedranno semplicemente come Clippy 2.0.
Assicurarsi che il feedback sia proattivo ma non fastidioso:
Lascia che l’IA offra suggerimenti nei naturali momenti di pausa. In un editor di documenti, ad esempio, potrebbe attendere che una frase o un paragrafo siano completi prima di suggerire una revisione. Abbiamo anche valutato la possibilità che un agente attenda brevemente dopo la selezione di un campo di testo vuoto prima di offrire aiuto. Il tono conta: “Here’s an idea to consider…” suona più costruttivo di un’affermazione secca.
Trasformare il feedback in un dialogo esplorativo:
Se il feedback non è chiaro, consenti agli utenti di porre facilmente domande come “Why do you suggest changing this?” Un’IA dalla personalità curiosa può rendere lo scambio più costruttivo. Come un terapeuta o facilitatore attento, l’agente può porre domande pertinenti al momento giusto, trasformando il feedback in una conversazione che aiuta l’utente a imparare.
Ciò aiuta anche l’IA a raccogliere il contesto, consentendo all’utente e all’agente di sviluppare una comprensione condivisa più chiara.
Offrire più opzioni, idee o alternative:
Anziché proporre una sola idea, soluzione o sfida, un agente può presentare più prospettive. Ad esempio, un agente di progettazione potrebbe generare tre layout alternativi, mentre un agente di scrittura potrebbe suggerire versioni diverse di una frase per pubblici differenti. Offrire più opzioni ribadisce che il controllo resta all’utente.
Assicurarsi che il feedback tenga conto del contesto:
L’agente dovrebbe adattare il proprio ruolo di «partner di riflessione» al contesto attuale dell’utente. Se qualcuno si sofferma su una domanda o un campo di testo, l’IA potrebbe porre una domanda stimolante anziché intervenire subito con una risposta completa. Quando l’utente deve solo riformulare una frase, un suggerimento conciso che possa accettare o rifiutare contribuisce a preservarne il controllo.
È fondamentale che l’IA sappia quando farsi da parte: scambi troppo prolungati possono innescare un «circolo vizioso» di modifiche infinite e minare la fiducia dell’utente. Restando in sintonia con il contesto e le azioni dell’utente, l’agente IA può adattare il feedback affinché sia davvero utile senza oltrepassare i limiti.
Che cos’è: la consapevolezza situazionale è la capacità di un agente di interpretare in tempo reale le informazioni contestuali e adeguare di conseguenza il proprio comportamento. Anziché affidarsi solo a input predeterminati, gli agenti IA possono elaborare continuamente informazioni sull’ambiente, sullo stato attuale dell’utente e su altre condizioni pertinenti.
Ciò può significare adattare un’interfaccia alle esigenze immediate dell’utente o interpretare le condizioni di mercato attuali per rendere le risposte più pertinenti.
Perché è utile: il mondo reale non è statico. I sistemi di IA consapevoli della situazione possono essere più utili perché rispondono alle condizioni attuali. Quando un agente comprende il contesto pertinente, le interazioni risultano più naturali, personalizzate e concrete.
La sfida: creare un’IA dotata di autentica consapevolezza situazionale è difficile. Accedere ai dati necessari e integrarli può comportare una notevole complessità tecnica.
Il confine tra un’utile consapevolezza del contesto e un’invadenza eccessiva è sottile. Gli utenti apprezzano un agente che «capisce al volo», ma possono sentirsi a disagio se chiede troppe informazioni o appare eccessivamente insistente. Poiché le circostanze possono cambiare rapidamente, la competenza e il giudizio umani restano essenziali.
Un sistema di IA efficace necessita quindi dell’input degli utenti per mantenere una comprensione utile e aggiornata delle loro circostanze.
Mostrare agli utenti che aspetto ha un buon contesto:
I modelli di ragionamento come OpenAI o1 hanno cambiato il modo in cui le persone forniscono contesto ai modelli linguistici di grandi dimensioni. A prescindere dal modello, un contesto dettagliato favorisce risposte più pertinenti. Esempi chiari, testo segnaposto e suggerimenti espandibili possono mostrare agli utenti quali informazioni fornire e spiegare perché sono importanti.
Mostrare esplicitamente all’utente che aspetto ha un «buon contesto» elimina le incertezze che altrimenti impedirebbero di specificare dettagli significativi.
Facilitare la definizione dei limiti dell’agente:
Le esigenze immediate di un utente sono importanti, ma potrebbero non essere evidenti. Un agente consapevole della situazione può collaborare con l’utente per definire gli argomenti, gli ambiti e gli strumenti da esplorare. La funzionalità deep research di ChatGPT supporta questo approccio ponendo domande di chiarimento prima di iniziare un’attività di ricerca.
Mostrare il contesto per consentire modifiche e aggiunte rapide:
Gli utenti potrebbero aver bisogno di un quadro sintetico di ciò che l’IA presume in quel momento riguardo a obiettivi, priorità e fonti di dati. Un pannello dedicato può spiegare il limite temporale delle conoscenze, le ipotesi correnti e gli input pertinenti. Un’icona potrebbe indicare quando vengono usati i dati sulla posizione, mentre un riepilogo potrebbe mostrare quanti record hanno contribuito a un’indicazione.
È utile vedere ciò che l’IA «sa» e poter aggiungere, rimuovere o aggiornare il contesto pertinente con il minimo sforzo.
Lasciare che l’IA selezioni le funzionalità dell’interfaccia in base all’utilità:
Gli agenti IA possono attivare o disattivare selettivamente le funzionalità in base agli indizi situazionali. Quando qualcuno prepara un white paper, un agente potrebbe attivare strumenti avanzati per le citazioni; durante la modifica delle note del relatore, potrebbe invece evidenziare le funzioni di editing. Ciò favorisce esperienze mirate senza obbligare gli utenti a gestire manualmente ogni impostazione.
Che cos’è: la progettazione dell’esperienza e lo sviluppo del prodotto spesso trattano la ricerca sugli utenti come una fase distinta, all’inizio di un progetto o a intervalli prestabiliti. La scoperta continua considera la comprensione di comportamenti, esigenze e preferenze degli utenti un processo costante. L’IA può trasformare conversazioni, clic e feedback in opportunità per ricavare indicazioni che gli utenti potrebbero non esprimere esplicitamente.
In sostanza, l’IA continua ad apprendere e ad adattarsi allo spazio del problema in tempo reale.
Perché è utile: può essere difficile raccogliere da esperti, professionisti e utenti generici feedback utili sull’efficacia o l’usabilità di un output dell’IA. Gli agenti possono aiutare a cogliere reazioni, intuizioni e percezioni nel contesto, quando l’esperienza è ancora fresca.
La sfida: spesso il feedback descrive cosa è successo o se l’utente ha apprezzato il risultato, senza spiegarne il perché. Chiedere alle persone di ricordare e documentare ogni passaggio del loro ragionamento può essere gravoso, anche quando tali indicazioni migliorerebbero le capacità future del sistema.
Questo è particolarmente importante nei sistemi di IA con vincoli rigidi, dove uno scambio conversazionale aperto potrebbe non essere auspicabile né possibile.
Usare indicatori descrittivi per cogliere le reazioni:
Un semplice «pollice in su» o «pollice in giù» raramente spiega la reazione di un utente. Indicatori descrittivi, come «utile per pianificare il budget» o «mancano informazioni normative», forniscono un contesto più utile. Questi indicatori possono riflettere l’interazione in corso o invitare gli utenti a condividere brevemente il proprio punto di vista, trasformando una valutazione in informazioni da cui l’IA può imparare.
Guidare gli agenti IA con «flashcard»:
Quando l’IA sbaglia o riesce solo in parte, offri agli utenti un modo semplice per correggerla o «istruirla». Ad esempio, un agente potrebbe chiedere: “How would you phrase it?” oppure “What detail did we miss?” Le indicazioni così ottenute possono essere salvate per l’interazione corrente o riutilizzate in seguito.
Imparare da iterazioni e variazioni:
A volte il feedback migliore nasce da un nuovo tentativo. Semplici controlli di rigenerazione consentono agli utenti di confrontare nuove opzioni e individuare quelle che preferiscono. Queste scelte collegano l’input originale a un risultato più utile e rendono la sperimentazione parte del processo di apprendimento.
Osservare le interazioni:
Gli agenti IA possono collaborare per imparare da più interazioni. Ad esempio, mentre un agente crea una sintesi di ricerca, un altro può analizzare lo scambio per valutare l’esperienza. Agendo come etnografi, questi agenti possono individuare le differenze tra l’intento di una persona e la sua percezione della qualità dell’output.
Queste osservazioni possono favorire il miglioramento continuo facendo emergere indicazioni e suggerendo modifiche al sistema.
Che cos’è: l’amplificazione adatta l’input, il prompt o l’istruzione di un utente per produrre un risultato migliore, preservandone l’intento originale. L’IA svolge dietro le quinte attività aggiuntive che vanno oltre la richiesta esplicita. Ad esempio, lo «shadow prompting» può arricchire una query prima che il sistema generi una risposta.
L’utente fornisce un’idea iniziale e l’agente amplia l’input quando ciò può migliorare il risultato.
Perché è utile: spesso le persone forniscono istruzioni brevi o generiche, mentre la risposta migliore può richiedere passaggi aggiuntivi. Gli agenti IA possono colmare questa lacuna senza obbligare gli utenti a spiegare ogni dettaglio. Ad esempio, chiedere a un’IA “brainstorm marketing ideas for my new coffee product” potrebbe altrimenti produrre un elenco generico.
Un approccio amplificato potrebbe eseguire diverse sessioni di brainstorming via via più ambiziose e combinare le idee migliori, creando un risultato più ricco e variegato.
La sfida: lavorare dietro le quinte può ridurre la percezione di controllo e trasparenza dell’utente. Se un’IA modifica la richiesta di una persona senza spiegare il cambiamento, può produrre un risultato indesiderato. Chi progetta deve bilanciare l’utilità dell’amplificazione con il rischio di manipolazioni indesiderate.
La sfida progettuale consiste nel permettere agli utenti di guidare l’amplificazione quando lo desiderano.
Preservare l’intento dell’utente e svilupparlo:
L’amplificazione deve rafforzare gli obiettivi dichiarati dall’utente senza introdurne di nuovi. Dopo che l’IA ha ampliato un prompt o completato attività in background, l’IA stessa o un validatore distinto dovrebbe confrontare l’output finale con la richiesta originale. Le aggiunte inattese devono essere comunicate chiaramente.
Usare l’amplificazione per sicurezza e creatività:
Tecniche come lo shadow prompting possono suscitare dubbi sulla modifica occulta delle richieste degli utenti. Per mantenere la fiducia, usale per migliorare chiarezza, sicurezza o completezza senza compromettere l’intento dell’utente. Se è necessaria una modifica legata alla sicurezza, spiegala o fornisci un riscontro immediato.
Gli utenti possono vedere l’esito della moderazione senza conoscere la logica o i criteri sottostanti.
Adottare tecniche di facilitazione collaudate:
Gli agenti IA possono applicare metodi di facilitazione e collaborazione, come le Liberating Structures, per favorire interazioni produttive. Questi framework leggeri aiutano a massimizzare il potenziale creativo e analitico di una persona.
Durante una conversazione, l’agente può attingere a metodi familiari di brainstorming e selezione delle idee. Piccole variazioni nello svolgimento dello scambio possono generare una gamma più ampia di idee e indicazioni.
Usare percorsi paralleli per far emergere contenuti utili:
Anziché affidarsi a un unico scambio lineare, un agente può esplorare simultaneamente diverse interpretazioni, idee o soluzioni. È come un gruppo di esperti che conduce un brainstorming da prospettive diverse senza perdere indicazioni utili.
Un processo di coordinamento può combinare questi diversi percorsi esplorativi in una risposta coerente e attuabile.
Usare l’amplificazione per formare gli utenti:
Un’amplificazione ben progettata può anche insegnare alle persone a interagire più efficacemente con l’IA. Se un agente spiega “I considered X and Y in my answer”, gli utenti potrebbero includere questi fattori nelle richieste future. Si crea così un miglioramento reciproco: risposte migliori subito e input migliori nel tempo.
Che cos’è: questo schema rende più comprensibile il ragionamento degli agenti IA. Interazioni ben progettate possono spiegare perché un agente ha prodotto una risposta, evidenziare le fonti a supporto o rendere visibili i passaggi pertinenti del processo. L’obiettivo è favorire decisioni umane efficaci senza sopraffare l’utente.
Mostrare il ragionamento pertinente funziona meglio quando gli utenti possono esplorarlo gradualmente e scegliere il livello di dettaglio necessario.
Perché è utile: la fiducia è essenziale per l’adozione dell’IA, soprattutto in ambito aziendale. Le persone sono meno propense ad affidarsi a un sistema se non possono comprenderne o verificarne il comportamento. Output trasparenti facilitano la diagnosi dei problemi, la correzione degli errori e la ripetizione degli approcci utili.
La sfida: spiegare le decisioni dell’IA può essere difficile. Troppi dettagli possono sopraffare gli utenti, mentre probabilità o lunghe sintesi del ragionamento possono essere difficili da interpretare. La trasparenza da sola, inoltre, non garantisce l’accuratezza.
Chi progetta deve considerare la qualità della spiegazione, la chiarezza della sua presentazione e il modo in cui le prove a supporto possono entrare a far parte di un dialogo utile.
Consentire agli agenti di ragionare in modo ampio e poi sintetizzare i risultati:
L’IA può analizzare a fondo un problema presentando al contempo i risultati in un formato facilmente assimilabile. Sintesi gerarchiche e divulgazione progressiva consentono agli utenti di partire dall’indicazione principale ed espandere i dettagli a supporto solo quando serve.
Un’interazione ben progettata può rendere facili da esplorare informazioni complesse senza sacrificare profondità o chiarezza.
Fornire citazioni e riferimenti esplorabili:
Le risposte generate dall’IA dovrebbero offrire agli utenti un modo chiaro per esaminare le fonti a supporto. Potrebbero includere link, estratti da report interni, risultati di ricerca pertinenti o una vista più approfondita dei dati quantitativi.
Nei sistemi di generazione aumentata tramite recupero, ad esempio, gli utenti dovrebbero poter passare da una sintesi dell’IA alle prove su cui si basa. Ciò favorisce la verifica e consente l’approfondimento che costruisce fiducia.
Comunicare gli indicatori di avanzamento importanti:
I flussi di lavoro complessi degli agenti possono comportare cambi di direzione, la revisione di passaggi precedenti o la combinazione di più filoni d’indagine. Gli utenti tollerano meglio le attese quando capiscono cosa sta accadendo. Aggiornamenti chiari possono spiegare cosa ha completato l’agente, cosa sta facendo e quale sarà il passaggio successivo.
L’agente dovrebbe anche spiegare quando è bloccato o quando una decisione richiede ulteriori prospettive.
Rivelare gli output dell’IA passo dopo passo:
Anziché presentare una risposta completa in una volta sola, un agente può rivelare le informazioni per fasi. Un assistente per gli investimenti, ad esempio, potrebbe mostrare un breve consiglio con la possibilità di espanderne la motivazione: “Step 1: Assess the risk profile. Step 2: Review the current portfolio. Step 3: Identify diversification opportunities. Step 4: Formulate a recommendation.” Chi desidera più dettagli può esplorare ogni passaggio, mentre gli altri possono limitarsi alla sintesi.
Usare spiegazioni visive del ragionamento dell’IA:
Le spiegazioni dovrebbero essere comprensibili quanto l’output principale. Quando il ragionamento coinvolge numeri o relazioni, grafici e diagrammi possono essere d’aiuto. Visualizzare le query, il processo, il ragionamento e le fonti di un agente può inoltre aiutare gli utenti a correggerne la direzione, spiegare il risultato ad altri o ripetere il processo in seguito.
Spiegazioni visive chiare aiutano gli utenti a comprendere le informazioni e ad agire più rapidamente.