改善面向客戶的 AI 對話品質:五種實用模式

五種經正式環境驗證的對話設計模式,協助面向客戶的 AI 智慧體提供更清晰、更有效的對話。

重點摘要

  • 多數提示工程都著重於準確度和指令涵蓋率。在正式環境中,成效最顯著的做法,是將對話本身視為核心設計問題。

  • 明確設定觸發條件與行動意圖,是在引導模型如何判斷,而不是給它一套無法擺脫的腳本。內容在提示詞中的位置,本身就是一道指令。開頭先交代角色定位,中間放較細緻的行為準則,硬性限制放在最後;真正關鍵的內容則在前後都放。

  • 直接以目標語調撰寫提示詞,而不是描述該語調,是最具影響力的改變之一。

  • 最連貫一致的智慧體,會在提示詞中將不同對話時刻視為各自獨立的互動,讓每次互動都有合適的形式,同時始終維持明確可辨的相同語調。

  • 在某些情況下,將負責思考和負責說話的智慧體分開,可以產生更連貫、更有根據的回覆,也能防止內部推理洩漏到回覆中。

我們先前曾根據語言學和認知心理學領域的洞見,介紹一種新的提示設計典範。我們探討過建立清楚且界線明確之問題空間的重要性,讓智慧體能在其中運作;也說明這個問題空間為何必須涵蓋面向客戶的 AI 所固有的對話元任務。

現在,我們將介紹在嘗試把這些原則投入正式環境後,提示詞開始出現哪些實務變化。

我們在實際運作的客戶系統中進行了數百次提示詞迭代,最大的改善並非來自加入更多指令、堆疊範例,或遵循典型的提示工程慣例。真正的改善來自將對話視為問題的核心。

透過持續探索與測試,我們發展出多項有效技巧。我們會修改提示詞,觀察對話在哪裡成功或失敗,再回頭追查問題是否出在引導效果、提示詞結構或語言運用。最終歸納出幾種可重複運用的模式,改變智慧體如何理解自己在對話中的角色、如何決定下一步,以及如何在情境轉變時持續維持一致的語調。

以下內容並非通用框架,也不是宣稱提示設計已經「徹底解決」。這五種模式濃縮了我們在正式環境中經得起考驗的做法;目標不只是功能準確,而是創造更好的對話:回覆連貫、自然且足夠一致,能夠承載品牌形象。

將思考與對話分開

智慧體系統有許多架構方式,而多智慧體協調工作流程依然廣受採用。尤其在這類系統中,我們最穩定有效的改善,就是將負責思考的智慧體與負責對話的智慧體分開。

意圖協調、分類、知識擷取和工具使用,全都屬於後台作業。面向客戶的回覆則屬於前台。同一個智慧體若在同一輪對話中同時負責兩者,內部推理與邏輯就可能洩漏到回覆中。回覆會變得閃爍其詞、加入過多限定,或按照處理流程的邏輯組織,而不是以對方的需求為中心。

多智慧體系統中前台與後台的關係

圖表將面向客戶的對話層與思考層分開,前台對話連接至後台推理與工具。

光是這項限制,就能發揮出人意料的作用。它讓回覆以實際對話為依據,避免重設脈絡,也更接近我們所說的「只提供必要的新資訊」。歸根究柢,智慧體只加入最少量、但確實能推動使用者向前的新資訊。

要提供哪一回覆,這項決定也很重要。我們發現,要求負責對話的智慧體先選擇行動類型,再開始撰寫——回答、釐清、引導轉向或請對方稍候——能有效減少最常見的對話失敗。問題通常不是文句不佳,而是整個回覆方向都錯了。

值得注意的是,在條件適當時,最新的前沿模型已開始挑戰這種模式的前提。儘管如此,許多開發者基於各種原因,仍依賴較小或較舊的模型。在這些情況下,我們強烈建議將後台與前台職責分開。

以實施意圖取代範例

對非推理模型而言,少樣本範例之所以有效,是因為它們具體、快速,而且模型能很好地回應。問題在於過度擬合。只要給模型一個範例,它就會緊抓其中的字詞、節奏和形式,即使情況已改變,仍不斷產生與原回覆極為相似的版本。

你無意間寫出了一套模型無法擺脫的腳本。

實施意圖或啟發式規則是更持久可靠的替代方案。與其向模型示範在特定情境中該說什麼,我們會提供適用範圍更廣的觸發條件與行動組合:如果發生 X,就執行 Y。

關鍵差異在於,我們不是逐一加入範例,讓 X 和 Y 的範圍愈來愈窄、規則愈來愈僵化,而是以極其精確的指令為兩者劃下明確界線,讓範例變得多餘。這能讓智慧體靈活回應真實對話中的變化,而不是照著範本比對模式。

實務上,這看起來不像範例,而更像可直接執行的經驗法則:

  • 如果缺少關鍵細節,就提出一個釐清問題。

  • 如果答案缺乏依據,就直接說明,並提出目前可行的最佳下一步。

  • 如果要求觸及防護限制,就簡短拒絕,直接引導轉向,不必大費周章。

這種方法並不花俏,卻比一整套回覆範例穩健得多,因為它教模型如何判斷,而不是該重複什麼。

把位置視為指令

內容在提示詞中的位置,會影響它所占的權重。這是我們在各種模型和部署環境中持續觀察到的模式。提示詞開頭和結尾的內容尤其容易受到注意,而中間則適合放置較細微的補充資訊,這也正是這類資訊最適合的位置。

我們會據此安排提示詞的結構。智慧體的角色和自我認知放在最前面,以便先建立身分,再處理其他內容。中間放置行為細節:對話可能如何發展、引導回覆的啟發式規則,以及智慧體需要處理的各種情況。硬性限制和不可妥協的要求放在最後,讓模型在回應時優先想到它們。

凡是真正關鍵的內容,我們會在開頭和結尾都放一次。特定輸出規則——例如關於標點或格式的明確指令——如果只在內容密集的提示詞中間出現一次,經常會被忽略。在結尾重複一次,就能維持效果。

談到近因效應,值得注意的是,使用結構化輸出時,它實際上就是提示詞中的最後一道指令。結構化輸出中的描述欄位會實質影響回覆,形成比提示詞其餘部分更有約束力的輸出契約。

面向客戶的提示詞剖析(假設提示詞只有 100 個 Token)

以色彩區分的提示詞結構網格,從首因到近因依序呈現角色定位、個性、任務框架、回應引擎、例外處理、界線與輸出契約。

讓提示詞本身成為範例

我們也學會不以少樣本範例示範語調;這是我們改善面向客戶之智慧體時,影響最大的改變之一。

我們改為直接以目標語調撰寫整份提示詞。不是描述語調,也不是列出一組大致貼近語調的形容詞,而是從第一行到最後一行,都以完整散文實際呈現該語調。提示詞本身就是示範。我們稱之為「反腳本化」:引導模型模仿輸入,同時允許它運用更廣泛的語言和措辭,只要與提示詞本身大致落在同一範圍內。

我們藉此在語調一致的前提下,以提示詞創造變化。這是我們讓對話成為任何智慧體任務核心的策略之一,而且不需要加入太多明確指令,我們也正努力將這類指令減至最少。

如果確實要使用明確的語調範例,我們會示範「不該怎麼做」。例如:「絕不使用破折號。不說陳腔濫調。不一股腦傾倒政策內容。一句話就能解決時,不要過度解釋。」負面限制比正面願景更精確,也較不侷限,因為它直接點出模型最容易偏向的失敗模式。

格式在這裡也很重要,會為回覆定下基調。充滿項目符號、標題和括號指令的提示詞,會引導模型產生更有條理但也更冷峻的輸出。如果輸出應該像對話,輸入就不該看起來像一份速記規格文件。

語域比個性更重要

多數語調提示最終都只剩下個性描述。也就是提供一組形容詞,描述智慧體應有的說話方式。溫暖。專業。友善但簡潔。這些都沒有錯,但真正決定一種語調在對話中如何呈現的,是語域:同一個基本個性在不同社交情境下會如何表現。

處理查詢時顯示的等候訊息,不該像最終答案。觸及防護限制時的回覆,不該帶著與閒聊相同的活力。面對感到挫折的客戶,不該像面對隨意瀏覽的客戶那樣,展現同等程度的親和力或幽默感。

同一份提示詞,不同語域,不用範例

四象限圖呈現有害輸入、離題要求、模糊輸入和提示注入的回應模式,並附拒絕或要求釐清的範例用語。

這正是品牌語調與對話設計的差異。品牌語調通常描述個性,對話設計則決定這個個性在情境轉變時如何表現。要做好這件事,代表我們不只是為 AI 輸出撰寫文案。我們設計的是一種語調如何貫穿整場對話。

對話驅動式提示

你會發現,這些模式在技術上都不複雜。這正是重點之一。智慧體系統的架構固然重要,但若要提升對話品質,就必須投入大量時間設計並改良提示詞。

要跨越純功能型 AI 與真正對話式 AI 之間的落差,靠的不是技術設計,而是更清楚地理解語言和注意力在人類對話中的運作方式,並將對話置於智慧體問題空間的核心。

對 AI 產品團隊、工程師和體驗設計師而言,面向客戶的 AI 對話設計,值得投入與追求卓越技術同等的嚴謹度。對話另一端的人看不見模型、多智慧體協作或工具呼叫——他們只會感受到一次互動是否對味。這次互動要不建立信心,要不消磨信心。

歸根究柢,沒有人會體驗到背後的架構。他們體驗的是對話。

對話就是產品。

作者

Douglas Smith、Sam Netherwood