面向客戶的 AI 代表你的品牌，所需的設計功力與內部工具截然不同。
實用的智能代理與令人信服的智能代理之間，差異更多在於觀念而非技術，因為大多數提示詞都是按指令集來寫，而非按對話來設計。
語言學和認知心理學提供了更好的思考框架：對話有其結構，而提示詞會營造注意力環境。內容先後、重複之處及結尾方式，都會切實影響智能代理的行為。
設定限制確實有助引導模型，但前提是必須精準。涵蓋過多邊緣情況，會令互動生硬、提示詞過於龐雜；因此，減少模型要作的決定，反而能集中處理更重要的抉擇。
對企業而言，建立面向客戶的對話式 AI 殊不容易。
即使企業極為積極採用這項技術，員工個人層面已習慣與 AI 協作，甚至已開發內部專用的 AI 工具，要讓 AI 晉身為企業與外界之間的介面，仍是截然不同的一回事。
而這的確是一次晉升。當 AI 開始面向客戶，便由勤奮的實習生成為獲公司認可的正式員工，穿上制服，在客戶眼中代表品牌。
箇中風險甚高。如今每次失誤都會公開於人前，甚至可能留下紀錄。
我們建立的產品往往是多智能代理系統，在業務層面涉及複雜的互動。然而，這些邏輯反而可能是較容易的部分。更大的挑戰，是讓用戶相信自己由始至終都在與同一個智能代理對話，並且深信這位智能代理所提供的內容具備真正的價值。
因此，我們一再撰寫和改寫提示詞。
有些智能代理要經歷數百輪提示詞迭代才告完成。每個智能代理都有同一目標：專注完成任務，並以能引起人類用戶共鳴的語調說話。
改良提示詞的經驗，促使我們以更具創意的方式尋找靈感。我們開始借鑑其他學科。當然，並非所有嘗試都奏效；即使有效，也很少一試即成。這些探索令團隊逐漸形成一套有別於傳統提示設計的範式。
運作有條不紊的智能代理與對話出色的智能代理之間，差距並非純粹在於技術，更在於觀念。這是你透過提示詞為智能代理設定的世界，與智能代理實際身處的人類溝通世界之間的距離。
後者充滿模稜兩可之處，而人類對此甚為敏銳；抱持善意的溝通者會遵循一套微妙而不言明的話語規則，彼此協作應對。相比之下，一個未經妥善訓練的智能代理，其破綻會展露無遺。
要維持第四面牆，亦即圖靈幻象，我們可運用語言學與認知心理學的洞見，讓智能代理的對話能力奠基於溝通藝術之上。
語言學有一整套研究語言實際運用的工具，包括探討人們如何即時且逐步地組織和掌控對話的「對話分析」。將此框架應用於提示設計，便能以一套詞彙來理解對話：它並非言詞的交換，而是行動的交換。
有些行動屬於實務層面，例如獲取或提供資訊；另一些則屬社交層面，例如維繫關係或避免摩擦。這類交流舉動發生於對話及其各階段的整體結構之中，而每個階段都有相應的預期行動。對話有開場和結尾，也有話題轉換，甚至有轉換前奏，在那些有時略顯尷尬的時刻，新方向會獲含蓄提出、協商，並在言外之意間敲定。
即使各方都抱持善意，溝通誤會仍時常發生。人們駕馭對話藝術的能力各有高低，但重點是：驅動智能代理的 LLM 並不會預先具備普通人類溝通者也有的直覺。
除了語言學分析，認知心理學亦提供了相輔相成的視角。它讓我們了解注意力、記憶和決策實際如何運作，例如人們如何權衡最先與最後接收的內容、特定觸發因素如何帶來可預期的行為，以及適度設定限制如何藉由減輕認知負荷來賦予更大自由度。
提示詞並非承載指令的中性容器，而是一個引導注意力的環境。因此，置於開首的內容十分重要，置於末段的內容亦同樣關鍵，重複出現的內容亦不容忽視。當面對一份清單時，人們通常較容易記住開頭和結尾，而非中間部分。心理學家稱之為序列位置效應，即首因效應和近因效應。
實際上，我們在 LLM 身上也看到類似現象。最先出現的指引會奠定框架：智能代理是誰、扮演甚麼角色，以及預期會遇上怎樣的世界。結尾指引往往如同「它最後聽到的話」。把最重要的指令放在那裏，便更有機會得到落實。
我們除了要仔細考慮各項指令在提示詞中的位置，也應留意這些指令為智能代理建立的整體邊界形態。
指令會約束智能代理，減少它要權衡的互相競爭選項，並收窄整體問題空間。提示詞需要施加足夠限制與邊界，令智能代理的任務維持在可有效掌控的範圍。
向員工下達指示時，尤其是經驗較淺的員工，心理學告訴我們，明確消除當前任務的歧義，盡量減輕認知負荷，才是明智做法。約束看似會限制自由，但減少要作的決定，反而能讓我們集中處理餘下少數重要抉擇，並在限制之內以創意付諸行動。
反過來說，試圖列出所有想像得到的邊緣情況和行為範例，讓智能代理完全無需自行決策，只會造就一個對答生硬的對話對象，更會產生出一個充斥著無數「如果……就……」條件、東拼西湊如同「科學怪人」般龐雜的提示詞，管理起來猶如噩夢。
（少範例提示，說的就是你。）
邊界界定得宜的提示詞能提供足夠清晰的方向，又不會令要求過多，使智能代理不知所措。這通常意味着要為智能代理設定較少邊緣情況或目標，包括該說或不該說甚麼，以及該如何或不該如何表達。
根據我們的經驗，如果你要借助少範例來調整邊界，就表示邊界不夠精準。回到核心指令，重新加以完善。
從認知心理學角度而言，我們一直在思考不同指令應放在提示詞的甚麼位置，並同時考量指令所需的數量和質素，務求妥善界定智能代理的問題空間。
回顧先前從語言學角度對對話藝術的觀察，我們可把對話導向的指令納入智能代理更廣泛的任務邊界，從而完善這套提示設計範式。
對面向客戶的 AI 而言，不論我們是否承認，對話始終都是後設任務。當我們選擇在提示詞中有意處理對話，就等於投放智能代理的部分處理能力或「認知負荷」，讓它感知對話並作出回應，從而提升交談能力。
然而，代價是我們很可能要縮減主要任務的規模，才能讓整體問題空間保持範圍適中、邊界清晰。
因此，對面向客戶的 AI，我們會從整體着手，設計有利於優質對話和決策的條件。我們以規模較小、邊界清晰的智能代理為目標，將其主要任務置於對話這項後設任務的脈絡之中，或把對話納入其中。我們不會堆砌大量指令，再透過範例逐步修訂。我們只會撰寫較少但經過完善的指令，並以精準程度令範例變得多餘。
我們正是運用這套提示設計範式，建立不但能專注完成任務，還能優雅對話的智能代理。
梳理好這套概念框架後，下一篇網誌將轉向更實際的層面。我們會探討如何透過實際試驗和修正，把這些原則應用於提示詞，並從中歸納出一些重要模式。值得留意的是，前沿模型供應商的提示設計指引也開始反映類似模式。我們下期再會。