顧客対応 AI はブランドを代表するため、その作り込みには社内ツールとは根本的に異なる技術が求められます。
単に機能するエージェントと人を納得させるエージェントの違いは、技術よりも考え方にあります。多くのプロンプトが対話の設計ではなく、指示の羅列として書かれているためです。
より有効な枠組みは、言語学と認知心理学から得られます。会話には構造があり、プロンプトは注意を方向づける環境を作ります。何を最初に置き、何を繰り返し、どう締めくくるかによって、エージェントの振る舞いは確実に変わります。
制約は役立ちますが、それは明確で正確な場合に限られます。エッジケースを増やしすぎると、やり取りがぎこちなくなり、プロンプトも扱いにくくなります。判断事項を減らせば、本当に重要な判断に集中できます。
企業にとって、会話型の顧客対応 AI の構築は容易ではありません。
個々の従業員が AI との協働を取り入れ、社内向けの独自 AI ツールまで開発している先進的な企業であっても、AI を自社と社会の接点に据えることは、まったく別の課題です。
それはまさに、AI の「昇進」です。AI が顧客対応を担うと、勤勉なインターンから会社公認の従業員へと昇格します。制服をまとい、顧客の前でブランドを代表する存在になるのです。
失敗の代償は大きくなります。一つひとつのミスが公になり、記録される可能性もあります。
私たちが構築する製品は、多くの場合、ビジネスレベルで複雑に連携するマルチエージェントシステムです。しかし、そのロジックのほうが簡単なこともあります。より大きな課題は、最初から最後まで同じ一つのエージェントと話しているとユーザーに感じてもらい、その発言にも価値があると納得してもらうことです。
そのため、私たちはプロンプトを何度も書き直します。
何百回ものプロンプト改善を経て完成するエージェントもあります。目標はどれも同じです。役割を逸脱せず、人間のユーザーに響く語り口で話すことです。
プロンプトを磨き上げる過程で、私たちは発想の手がかりを創造的に探すようになりました。そして、他分野の知見を取り入れ始めました。もちろん、すべてがうまくいったわけではなく、成果が出たものも初回から成功することはほとんどありませんでした。こうした試行錯誤から、私たちのチームには従来のプロンプティングとは異なるパラダイムが生まれました。
仕組みとして機能するエージェントと、会話相手として優れたエージェントの隔たりは、純粋に技術的なものではなく、概念的なものです。それは、プロンプトによってエージェントに設定した世界と、エージェントが実際に活動する人間のコミュニケーション世界との隔たりです。
人間のコミュニケーションには曖昧さがつきものです。人はそれを敏感に察知し、誠実な話し手同士なら、暗黙の繊細な会話規則に従って協力しながら対処します。準備不足のエージェントは、すぐに見抜かれます。
第四の壁、すなわちチューリング的な幻想を保つには、言語学と認知心理学の知見を用いて、エージェントに対話の技法を身につけさせることができます。
言語学には、実際に使われる言語を研究するための多彩な道具があります。その一つが、人々が会話を刻々とどう組み立て、進めているかを分析する「会話分析」です。この枠組みをプロンプティングに応用すると、会話を言葉ではなく「行為」の交換として捉えるための語彙が得られます。
情報を得たり伝えたりする実務的な行為もあれば、良好な関係を保つ、摩擦を避けるといった社会的な行為もあります。こうした働きかけは、対話全体の構造と各段階の中で行われ、それぞれの段階には期待される行為があります。対話には始まりと終わりだけでなく、話題の転換や、その前段階もあります。新たな方向性がほのめかされ、言外に調整され、決まっていく、時に気まずい瞬間です。
全員に善意があっても、意思疎通の行き違いは常に起こります。人によって対話の巧拙には差があります。それでも、エージェントを支える LLM には、ごく平均的な人間の話し手でさえ備えている直感が、初めから組み込まれているわけではありません。
言語学的分析に加え、認知心理学はそれを補完する知見をもたらします。注意、記憶、意思決定が実際にどう働くのか。人は最初と最後の情報をどう重視するのか。特定のきっかけがどう一貫した行動を生むのか。制約が認知負荷を減らし、どう自由をもたらすのか。それらを教えてくれます。
プロンプトは、指示を入れるだけの中立的な器ではありません。注意を方向づける環境です。だからこそ、冒頭に何を置くかが重要です。末尾に何を置くかも重要です。何を繰り返すかも重要です。人は一覧を見たとき、中ほどよりも最初と最後を覚えやすい傾向があります。心理学では、これを系列位置効果、すなわち初頭効果と新近効果と呼びます。
実際、LLM にも似た傾向が見られます。冒頭の指針が枠組みを定めます。エージェントは何者か、どんな役割を担うか、どのような世界に向き合うと想定するか、といったことです。末尾の指針は、しばしば「最後に耳にしたこと」のように作用します。最重要の指示をそこに置けば、実行される可能性が高まります。
各指示をプロンプト内のどこに置くかを慎重に考えると同時に、それらの指示がエージェントにどのような境界を形作るかも、全体として把握する必要があります。
指示はエージェントへの制約として働きます。解決すべき競合する選択肢を減らし、問題空間全体を絞り込みます。プロンプトには、エージェントが無理なくタスクを処理できるだけの制約が必要です。
人間の従業員、とりわけ経験の浅い人に指示する場合、目の前のタスクから曖昧さを取り除き、認知負荷をできる限り減らすのが賢明だと心理学は示しています。制約は自由を妨げるように思えるかもしれません。しかし、判断事項が減れば、残された少数の重要な判断に集中し、制約の中で行動を実行するために創造性を発揮できます。
逆に、考えられるすべてのエッジケースを行動例の一覧で網羅し、エージェントが下す判断をゼロにしようとすると、ぎこちない会話相手が生まれます。しかも、if と else だらけの怪物のようなプロンプトとなり、扱いにも苦労します。
（フューショットのことです。）
適切に境界を定めたプロンプトは、指示を詰め込みすぎてエージェントを動けなくすることなく、十分に明確な方向性を示します。多くの場合、これはエージェントに与えるエッジケースや目標を減らすことを意味します。何を言うか、言わないかだけでなく、どう言うか、どう言わないかについても同様です。
私たちの経験では、境界を調整するためにフューショットを使いたくなったなら、その境界は十分に明確ではありません。中核となる指示に立ち返り、磨き直してください。
認知心理学の観点から、プロンプト内のどこに各指示を置くべきかを検討し、エージェントの問題空間を最適に区切るために必要な指示の量と質を考えてきました。
さらに、言語学の観点から考察した対話の技法を踏まえ、対話を中心とする指示をエージェントのタスク境界全体に組み込むことで、プロンプティングのパラダイムを完成させられます。
顧客対応 AI にとって、認識しているかどうかにかかわらず、対話は常にメタタスクです。プロンプトで対話を意図的に扱うなら、エージェントの処理能力、つまり「認知負荷」の一部を、対話への意識と応答に割り当てることになります。それによって会話能力を高められます。
ただし、その代わりに、問題空間全体を扱いやすく明確な範囲に保つため、主タスクを縮小する必要が生じるでしょう。
だからこそ顧客対応 AI では、より良い対話と意思決定を生む条件を総合的に設計します。私たちが目指すのは、小さく明確に境界づけられ、主タスクが対話というメタタスクの文脈に位置づけられている、あるいはそれを含むエージェントです。大量の指示を並べ、例を重ねながら改善することはしません。代わりに、例が不要になるほど精密に磨き上げた、少数の指示を書きます。
これが、役割を外れず、しかも洗練された会話ができるエージェントを作るために、私たちが採用しているプロンプティングのパラダイムです。
概念的な全体像を整理したところで、次回のブログでは、より実践的な内容を取り上げます。実際の現場で試行錯誤を重ねながら、これらの原則をプロンプトに応用する中で見えてきた主要なパターンを紹介します。興味深いことに、フロンティアモデルのプロバイダーも、自社のプロンプティング指針に同様のパターンを取り入れ始めています。続きは次回。