AI yang berhadapan dengan pelanggan mewakili merek Anda dan membutuhkan keahlian yang sama sekali berbeda dari alat bantu internal.
Perbedaan antara agen yang berfungsi dan agen yang meyakinkan lebih bersifat konseptual daripada teknis karena sebagian besar prompt ditulis sebagai kumpulan instruksi, bukan sebagai rancangan dialog.
Kerangka yang lebih baik berasal dari linguistik dan psikologi kognitif: percakapan memiliki struktur, sedangkan prompt menciptakan lingkungan atensi. Apa yang Anda tempatkan di awal, apa yang Anda ulangi, dan cara Anda menutup prompt akan membentuk perilaku agen secara konsisten.
Batasan membantu, tetapi hanya jika dirumuskan dengan tepat. Terlalu banyak kasus khusus menghasilkan interaksi yang kaku dan prompt yang sulit dikelola. Dengan lebih sedikit keputusan yang harus diambil, perhatian dapat dipusatkan pada keputusan yang lebih penting.
Membangun AI percakapan yang berhadapan dengan pelanggan merupakan tantangan besar bagi bisnis.
Bahkan bagi pengguna teknologi yang sangat antusias—yang telah menerapkan kolaborasi AI pada tingkat karyawan perorangan dan mungkin juga mengembangkan alat AI khusus untuk penggunaan internal—menempatkan AI sebagai penghubung antara bisnis Anda dan dunia luar adalah perkara yang sama sekali berbeda.
Dan ini memang sebuah kenaikan jabatan. Ketika mulai berhadapan dengan pelanggan, AI naik kelas dari pekerja magang yang rajin menjadi karyawan resmi, mengenakan seragam, dan mewakili merek di mata pelanggan.
Taruhannya besar. Setiap kesalahan kini terlihat oleh publik dan berpotensi direkam.
Produk yang kami bangun sering kali berupa sistem multiagen dengan interaksi kompleks pada tingkat bisnis. Namun, logika tersebut justru bisa menjadi bagian yang lebih mudah. Tantangan yang lebih besar adalah meyakinkan pengguna bahwa mereka terus berbicara dengan satu agen yang sama dan bahwa perkataan agen itu layak diperhatikan.
Karena itu, kami menulis dan menulis ulang prompt, berulang kali.
Sebagian agen tercipta setelah ratusan iterasi prompt. Semuanya memiliki tujuan yang sama: tetap berfokus pada tugas dan berbicara dengan suara yang beresonansi dengan pengguna manusia.
Pengalaman dalam menyempurnakan prompt telah mendorong kami untuk mencari inspirasi secara kreatif. Kami mulai meminjam gagasan dari disiplin ilmu lain. Tentu saja, tidak semuanya berhasil, dan yang berhasil pun jarang sekali langsung tepat pada percobaan pertama. Upaya eksploratif ini melahirkan paradigma prompting yang berbeda di dalam tim kami.
Kesenjangan antara agen yang berfungsi secara sistematis dan agen yang piawai bercakap-cakap tidak semata-mata bersifat teknis, tetapi juga konseptual. Kesenjangan itu terletak antara dunia tempat Anda memosisikan agen melalui prompt dan dunia nyata komunikasi manusia tempat agen tersebut beroperasi.
Dunia nyata ditandai oleh ambiguitas. Manusia sangat peka terhadapnya, dan komunikator yang beriktikad baik menghadapinya secara kooperatif melalui serangkaian aturan wacana yang halus dan tak terucapkan. Agen yang tidak dibekali dengan baik akan mudah dikenali.
Untuk menjaga ilusi dramatis, atau ilusi Turing, kita dapat membekali agen dengan seni berdialog berdasarkan wawasan dari linguistik dan psikologi kognitif.
Linguistik memiliki seperangkat alat lengkap untuk mempelajari bahasa dalam praktik, termasuk Analisis Percakapan, yang mengkaji cara orang menyusun dan mengelola percakapan dari waktu ke waktu. Jika diterapkan pada prompting, kerangka ini memberi kita kosakata untuk memandang percakapan bukan sebagai pertukaran kata, melainkan sebagai pertukaran tindakan.
Sebagian tindakan bersifat praktis, seperti memperoleh atau memberikan informasi, sedangkan tindakan lainnya bersifat sosial, seperti menjaga keakraban atau menghindari gesekan. Langkah-langkah tersebut berlangsung dalam struktur dialog yang lebih luas beserta fase-fasenya, yang masing-masing memiliki tindakan yang diharapkan. Dialog memiliki pembukaan dan penutupan, tetapi juga peralihan topik, bahkan tahap pra-peralihan—momen yang terkadang canggung ketika arah baru diajukan secara halus, dirundingkan, dan diputuskan secara tersirat.
Miskomunikasi selalu terjadi, bahkan ketika semua pihak memiliki niat terbaik. Meskipun tingkat kemahiran orang dalam seni berdialog berbeda-beda, intinya adalah bahwa LLM di balik agen Anda tidak otomatis dibekali intuisi yang bahkan dimiliki komunikator manusia biasa.
Selain analisis linguistik, psikologi kognitif menawarkan perspektif yang saling melengkapi. Bidang ini menjelaskan cara kerja atensi, ingatan, dan pengambilan keputusan—bagaimana orang memberi bobot pada hal yang muncul di awal dibandingkan di akhir, bagaimana pemicu tertentu menghasilkan perilaku yang konsisten, serta bagaimana batasan dapat membebaskan dengan mengurangi beban kognitif.
Prompt bukanlah wadah netral untuk instruksi. Prompt adalah lingkungan atensi. Jadi, apa yang ditempatkan di awal itu penting. Apa yang ditempatkan di akhir juga penting. Apa yang diulang pun penting. Ketika dihadapkan pada sebuah daftar, orang cenderung lebih mudah mengingat bagian awal dan akhir daripada bagian tengah. Psikolog menyebutnya efek posisi serial: keutamaan dan keterkinian.
Dalam praktiknya, kami melihat hal serupa pada LLM. Panduan paling awal membentuk kerangka: siapa agen tersebut, peran apa yang dijalankannya, dan dunia seperti apa yang diperkirakan akan dihadapinya. Panduan penutup sering kali berfungsi seperti “hal terakhir yang didengarnya”. Jika instruksi terpenting ditempatkan di sana, peluang instruksi itu dijalankan akan lebih besar.
Selain mempertimbangkan dengan cermat posisi berbagai instruksi dalam prompt, kita juga perlu memperhatikan bentuk keseluruhan batas yang diciptakan instruksi tersebut bagi agen.
Instruksi berfungsi sebagai batasan bagi agen, mengurangi jumlah kemungkinan yang saling bersaing yang harus diatasinya dan mempersempit ruang masalah secara keseluruhan. Prompt kita memerlukan batasan yang cukup agar tugas agen dapat ditangani.
Saat memberikan instruksi kepada karyawan, terutama yang kurang berpengalaman, psikologi menunjukkan bahwa kita sebaiknya menghilangkan ambiguitas dalam tugas dan dengan demikian mengurangi beban kognitif semaksimal mungkin. Batasan mungkin terasa menghambat kebebasan, tetapi lebih sedikit keputusan justru membebaskan kita untuk berfokus pada beberapa keputusan penting yang tersisa dan menggunakan kreativitas saat bertindak dalam batas tersebut.
Sebaliknya, mencoba meniadakan semua keputusan bagi agen dengan mencakup setiap kemungkinan kasus khusus melalui daftar contoh perilaku adalah cara ampuh untuk menciptakan lawan bicara yang kaku. Belum lagi prompt Frankenstein berisi if dan else yang rumit, sulit dikelola, dan menjadi mimpi buruk.
(Few-shot, ini sindiran untukmu.)
Prompt dengan batas yang baik memberikan arah yang cukup jelas tanpa membebani pengarahan dan membuat agen tak mampu bertindak. Sering kali, ini berarti memasukkan lebih sedikit kasus khusus atau sasaran bagi agen, baik terkait apa yang perlu atau tidak perlu dikatakan maupun cara menyampaikannya.
Menurut pengalaman kami, jika Anda menggunakan few-shot untuk menyesuaikan batasan, berarti batasan tersebut kurang presisi. Kembali ke instruksi inti dan sempurnakan.
Dari perspektif psikologi kognitif, kami mempertimbangkan posisi berbagai instruksi dalam prompt serta kuantitas dan kualitas instruksi yang diperlukan untuk membatasi ruang masalah agen secara optimal.
Dengan mengingat kembali pengamatan sebelumnya tentang seni berdialog dari perspektif linguistik, kita dapat melengkapi paradigma prompting dengan menempatkan instruksi berbasis dialog sebagai bagian dari batas tugas agen yang lebih luas.
Bagi AI yang berhadapan dengan pelanggan, dialog selalu menjadi metatugas, disadari ataupun tidak. Saat memilih untuk membahas dialog secara sengaja dalam prompt, kita mengalokasikan sebagian kapasitas atau “beban kognitif” agen untuk menyadari dan menanggapi dialog dengan cara yang meningkatkan kemampuannya bercakap-cakap.
Namun, konsekuensinya, kita kemungkinan perlu memperkecil tugas utama agar ruang masalah secara keseluruhan tetap dapat ditangani dan dibatasi dengan baik.
Jadi, untuk AI yang berhadapan dengan pelanggan, kita merancang kondisi bagi dialog dan keputusan yang lebih baik secara menyeluruh. Kami mengutamakan agen yang lebih kecil dan memiliki batasan jelas, dengan tugas utama yang dikontekstualisasikan dalam atau mencakup metatugas dialog. Kami tidak menulis tumpukan instruksi yang disempurnakan melalui contoh. Kami menulis lebih sedikit instruksi yang telah disempurnakan dengan presisi sehingga contoh tidak lagi diperlukan.
Inilah paradigma prompting yang kami gunakan untuk menciptakan agen yang tidak hanya tetap berfokus pada tugas, tetapi juga melakukannya dengan keanggunan dalam bercakap-cakap.
Setelah memetakan lanskap konseptualnya, kami akan membahas hal-hal yang lebih praktis di blog berikutnya. Kami akan mengulas beberapa pola utama yang muncul dari upaya menerapkan prinsip-prinsip ini pada prompt melalui proses coba-coba di dunia nyata. Menariknya, penyedia model terdepan mulai mencerminkan pola serupa dalam panduan prompting mereka sendiri. Selengkapnya lain kali.