Sebagian besar rekayasa prompt berfokus pada akurasi dan cakupan instruksi. Peningkatan terbesar dalam produksi diperoleh dengan menjadikan dialog itu sendiri sebagai inti masalah desain.
Menentukan niat berbasis pemicu dan tindakan memandu model dalam mengambil keputusan, alih-alih memberinya naskah yang tidak dapat ditinggalkan. Posisi dalam prompt merupakan instruksi tersendiri. Identitas ditempatkan di awal, nuansa perilaku di tengah, batasan tegas di akhir, dan segala hal yang benar-benar penting di kedua bagian.
Menulis prompt dengan gaya bahasa yang dituju, bukan sekadar mendeskripsikannya, merupakan salah satu perubahan paling berdampak yang dapat dilakukan.
Agen yang paling koheren menggunakan prompt yang memperlakukan setiap momen percakapan sebagai interaksi tersendiri dengan bentuk yang sesuai, tetapi tetap mempertahankan gaya yang sama dan mudah dikenali.
Dalam beberapa kasus, memisahkan agen yang berpikir dari agen yang berbicara menghasilkan respons yang lebih koheren dan berlandaskan konteks, sekaligus mencegah penalaran internal bocor ke dalam balasan.
Sebelumnya, kami memperkenalkan paradigma baru dalam penyusunan prompt berdasarkan wawasan dari bidang linguistik dan psikologi kognitif. Kami membahas pentingnya menciptakan ruang masalah yang jelas dan berbatas tegas agar agen dapat beroperasi, serta bagaimana ruang tersebut perlu mencakup metatugas dialog yang melekat pada AI yang berhadapan dengan pelanggan.
Sekarang, mari melihat beberapa cara praktis perubahan prompt kami ketika prinsip-prinsip tersebut mulai diterapkan dalam produksi.
Setelah ratusan iterasi prompt pada sistem produksi yang berhadapan langsung dengan pelanggan, peningkatan terbesar ternyata bukan berasal dari penambahan instruksi, penumpukan contoh, atau penerapan kaidah rekayasa prompt yang lazim. Peningkatan itu justru berasal dari menempatkan dialog sebagai inti masalah.
Sejumlah teknik efektif muncul melalui eksplorasi dan pengujian berkelanjutan. Kami mengubah prompt lalu mengamati bagian percakapan yang berhasil atau gagal, kemudian menelusuri kegagalan itu hingga ke efektivitas panduan, struktur prompt, dan pilihan bahasa kami. Hasilnya adalah beberapa pola yang dapat diterapkan berulang kali untuk mengubah cara agen memahami perannya dalam percakapan, menentukan langkah berikutnya, dan mempertahankan konsistensi gaya dalam konteks yang berubah-ubah.
Uraian berikut bukan kerangka universal ataupun klaim bahwa penyusunan prompt kini telah “tuntas”. Ini adalah intisari lima pola yang terbukti bertahan dalam produksi ketika tujuannya bukan sekadar akurasi fungsional, melainkan dialog yang lebih baik: respons yang terasa koheren, alami, dan cukup konsisten untuk mewakili sebuah merek.
Meski sistem berbasis agen dapat disusun dengan berbagai cara, alur kerja multiagen yang diorkestrasi tetap populer. Khususnya dalam sistem semacam itu, peningkatan paling konsisten yang kami capai berasal dari pemisahan agen yang berpikir dan agen yang berbicara.
Orkestrasi maksud, klasifikasi, ekstraksi pengetahuan, dan penggunaan alat merupakan operasi internal. Respons kepada pelanggan berada di lapisan depan. Jika agen yang sama melakukan keduanya dalam satu giliran, penalaran dan logika internal dapat bocor ke dalam balasan. Respons menjadi ragu-ragu, sarat kualifikasi, atau disusun berdasarkan logika proses, bukan kebutuhan pengguna.
Satu batasan itu ternyata menghasilkan banyak manfaat. Batasan ini menjaga agar balasan tetap berpijak pada percakapan yang sebenarnya, mencegah konteks dimulai ulang, dan menghasilkan sesuatu yang lebih dekat dengan apa yang kami sebut "menyampaikan selisihnya". Pada akhirnya, agen hanya menambahkan hal baru terkecil yang benar-benar membantu pengguna melangkah maju.
Keputusan tentang jenis respons yang perlu diberikan juga penting. Kami menemukan bahwa meminta agen yang berbicara memilih jenis tindakan sebelum menulis apa pun—menjawab, mengklarifikasi, mengarahkan ulang, atau meminta menunggu—secara konsisten mengurangi kegagalan percakapan yang paling umum: bukan tulisan yang buruk, melainkan respons yang sama sekali keliru.
Perlu dicatat bahwa dalam kondisi yang tepat, model terdepan terbaru mulai menggoyahkan asumsi dasar pola ini. Meski demikian, karena berbagai alasan banyak pengembang masih mengandalkan model yang lebih kecil atau lebih lama. Dalam konteks tersebut, kami sangat menyarankan pemisahan fungsi internal dari fungsi yang berhadapan dengan pelanggan.
Untuk model tanpa penalaran, contoh few-shot efektif karena konkret, cepat, dan ditanggapi dengan baik oleh model. Masalahnya adalah overfitting. Ketika diberi contoh, model akan terpaku pada kata, irama, dan strukturnya, lalu terus menghasilkan variasi yang sangat mirip dari respons tersebut meskipun situasinya sudah berubah.
Tanpa sengaja, Anda telah menulis naskah yang tidak dapat ditinggalkan model.
Niat implementasi atau heuristik merupakan alternatif yang lebih tahan lama. Alih-alih menunjukkan kepada model apa yang harus dikatakan dalam skenario tertentu, kami memberikan pasangan pemicu dan tindakan yang lebih luas: jika X terjadi, lakukan Y.
Perbedaan utamanya, kami tidak mempersempit X dan Y melalui contoh demi contoh hingga makin kaku. Sebaliknya, kami menetapkan batas tegas bagi masing-masing lewat instruksi yang begitu tepat sehingga contoh tidak lagi diperlukan. Dengan demikian, agen tetap tanggap terhadap variasi percakapan yang nyata, alih-alih sekadar mencocokkan pola dengan templat.
Dalam praktiknya, bentuknya lebih menyerupai pedoman praktis yang dapat dijalankan daripada contoh:
If a key detail is missing, ask one clarifying question.
If the answer isn’t supported, say so directly and offer the best available next step.
If the request hits a guardrail, decline briefly and redirect without ceremony.
Memang tidak memukau, tetapi pendekatan ini jauh lebih tangguh daripada kumpulan contoh respons karena mengajari model cara mengambil keputusan, bukan apa yang harus diulang.
Letak sesuatu dalam prompt menentukan seberapa besar bobotnya. Pola ini kami amati secara konsisten pada berbagai model dan penerapan. Bagian awal dan akhir prompt jauh lebih menonjol. Bagian tengah memuat nuansa, tepat di tempat nuansa seharusnya berada.
Kami menyusun prompt dengan mempertimbangkan hal tersebut. Peran dan pemahaman diri agen ditempatkan di bagian atas agar identitasnya ditetapkan sebelum hal lain. Bagian tengah memuat perincian perilaku: kemungkinan alur percakapan, heuristik yang memandu respons, serta berbagai situasi yang harus ditangani agen. Batasan tegas dan hal yang tidak dapat ditawar ditempatkan di bagian bawah agar selalu “segar dalam ingatan”.
Untuk hal yang benar-benar penting, kami menempatkannya di kedua bagian. Aturan output tertentu—misalnya instruksi tegas mengenai tanda baca atau pemformatan—sering terabaikan jika hanya muncul sekali di tengah prompt yang padat. Jika diulang pada bagian akhir, aturan itu akan dipatuhi.
Terkait efek kebaruan, perlu dicatat bahwa output terstruktur, jika digunakan, pada praktiknya menjadi instruksi paling akhir dalam prompt Anda. Kolom deskripsi dalam output terstruktur memengaruhi kualitas respons dan membentuk kontrak output yang lebih kuat daripada bagian prompt lainnya.
Kami belajar untuk tidak menggunakan contoh few-shot guna menentukan nada suara. Ini merupakan salah satu perubahan paling berdampak yang kami terapkan pada agen yang berhadapan dengan pelanggan.
Sebagai gantinya, kami menulis seluruh prompt dengan gaya bahasa yang dituju. Bukan deskripsi gaya tersebut atau sederet kata sifat yang mendekatinya, melainkan gaya yang sebenarnya, dalam prosa utuh dari baris pertama hingga terakhir. Prompt itu sendiri menjadi peragaan. Kami menyebutnya “anti-kekakuan”: mengarahkan model untuk meniru inputnya, sekaligus memberinya keleluasaan memakai lebih banyak ragam bahasa dan frasa yang masih “sejalur” dengan prompt tersebut.
Dengan cara inilah kami mendorong variasi tanpa mengorbankan konsistensi gaya. Ini bagian dari strategi kami untuk menempatkan dialog sebagai inti tugas setiap agen tanpa perlu banyak instruksi eksplisit, yang sengaja kami batasi.
Jika menggunakan contoh eksplisit tentang nada suara, kami memberi contoh tentang "hal yang tidak boleh dilakukan". Misalnya, “No em dashes. Ever. No clichés. No policy dumping. No over-explanation when a single sentence will close the loop.” Batasan negatif lebih tepat sekaligus tidak terlalu membatasi dibandingkan aspirasi positif karena menyebutkan pola kegagalan yang paling mungkin dilakukan model.
Pemformatan juga penting karena ikut menentukan nada respons. Prompt yang penuh poin, judul, dan instruksi dalam tanda kurung mengarahkan model untuk menghasilkan output yang lebih tertata dan formal. Jika output diharapkan terasa seperti percakapan, inputnya jangan terlihat seperti dokumen spesifikasi ringkas.
Kebanyakan prompt untuk mengatur nada akhirnya hanya berfokus pada kepribadian. Caranya dengan memberikan sederet kata sifat untuk menggambarkan bagaimana seharusnya agen berbicara. Hangat. Profesional. Ramah, tetapi ringkas. Semua itu tidak keliru, tetapi yang menentukan bagaimana suatu gaya diterima dalam percakapan sebenarnya adalah ragam bahasa: cara Karakter yang sama berperilaku dalam situasi sosial yang berbeda.
Pesan sementara saat permintaan sedang diproses tidak boleh terdengar seperti jawaban akhir. Respons pembatasan keamanan tidak boleh membawa energi yang sama seperti obrolan ringan. Pelanggan yang frustrasi tidak semestinya menerima kadar keramahan atau humor yang sama dengan pelanggan yang sekadar melihat-lihat.
Inilah perbedaan antara gaya merek dan desain percakapan. Gaya merek kerap menggambarkan Karakter, sedangkan desain percakapan menentukan perilaku Karakter tersebut ketika situasi berubah. Jika melakukannya dengan tepat, kami bukan sekadar penulis naskah yang menggarap output AI. Kami merancang bagaimana suatu gaya bergerak sepanjang percakapan.
Anda mungkin memperhatikan bahwa tidak satu pun pola ini rumit secara teknis. Memang, sebagian tujuannya adalah itu. Arsitektur sistem berbasis agen memang penting, tetapi untuk mencapai percakapan berkualitas, Anda perlu mencurahkan banyak waktu untuk merancang dan menyempurnakan prompt.
Kesenjangan antara AI yang sekadar berfungsi dan AI yang benar-benar mampu bercakap-cakap tidak dijembatani oleh desain teknis, melainkan oleh pemahaman yang lebih baik tentang cara bahasa dan perhatian bekerja dalam dialog manusia, serta dengan menempatkan dialog sebagai inti ruang masalah agen Anda.
Bagi tim produk AI, teknisi, dan perancang pengalaman, desain percakapan layak digarap seteliti aspek teknis AI yang berhadapan dengan pelanggan. Bagi orang di sisi lain percakapan ini, tidak ada model, kolaborasi multiagen, ataupun pemanggilan alat—yang ada hanyalah interaksi yang terasa tepat atau tidak. Interaksi yang membangun kepercayaan atau justru mengikisnya.
Pada akhirnya, tidak ada yang merasakan arsitekturnya. Yang mereka rasakan adalah percakapannya.
Percakapan adalah produknya.