Pernahkah Anda menemukan prompt tertentu yang berfungsi dengan baik, lalu tiba-tiba berhenti berfungsi?
Pernahkah Anda terjebak dalam siklus terus-menerus menambal prompt sistem demi meningkatkan hasil, tetapi ternyata tidak ada yang berhasil?
Pembelajaran prompt sistem mungkin tepat seperti yang Anda butuhkan.
Pembelajaran prompt sistem (SPL) merupakan bidang yang mulai menarik perhatian komunitas AI dan dipopulerkan secara luas oleh Andrej Karpathy di X pada bulan Mei.
Pembelajaran prompt sistem mengatasi keterbatasan sistem AI yang kaku dan rapuh karena mengandalkan prompt sistem statis atau konfigurasi fine-tuning yang rumit. Pendekatan ini menawarkan cara lain untuk mendukung pembelajaran berkelanjutan dalam sistem AI.
Sebelum membahasnya lebih jauh, mari kita tinjau secara singkat beberapa dasar prompting.
Saat mengembangkan agen atau model khusus, pertama-tama kita harus merancang dua komponen utama:
Prompt sistem
Prompt pengguna
Prompt sistem menetapkan aturan dasar tentang perilaku model. Untuk solusi AI khusus, prompt tersebut sering diawali dengan kalimat seperti ini:
“You are an intelligent assistant. Your role is to perform <insert task here>.
You must not do (A), (B), or (C).”
Sebaliknya, prompt pengguna biasanya berisi pertanyaan pengguna dan informasi relevan lainnya, seperti zona waktu dan preferensi mereka. Contoh prompt pengguna:
I’m in the capital city of Portugal. Can you suggest some things I can do tonight?
Kebocoran prompt sistem makin umum terjadi setelah model baru dirilis oleh laboratorium AI besar karena pengguna melakukan jailbreak pada chatbot untuk mengungkap instruksi dasarnya. Kini, sebuah repositori GitHub populer menghimpun banyak prompt sistem tersebut di satu tempat. Prompt tersebut mengungkap “resep rahasia” yang dikembangkan laboratorium AI dari waktu ke waktu untuk mendorong perilaku model yang sesuai. Misalnya, prompt sistem GPT-5 yang baru-baru ini bocor (terungkap melalui ChatGPT) berisi sekitar 6.000 kata. Ini menunjukkan banyaknya pengetahuan dan panduan yang harus dikodekan untuk membentuk perilaku sistem.
Prompt sistem yang komprehensif ini biasanya mencakup beberapa bidang utama, seperti:
Instruksi pencarian
Definisi alat
Preferensi pengguna
Instruksi kutipan
Tambalan cepat untuk masalah yang diketahui
Dalam praktiknya, pengembang sistem AI khusus menambal prompt sistem secara manual dan berulang saat menguji serta menyempurnakan aplikasi mereka, terutama dengan menggunakan eval untuk memandu proses peningkatan ini.
Cara lain untuk mengarahkan perilaku model meliputi:
Rekayasa prompt, termasuk retrieval-augmented generation (RAG), yang mengendalikan konten yang diberikan kepada model
Fine-tuning (mengubah bobot dasar model secara langsung)
Bagaimana jika ada cara lain untuk memengaruhi perilaku model? Bayangkan sebuah sistem yang secara dinamis mempelajari dan menyempurnakan prompt sistemnya sendiri menggunakan pemikiran, rencana, dan strategi yang telah dihasilkan sebelumnya. Sistem ini dapat memanfaatkan umpan balik pengguna dan evaluasi LLM-as-a-judge untuk menilai outputnya.
Pertimbangkan tantangan bisnis berkelanjutan yang ingin Anda otomatisasi menggunakan sistem berbasis agen. Solusi yang efektif memerlukan kemampuan penalaran yang melampaui otomatisasi alur kerja dasar. Dalam kasus seperti ini, menyertakan komponen pembuatan rencana ke dalam sistem AI menjadi sangat penting. Dengan demikian, sistem dapat bekerja dengan beberapa agen melalui berbagai cara sesuai tugasnya. Setiap langkah dapat mencakup instruksi untuk mengakses agen lain guna menyelesaikan subtugas atau menggunakan alat.
Catatan: Alat agen adalah fungsi eksternal, API, atau sumber daya apa pun yang dapat dipanggil agen AI untuk melampaui teks dan melakukan tindakan nyata.
Anda dapat memilih untuk “menanamkan” rencana ke dalam prompt sistem model dengan mengikuti langkah logis yang akan dilakukan manusia. Namun, LLM biasanya memerlukan panduan lebih spesifik tentang penggunaan alat, pemformatan output, dan persyaratan terkait. Terkadang, strategi optimal mungkin tidak jelas, atau Anda mungkin menangani masalah yang belum dikaji ulang karena sebelumnya dianggap telah terselesaikan. Di sinilah pembelajaran prompt sistem (SPL) berperan.
SPL meningkatkan prompt sistem secara berulang dengan menyertakan strategi yang telah dihasilkan sebelumnya. Saat masalah baru muncul, sistem secara bertahap menghimpun pengetahuan dan menjadi makin tangguh. Anggap saja seperti menyusun buku panduan untuk memecahkan masalah dalam bidang Anda.
SPL secara bertahap menyertakan wawasan dari umpan balik pengguna ke dalam prompt sistem. Seiring kematangan sistem, Anda mungkin menemukan masalah berulang yang dapat dirangkum menjadi prinsip yang lebih umum dan berlevel lebih tinggi.
Mari kita lihat lebih dekat cara kerja proses ini, langkah demi langkah:
Mulailah dengan kueri pengguna yang meminta sistem menjalankan tugas tertentu.
Jika sistem Anda hanya menangani satu masalah, Anda dapat menggunakan pendekatan “greedy” dengan memilih strategi berskor tertinggi dari proses sebelumnya. Atau, Anda dapat mendorong eksplorasi dengan mengambil sampel dari distribusi yang mengutamakan strategi berperingkat tinggi sambil sesekali menyertakan strategi berperingkat rendah. Cara ini sangat berguna ketika Anda baru mulai mengumpulkan strategi.
Untuk sistem yang dirancang guna menangani beragam masalah, pertimbangkan penambahan lapisan klasifikasi atau penggunaan embedding dan kemiripan kosinus (teknik yang biasanya juga digunakan dalam RAG) untuk menemukan pendekatan yang relevan. Ini membantu Anda memilih strategi yang sesuai dengan masalah tertentu—misalnya, strategi yang dirancang untuk tugas pemrograman.
Catatan: Embedding yang digunakan bersama kemiripan kosinus memungkinkan kita mengukur seberapa erat hubungan dua informasi sehingga lebih mudah mencocokkan dokumen, kueri, atau gagasan, meskipun susunan katanya berbeda.
Contoh titik awal penyimpanan strategi sederhana untuk menangani masalah pemrograman.
Catatan: “Strategi awal” yang ditampilkan di sini hanya sebagai ilustrasi. Dalam skenario pemrograman nyata, kita akan menyempurnakannya lebih lanjut. Masalah bisnis yang sangat spesifik memerlukan pengumpulan wawasan tambahan seiring waktu.
Generation_id (urutan terbalik) | Subjek | Skor | Strategy_text | Penjelasan |
|---|---|---|---|---|
4 | pemrograman | 1 | Pahami masalah, batasan, dan kasus tepi. Rancang algoritma dengan struktur data yang tepat. Validasi rencana menggunakan contoh dan invarian. Implementasikan kode yang bersih dan mudah dibaca. Sempurnakan melalui refaktor, pengoptimalan, dan pemformatan akhir. Penggunaan alat: Saat menggunakan alat, jelaskan secara singkat alasan alat tersebut diperlukan. | Menyertakan dan memadukan unsur terkuat dari ketiga strategi di bawah ini. |
3 | pemrograman | 1 | Pahami masalah, batasan, dan kasus tepi. Rancang algoritma dengan struktur data yang tepat. Validasi rencana menggunakan contoh dan invarian. Implementasikan kode yang bersih dan mudah dibaca. Sempurnakan melalui refaktor, pengoptimalan, dan pemformatan akhir. | Strategi yang lebih menyeluruh, tetapi tidak memiliki panduan penggunaan alat. |
2 | pemrograman | -1 | Pahami masalah, batasan, dan kasus tepi. Rancang algoritma dengan data yang tepat. Implementasikan kode yang bersih dan mudah dibaca. Penggunaan alat: saat mengakses alat, berikan ringkasan singkat tentang alasan Anda menggunakan alat tersebut. | Strategi lebih baik yang menyebutkan penggunaan alat, tetapi masih dapat ditingkatkan. |
1 | pemrograman | -1 | Baca sekilas masalahnya. Selesaikan masalahnya. Buat pengujian minimal. Kirim apa pun yang dapat dijalankan. | Menyebutkan pengujian, tetapi secara keseluruhan strateginya lemah. |
3. Setelah mengambil sampel N, sertakan sampel tersebut ke dalam prompt sistem. Dengan demikian, pembuatan rencana didasarkan pada umpan balik pakar sebelumnya, bukan membiarkan model membuat rencana dengan panduan yang minim. Dorong model untuk “berpikir kreatif” dan menambahkan langkah bila perlu, alih-alih sekadar menyalin strategi sampel kata demi kata.
4. Dengan prompt sistem yang dibuat secara dinamis, hasilkan strategi baru untuk menangani permintaan pengguna. Proses ini seharusnya menghasilkan tugas tambahan yang meningkatkan output akhir. Tujuannya adalah kreativitas: gabungkan unsur terkuat dari strategi sebelumnya, satukan langkah-langkah yang tumpang tindih, dan tambahkan langkah baru yang bermanfaat bila perlu.
Catatan: Ingat bahwa temperature adalah parameter yang dapat disesuaikan untuk menghasilkan output yang lebih beragam dan kurang deterministik, sehingga berguna ketika kreativitas diperlukan. Jika temperature tidak nol, setiap rencana yang dihasilkan dapat berbeda.
5. Setelah menerima output model, evaluasilah menggunakan penilai manusia atau LLM berdasarkan kriteria khusus yang mendefinisikan solusi yang baik untuk masalah Anda. Untuk contoh aktivitas di Portugal yang disebutkan sebelumnya, kriteria evaluasinya dapat meliputi:
Keringkasan (jawaban dibatasi satu kalimat)
Relevansi aktivitas yang disarankan
Keakuratan lokasi
6. Berdasarkan evaluasi ini, gunakan model lain untuk menyempurnakan strategi. Siklus umpan balik opsional dapat menyertakan masukan manusia dan mendukung peningkatan kolaboratif. Simpan strategi yang telah disempurnakan di basis data Anda beserta metadata yang sesuai untuk melacak versi dan perubahan.
Jadi, mengapa harus bersusah payah melakukan semua ini? Anda dapat meninjau output secara manual dan menyesuaikan prompt sistem berdasarkan hasilnya. Namun, model penalaran yang andal dapat menyempurnakan strategi dengan menggunakan konteks output dan umpan balik manusia. Meski manusia mudah menemukan kelemahan dalam pendekatan sederhana, mengidentifikasinya menjadi sulit dan membosankan dalam sistem kompleks yang menangani cakupan masalah lebih luas.
LLM sering membutuhkan instruksi terperinci dan langkah tambahan untuk menghimpun pengetahuan kontekstual yang secara alami dibawa manusia saat menghadapi masalah. Jumlah tugas yang diperlukan dapat meningkat pesat ketika sistem diperluas untuk menangani cakupan masalah yang lebih luas. Misalnya, manusia yang menangani masalah pemrograman dapat memahami basis kode di sekitarnya secara intuitif, sedangkan LLM mungkin perlu “membaca” beberapa file terlebih dahulu.
Saat bermanfaat: Bayangkan Anda mengelola tim dukungan pelanggan dan sebuah agen AI menangani triase tiket. Seiring waktu, SPL dapat menemukan metode kategorisasi yang belum terpikirkan oleh tim Anda sehingga mengurangi tingkat eskalasi.
Saat tidak bermanfaat: Jika persyaratan kepatuhan atau peraturan telah menentukan alur kerja Anda, seperti dalam pelaporan keuangan, SPL mungkin hanya memberi sedikit manfaat karena kreativitas justru menjadi risiko, bukan keunggulan.
Saat bermanfaat: Dalam peran yang sarat riset (seperti intelijen pasar atau strategi produk), Anda dapat berkolaborasi dengan AI dengan menyempurnakan rencananya, memperkaya outputnya, dan menyertakan peningkatan tersebut untuk penggunaan mendatang. Setiap interaksi meningkatkan efektivitas sistem.
Saat tidak bermanfaat: Jika tim Anda terutama memakai AI untuk alur kerja sederhana dengan sedikit masukan manusia (misalnya pemrosesan faktur), beban kolaborasi dapat melampaui manfaatnya.
Saat bermanfaat: Misalnya, Anda berekspansi ke wilayah baru dan AI tiba-tiba harus menangani pertanyaan tentang pajak setempat. SPL memungkinkan Anda mengodekan aturan dan heuristik baru dengan cepat saat muncul sehingga mencegah kesalahan berulang.
Saat tidak bermanfaat: Jika lingkungan Anda statis, seperti ketika mengubah transkrip rapat menjadi ringkasan standar, adaptasi terus-menerus hanya memberi sedikit manfaat.
Secara teori, semua ini terdengar menjanjikan, tetapi penerapan SPL menghadirkan tantangan nyata. Berikut beberapa tantangan utamanya:
Pada tahap awal pembuatan strategi, kemajuan sering terhenti: output baru gagal mengembangkan output sebelumnya dan laju kemajuan melambat. Biasanya ada dua masalah utama yang menyebabkannya:
Solusi: Kodekan sejak awal seluruh pengetahuan bisnis yang tersedia agar sistem memiliki wawasan mendalam sebagai pijakan.
Solusi: Rancang rubrik terperinci yang menilai berbagai aspek jawaban, seperti keakuratan, kejelasan, dan relevansi, lalu sesuaikan pengambilan sampel agar mencerminkan sinyal tersebut.
Jika sistem menghasilkan ratusan strategi tetapi hanya menerima sedikit umpan balik untuk membedakan yang baik dari yang buruk, pengambilan sampel akan cepat menjadi sulit dikelola. Solusinya adalah pemangkasan.
Saat menyempurnakan penyimpanan strategi, pertimbangkan:
Masa berlaku: Hentikan penggunaan strategi setelah melewati jangka waktu atau jumlah generasi yang ditetapkan.
Skor: Gunakan rubrik evaluasi untuk menyaring strategi yang secara konsisten berkinerja buruk. Menggabungkannya dengan masa berlaku memastikan Anda hanya menyimpan pendekatan yang terbukti bernilai seiring waktu.
Penilaian LLM: Nilai strategi secara berkala untuk menemukan strategi yang tidak lagi memberi wawasan unik karena unsur bermanfaatnya kemungkinan telah diserap ke dalam versi yang lebih baru.
Solusi: Perlakukan basis data strategi sebagai sistem yang hidup: pangkas secara berkala agar hanya pengetahuan relevan dan bernilai tinggi yang tersisa.
Pembelajaran prompt sistem masih dalam tahap awal, tetapi potensinya sangat besar. Bisnis yang hanya mengandalkan prompt statis atau fine-tuning tanpa henti akan menghadapi keterbatasan yang sudah dikenal: sistem rapuh, biaya yang terus meningkat, dan upaya yang sia-sia. SPL menawarkan jalan keluar dari siklus tersebut dengan membangun sistem yang terus berkembang dan mengodekan prinsip tingkat tinggi, bukan sekadar tambalan terpisah.
SPL masih berkembang, tetapi arahnya jelas: sistem yang dapat belajar dari dirinya sendiri akan melampaui sistem yang tidak mampu melakukannya. Kini saatnya bereksperimen, memulai dari skala kecil, mencatat pelajaran, dan membangun fondasi bagi sistem AI yang makin baik dalam setiap interaksi.