Müşteriye dönük yapay zekâ markanızı temsil eder ve bunun gerektirdiği ustalık, kurum içi araçlar geliştirmekten bütünüyle farklıdır.
İşlevsel bir ajan ile ikna edici bir ajan arasındaki fark teknik olmaktan çok kavramsaldır; çünkü çoğu prompt, diyalog tasarımı olarak değil, talimatlar bütünü olarak yazılır.
Dilbilim ve bilişsel psikoloji daha iyi bir çerçeve sunar: Konuşmaların bir yapısı vardır ve promptlar bir dikkat ortamı oluşturur. Başa koyduklarınız, tekrarladıklarınız ve kapanışı nasıl yaptığınız ajanın davranışını güvenilir biçimde şekillendirir.
Kısıtlar faydalıdır, ancak yalnızca kesin olduklarında. Çok fazla uç durum, yapay etkileşimlere ve hantal promptlara yol açar. Daha az karar vermek zorunda kalmak ise dikkati daha önemli kararlara yöneltir.
Bir işletme için müşteriye dönük, diyalog kurabilen yapay zekâ geliştirmek göz korkutucudur.
Teknolojiyi büyük bir hevesle benimseyen, çalışanların bireysel düzeyde yapay zekâyla iş birliği yapmasını sağlayan, hatta kurum içi kullanım için özel yapay zekâ araçları geliştirmiş işletmeler açısından bile yapay zekâyı işletmeniz ile dünya arasındaki arayüze taşımak bambaşka bir meseledir.
Üstelik bu gerçekten bir terfidir. Yapay zekâ müşterilerin karşısına çıktığında çalışkan bir stajyerlikten kurumun onayladığı bir çalışanlığa terfi eder; üniformasını giyer ve müşterilerin gözünde markayı temsil eder.
Risk büyüktür. Artık atlanan her adım kamuya açıktır ve kayda geçebilir.
Geliştirdiğimiz ürünler çoğu zaman iş düzeyinde karmaşık etkileşimler içeren çok ajanlı sistemlerdir. Ancak işin daha kolay kısmı bu mantık olabilir. Asıl zorluk, kullanıcıları başından sonuna kadar tek bir ajanla konuştuklarına ve ajanın söylediklerinin dinlemeye değer olduğuna ikna etmektir.
Bu yüzden promptları tekrar tekrar yazıp yeniden yazarız.
Bazı ajanlar yüzlerce prompt yinelemesinin sonucunda ortaya çıkar. Hepsinin amacı aynıdır: Görevden sapmamak ve insan kullanıcılarda karşılık bulan bir sesle konuşmak.
Promptları iyileştirme sürecindeki deneyimimiz, ilham ararken yaratıcı davranmamızı sağladı. Başka disiplinlerden yararlanmaya başladık. Elbette her şey işe yaramadı; işe yarayanlar da nadiren ilk denemede sonuç verdi. Bu keşif çabaları sonucunda ekibimizde, alışılagelmiş prompt oluşturma yaklaşımından farklı bir paradigma doğdu.
Sistematik biçimde işlevsel bir ajan ile diyalogda olağanüstü başarılı bir ajan arasındaki fark yalnızca teknik değil, kavramsaldır. Bu fark, prompt aracılığıyla ajanı yerleştirdiğiniz dünya ile ajanın faaliyet gösterdiği gerçek insan iletişimi dünyası arasındaki mesafedir.
İkincisini belirsizlik tanımlar. İnsanlar bu belirsizliğe son derece uyumludur ve iyi niyetli iletişimciler, söylemin incelikli ve dile getirilmeyen kurallarını birlikte izleyerek onun içinde yol alır. Donanımsız bir ajan kendini hemen belli eder.
Dördüncü duvarı, diğer bir deyişle Turing yanılsamasını korumak için dilbilim ve bilişsel psikolojinin içgörülerinden yararlanarak ajanlarımızı diyalog sanatına sağlam biçimde oturtabiliriz.
Dilbilim, dilin kullanım hâlini incelemek için kapsamlı bir araç setine sahiptir. Bunlardan biri olan Konuşma Çözümlemesi, insanların konuşmaları anbean nasıl yapılandırıp yönettiğini inceler. Prompt oluşturmaya uygulandığında bu çerçeve, konuşmayı sözcüklerin değil, eylemlerin karşılıklı aktarımı olarak düşünmemizi sağlayan bir kavram dağarcığı sunar.
Bilgi almak veya vermek gibi bazı eylemler pratiktir; yakınlığı korumak ya da sürtüşmeden kaçınmak gibi diğerleri ise sosyaldir. Bu tür hamleler, her aşamasında beklenen eylemler bulunan daha geniş diyalog yapısı içinde gerçekleşir. Diyalogların açılışları ve kapanışları olduğu gibi konu geçişleri, hatta geçiş öncesi aşamaları da vardır. Bunlar, yeni bir yönün satır aralarında incelikle önerildiği, müzakere edildiği ve kararlaştırıldığı, zaman zaman garip anlardır.
Tüm taraflar son derece iyi niyetli olsa bile iletişim aksaklıkları her zaman yaşanır. İnsanlar diyalog sanatında farklı ölçülerde başarılı olsa da önemli olan şudur: Ajanınızın arkasındaki LLM, sıradan bir insan iletişimcide bile bulunan sezgilerle hazır hâlde gelmez.
Dilbilimsel çözümlemenin yanı sıra bilişsel psikoloji de tamamlayıcı bir bakış açısı sunar. Dikkat, bellek ve karar verme süreçlerinin gerçekte nasıl işlediğini anlatır: İnsanların önce ve sonra gelenlere nasıl farklı ağırlık verdiğini, belirli tetikleyicilerin nasıl güvenilir davranışlar doğurduğunu ve kısıtların bilişsel yükü azaltarak nasıl özgürleştirebildiğini gösterir.
Prompt, talimatları barındıran tarafsız bir kap değildir. Bir dikkat ortamıdır. Dolayısıyla en üstte ne olduğu önemlidir. En altta ne olduğu da önemlidir. Nelerin tekrarlandığı önemlidir. İnsanlar bir listedeki ögelerden genellikle başta ve sonda bulunanları ortadakilere kıyasla daha kolay hatırlar. Psikologlar buna seri konum etkisi der: öncelik ve sonralık.
Uygulamada LLM'lerde de benzer bir durum görüyoruz. En baştaki yönlendirmeler çerçeveyi belirler: Ajanın kim olduğunu, hangi rolü oynadığını ve nasıl bir dünyayla karşılaşmayı beklediğini tanımlar. Kapanıştaki yönlendirmeler çoğu zaman “duyduğu son şey” gibi işlev görür. En önemli talimatlarımızı buraya koyarsak uygulanma olasılıkları artar.
Çeşitli talimatları prompt içinde nereye yerleştireceğimizi dikkatle düşünürken bu talimatların ajanımız için oluşturduğu sınırın genel biçimini de izlemeliyiz.
Talimatlar ajanımızı kısıtlayarak çözmesi gereken birbiriyle yarışan olasılıkların sayısını azaltır ve genel problem alanını daraltır. Promptlarımızda, ajanın görevini yönetilebilir kılacak kadar kısıt bulunmalıdır.
Psikoloji bize, çalışanlara ve özellikle daha az deneyimli olanlara talimat verirken görevin belirsizliklerini gidermenin ve böylece bilişsel yükü mümkün olduğunca azaltmanın akıllıca olacağını söyler. Kısıtlar özgürlüğü engelliyor gibi görünse de daha az karar vermek zorunda kalmak, geriye kalan birkaç önemli karara odaklanmamızı ve sınırlar içindeki eylemlerimizi yaratıcı biçimde hayata geçirmemizi sağlar.
Buna karşılık, akla gelebilecek her uç durumu örnek davranış listeleriyle kapsayıp ajanımıza sıfır karar bırakmaya çalışmak, yapay konuşan bir muhatap yaratmanın iyi bir yoludur. Üstelik ortaya yönetimi kâbusa dönüşen, koşullarla dolu, hantal bir Frankenstein prompt çıkar.
(Az örnekli promptlar, sözümüz size.)
Sınırları iyi belirlenmiş bir prompt, görev tanımını aşırı yükleyip ajanı felç etmeden yeterince net yön gösterir. Bu çoğu zaman hem neyin söylenip söylenmeyeceği hem de nasıl söylenip söylenmeyeceği bakımından ajana daha az uç durum veya hedef sunmak anlamına gelir.
Deneyimlerimize göre sınırınızı ayarlamak için az örnekli bir prompta başvuruyorsanız sınırınız yeterince kesin değildir. Temel talimatlara dönüp onları iyileştirin.
Bilişsel psikoloji açısından, farklı talimatları prompt içinde nereye yerleştirmemiz gerektiğini değerlendiriyor; ajanımızın problem alanına en uygun sınırları çizmek için gereken talimatların hem niceliğini hem de niteliğini göz önünde bulunduruyoruz.
Dilbilim açısından diyalog sanatına ilişkin önceki gözlemlerimizi hatırlayarak diyalog odaklı talimatları ajanımızın daha geniş görev sınırının parçası olarak çerçeveleyebilir ve prompt oluşturma paradigmamızı tamamlayabiliriz.
Müşteriye dönük yapay zekâda diyalog, kabul etsek de etmesek de her zaman üst görevdir. Promptumuzda diyaloğu bilinçli olarak ele almayı seçtiğimizde, ajanın kapasitesinin veya “bilişsel yükünün” bir bölümünü diyalog farkındalığına ve diyaloğa yanıt vermeye ayırırız; böylece konuşma becerisini geliştiririz.
Ancak bunun karşılığında, genel problem alanını yönetilebilir ve sınırları iyi belirlenmiş hâlde tutmak için muhtemelen ana görevi küçültmemiz gerekir.
Dolayısıyla müşteriye dönük yapay zekâ için daha iyi diyalogların ve kararların koşullarını bütüncül biçimde tasarlarız. Ana görevi, diyalog üst görevi bağlamına yerleştirilmiş veya bu görevi kapsayan, daha küçük ve sınırları iyi belirlenmiş ajanlar hedefleriz. Örneklerle iyileştirilecek talimat yığınları yazmayız. Örnekleri gereksiz kılacak kesinlikte, iyileştirilmiş ve daha küçük bir talimat kümesi yazarız.
Hem görevden sapmayan hem de bunu diyalog zarafetiyle yapan ajanlar oluşturmak için kullandığımız prompt paradigması budur.
Kavramsal çerçeveyi ortaya koyduğumuza göre bir sonraki blog yazımızda daha uygulamalı konulara geçeceğiz. Bu ilkeleri gerçek dünyadaki deneme yanılma süreçleriyle promptlara uygulama çabalarımızda ortaya çıkan bazı temel örüntüleri inceleyeceğiz. İlginçtir ki en üst seviye model sağlayıcıları da kendi prompt oluşturma rehberlerinde benzer örüntülere yer vermeye başlıyor. Devamı bir sonraki yazıda.