Artık çoğu kuruluş üretim ortamında yapay zekâ kullanıyor. Ancak neredeyse hiçbiri yapay zekâyı gerçekten önemli alanlarda, yani müşteriye dönük deneyimlerde, kritik iş kararlarında veya asgari insan gözetimiyle yürütülen süreçlerde kullanmıyor. Rekabet avantajı işte bu fark yüzünden kazanılıyor veya kaybediliyor.
Engel genellikle yetkinlik değil, güven eksikliğidir. Yüksek riskli yapay zekâ uygulamalarında bu güven, dört belirli ölçütün karşılanmasıyla oluşur.
Bu ölçütler; yapay zekâ davranışını nasıl test ettiğinizden kurumsal ölçekte çözümleri nasıl geliştirip yönettiğinize ve liderliğinizin bunun neden önemli olduğuna gerçekten inanıp inanmadığına kadar uzanır.
Bu güven ölçütlerini karşılamak kurumsal alışkanlık ve hesap verebilirlik kazandırır; anlamlı sonuçlar yaratacak yapay zekâ uygulamalarından kaçınmanız için daha az neden bırakır. Bunlar olmadan yapay zekâ, kuruluşun işleyişini kayda değer biçimde etkilemeden, tali kullanım alanlarında yalnızca birkaç sterlin tasarruf ettiren bir araç olarak kalır.
Yapay zekâ dünyasında onlarca yıl öncesine denk gelen geçen yıl bu zamanlarda çoğu şirket “yapay zekâ POC arafındaydı”: Yapay zekânın neler yapabileceğini gösteren pek çok ilginç POC vardı ama bunların herhangi birini üretime almakta zorlanıyorlardı. Bir yıl sonra birçok kuruluşun artık üretimde en az birkaç yapay zekâ çözümü var; bu, ileriye doğru atılmış çok önemli bir adım.
Ancak yapay zekâ çoğu zaman tali süreçlerde kullanılıyor: Bunu yapmak daha kolaydır, bir İnovasyon ekibi istekli bir iş kullanıcısıyla çözümü geliştirebilir ve işler ters giderse “dünyanın sonu olmaz.” Süreç aslında kritik değildir; manuel bir yedek süreç veya olumsuz sonuçları sınırlayan birden fazla “döngüde insan” vardır.
Anlaşılır ancak temkinli olan bu yaklaşımın sonucunda çözümlerin etkisi de sınırlı kalır: Büyüme fırsatında, müşteri deneyiminde veya maliyet yapısında kayda değer bir değişim yaratmaları pek olası değildir.
Geleceğin kazananlarını diğerlerinden ayıran budur: İlerici şirketler, iş performansı açısından önemli alanlarda yapay zekâdan yararlanmaya yatırım yapıyor.
Geride kalanlar da “yapay zekâ kullanıyor”, ancak bunu işletme üzerinde anlamlı etki yaratacak alanlarda yapmıyor.
Evet; yatırım kararlarında, müşteri deneyiminde, ürün geliştirmede, araştırma & tasarımda ve “döngüde insan bulunmayan otomasyonlarda” yapay zekâ kullanmak daha riskli görünecektir. Ancak asıl kazanımlar da bu alanlardadır.
Bu alanda öne geçen şirketler henüz piyasanın dikkatini çekmemiş olabilir. Ancak bu gerçekleştiğinde aradaki fark ciddi boyutlara ulaşmış olacak; üstelik yapay zekâyı devreye alma hızındaki farklılık nedeniyle geride kalanlar başından beri neyi yanlış yaptıklarını anlarken fark daha da açılacak.
Öyleyse soru şu: Bir kuruluşun yapay zekâyı gerçekten önemli süreçlerde güvenle kullanabilmesi için neye ihtiyacı var?
Öncelikle “ChatGPT gibi bir yapay zekâ aracımız var” aşamasından “POC’lerimiz var”, ardından da “Canlıda 10 basit yapay zekâ çözümümüz var” aşamasına geçtiğinizi varsayalım. Henüz geçmediyseniz bunu öncelikli olarak çözmelisiniz. Bu ilk adımlar basit görünebilir ancak kurum genelinde yapay zekâ okuryazarlığı geliştirmek, daha iyi kullanım senaryoları bulmak ve herhangi bir yapay zekâ çözümünü üretime almak için gereken kurum içi adımları ortaya çıkarmak açısından vazgeçilmezdir.
Bu noktada kuruluş daha iddialı hâle gelmeli; önce “insan gözetimli, anlamlı uygulamalı yapay zekâ çözümleri” sunmaya, ardından fark yaratacak olan “temel süreçlerimizde ve müşteri deneyimlerimizde yapay zekâ kullanıyoruz” aşamasına geçmelidir.
İlerlemenin bu son adımlarını sınırlayan nadiren teknoloji, çoğunlukla kurumsal güven eksikliğidir. Çünkü zor işleri ertelemek veya bunlardan kaçınmak için her zaman bir neden vardır:
“Ya yanlış içgörüler sunarsa?”, “Ya hatalı davranır ve haberlere konu olursak?”, “Ya hesaplamayı yanlış yapar ve hatalı karar verirsek?”, “Ya müşterilere kötü davranırsa?”, “Ya model kullanılamaz hâle gelirse?”, “Bunun güncellemelerini nasıl destekleyeceğiz?”, “Ya mevzuat değişirse?”, “Yeni modeli beklemeli miyiz?” vb.
Bize göre, yüksek etkili ve yapay zekâ destekli bir değişiklikte “Canlıya Al” düğmesine güvenle basılmasını sağlayan genellikle dört koşul vardır.
Neden: Kuruluş ve özellikle üst yönetim, “Yapay zekâ iş başarımız için neden önemli?” anlatısına gerçekten inanıyor mu? Çünkü inanmıyorsa kuruluşun zor kararlardan kaçınmak için nedenler bulması daha olasıdır.
Etkinleştirme: Kuruluş yapay zekâyla birlikte dönüşürken onu destekleyecek bir Yapay Zekâ Değişim/Dönüşüm/Etkinleştirme ekibi var mı? Bu ekip; benimseme, eğitim, mevzuat, yeni çalışma yöntemleri, varsayımları sorgulama ve gerekli finansmanı sağlama gibi konuları ele alır. Yapay zekâ, Bulut veya Dijital girişimlerde sıkça olduğu gibi “teknoloji ekibinin çözeceği” bir değişim değildir. İş birimleri tarafından yönlendirilmeli ve güçlü biçimde desteklenmelidir.
Nasıl: Uygulamalı yapay zekâ için yerleşik bir kurumsal mimari ve çözüm mimarisi var mı? Bu alan sürekli gelişse de net bir yaklaşıma sahip olmak; doğru güvenlik bariyerleri, maliyet, gözlemlenebilirlik, kontroller ve model erişimi gibi konularda düşünmeyi ve bilgi geliştirmeyi zorunlu kılar. Bu, kuruluşun yapay zekâ konusunda “ne yaptığını bildiğine” dair kurum içi güvenilirlik oluşturmaya başlar ve birbirinden farklı birçok geliştirme yönteminin ortaya çıkmasını önler.
Canlıya Alma Güven Testi: Çözüm sahipleri “Canlıya almak için yeterince iyi mi?” sorusunu durmadan erteleyebilir. QA ekiplerinin yürüttüğü geleneksel testler, deterministik olmayan bir yapay zekâ sistemi için bu güveni ve hesap verebilirlik duygusunu sağlamaz. Değerlendirmeler sağlar.
Şimdi bunları ters sırayla ele alalım; çünkü bu sıra, canlıya alma güveniyle ilgili karar sürecine en yakın olandır.
Kuruluşlar onlarca yıldır bir sürümün yeterince iyi olup olmadığına karar vermek için QA ekibine güveniyor. Kâğıt üzerinde testleri iş paydaşları yapıyordu; gerçekte ise QA ekibi yürütüyordu. Sayısız “eğer bu olursa şunu yap” kuralı doğrultusunda sonuç ya başarılı ya başarısızdı. Çok iş gerektiriyordu ama basitti.
Davranışı değerlendirmemiz gereken yapay zekâda bu yöntem işe yaramaz.
Değerlendirmeler veya eval’ler, nitel yapay zekâ davranışını ölçülebilir hâle getirmenin yoludur. Başarılı/başarısız sonucu yerine doğruluk, üslup, olgusal dayanaklandırma ve reddetme davranışı gibi ölçütler tanımlar ve puan verirsiniz. İstemleri, modelleri ve güvenlik bariyerlerini iyileştirirken proje boyunca bu puanları izleyin. Böylece proje ekibinin, değişim komitelerinin ve iş liderlerinin güvenle harekete geçmesini sağlayacak somut bir sonuç elde edersiniz: Proje boyunca x’ten y’ye yükselen bir doğruluk puanı.
Bu sayı iki işe yarar. Birincisi, zaman içindeki gelişimi göstererek ve sistemin belirlenen beklentiler çerçevesinde sürekli, güvenilir biçimde davrandığına dair paydaşlara somut kanıt sunarak güven oluşturur.
İkincisi, hesap verebilirlik sağlar. Başvurabilecekleri sayıları ve bu eval’lerin geçmişini sunar. İyi tanımlanmış senaryo yelpazesinde test edilen ve belgelenen bir değerlendirme seti, onay komitesine gerekli özenin gösterildiğini kanıtlayan test raporunun yapay zekâdaki karşılığıdır: Yalnızca yapması gerekeni mi yapıyor ve bunu yalnızca yapması gereken biçimde mi gerçekleştiriyor?
Elbette bu sayılar yalnızca değerlendirme ölçütleri yeterince kapsamlıysa anlamlıdır. Bunun için çoğu kuruluşun başlangıçta yanlış yaptığı bir işletim modeli değişikliği gerekir: Değerlendirme ölçütlerinin sahibi teknoloji veya QA ekibi ya da görevlendirilmiş tek bir kıdemsiz kullanıcı değil, “iş birimi” olmalıdır. Ürün sahipleri ve uzmanlar; alanı, uç durumları, istenen üslubu, kullanıcıların gerçekleştirebileceği etkileşim türlerini, anlamlı akıl yürütme adımlarını, hata biçimlerini ve doğru soru-cevap çiftlerini bilir. İyi sonucun nasıl görünmesi gerektiğine çözümü kullanan ve devreye alan kişiler karar vermelidir.
Dolayısıyla müşteri deneyiminin tam merkezinde yapay zekâ kullanan bir çözümü onaylamanız gerekiyorsa yalnızca iki soru sormalısınız:
(1) Değerlendirme ölçütlerini kim tasarladı ve
(2) eval performansı zaman içinde bu ölçütlere göre iyileşerek asgari eşiği geçti mi?
Yanıt "Bunları teknoloji ekibi hazırladı ama sonuçlardan memnunuz" ise uygulama hazır değildir. Yanıt “Evet, geçen hafta test ettik ve geçti” ise eval’lerin geliştirme sürecinin başlangıç noktası olması pek olası olmadığından, bu muhtemelen gereken güveni sağlayacak bir Eval olgunluğu düzeyi değildir.
Ancak iş birimindeki ürün sahibi geliştirme boyunca eval’leri tanımlamış, incelemiş ve yinelemişse ve performans eğrisinin doğru yönde ilerlediğini gösterebiliyorsa onaylanmaya değer bir çözümünüz var.
Yapay zekâ mimarisi ilke ve standartları üzerinde uzlaşılması da güveni artırır. İlk beş yapay zekâ uygulamanızı sırf işe koyulmak için o an uygun olan herhangi bir yöntemle geliştirmek işinize yaramış olabilir. Ancak ölçeklenmek ve kuruluş genelinde güvenli, iyi yönetilen yapay zekâ uygulamalarını hızla devreye almak için referans uygulama mimarileri ile kurumsal bir yapay zekâ platformunu içeren daha sistemli bir yaklaşım gerekir.
Tüm mühendislik ekipleri; model erişimi, güvenlik bariyerleri, gözlemlenebilirlik, ölçeklendirme ve maliyet yönetimi gibi yetenekleri hızla “devralabilmeli”, böylece çözümün mühendisliğine odaklanabilmelidir.
Hızlı değişim nedeniyle kısa ömürlü olsa bile kurumsal yapay zekâ platformu ve mimari yaklaşımları hakkında net bir görüşe sahip olmak, kuruluşun kritik sistemlerde yapay zekâyı güvenle devreye alabileceğine duyulan güveni daha da artırır. Çünkü bu, birilerinin tüm temel etkenleri değerlendirdiği ve devreye alma için en uygun yolu belirlediği anlamına gelir. Bu da çözümün söz konusu önemli süreçleri destekleyeceğine duyulan güveni artırır.
Bu, “aynı işi bir yapay zekâ aracına erişerek yapmak” değildir. Klişe gelebilir ama dönüşüm; süreçleri yeniden tasarlamak, ürün tekliflerini yeniden düşünmek, müşteri deneyimini geliştirmek, çalışma yöntemlerini ve büyük olasılıkla ekip yapılarını değiştirmek demektir.
Bu, ek iş olarak yürütülemez ve Teknoloji birimi tarafından yönlendirilemez. Üç tam zamanlı çalışandan oluşan “İnovasyon” ekibiniz de bunu tek başına yapamaz. “Nasıl olsa zamanla çözülür” yaklaşımını benimserseniz kazanan rakiplerin ulaşabileceği değişim hızını yakalayamazsınız.
Ayrıca gerçekten “oyunun kurallarını değiştiren” kullanım senaryolarını ortaya çıkarmak ve bunlara destek sağlamak, kurum genelinde kapsamlı yapay zekâ bilgisi ve yapay zekâya olumlu yaklaşım gerektirir.
Bu nedenle yapay zekâ dönüşümünüzü gerçekleştirmek için kuruluşun ihtiyaçlarını, değişimin nasıl mümkün kılınacağını ve yapay zekâyı bilen kişilere yönetim kurulunca yetki verilmelidir. Bu kişiler koordinasyon, enerji, finansman, paydaşları etkileme, yönetişim, önceliklendirme ve karar alma süreçlerini sağlamalıdır.
Özellikle ilk aşamalarda merkezi bir Yapay Zekâ Merkezi, Yapay Zekâ Dönüşüm Birimi veya Yapay Zekâ Ofisi benzeri bir yapı iyi sonuç verir. Bu merkezi ekip; kuruluşun uygulanabilir bir stratejisi bulunduğuna, önemli kararların hızla alınıp ilgili birimlere yayılabileceğine ve yapay zekâ dönüşümü için kalite eşiklerinin belirlenebileceğine duyulan güveni artırır. Böyle bir ekip olmadan yaklaşım aşırı parçalı hâle gelebilir; kararlar, ürün ve çözüm tercihleri ile kalite arasında tutarsızlıklar doğabilir. Bu da sonuçta yüksek riskli alanlarda yapay zekâ uygulama güvenini zedeler.
Daha önce belirttiğimiz gibi, yapay zekâdan gerçek rekabet avantajı sağlayacak şirketler; müşteri deneyimini, ürün performansını ve üretim hızını iyileştiren önemli süreç ve deneyimlerin merkezinde yapay zekâyı sık, hızlı ve güvenli biçimde devreye alacak kurumsal deneyim, uzmanlık ve güveni geliştirenler olacak.
İyi değerlendirme uygulamaları, hızla uyum sağlayıp ölçeklenebilen bir mimari ve kuruluşun öğrenmesine, uyum sağlamasına ve yeni çalışma yöntemleri oluşturmasına yardımcı olan “yapabiliriz” anlayışına sahip bir dönüşüm yönetimi gerekir.
Ancak bunların hiçbiri “aşağıdan yukarıya” yaklaşımla başarılamaz. Değişimler ve sonuçları bunun için fazlasıyla hızlı ve etkilidir. “Yönetim kurulu onayı” veya “yönetim desteği” de yeterli değildir.
Çalışanlarınız değişimin neden gerekli olduğunu, kendileri için ne anlama geldiğini —iyi veya kötü— ve ne kazanacaklarını açıkça göremezse dönüşüm arka kapıdan gelir ve ardında ciddi hasar bırakır.
Dolayısıyla yapay zekânın benimsenmesinden gerçek avantaj elde etmenin dördüncü unsuru, şirket liderliğinin yapay zekâ yatırımının şirketin sürdürülebilir başarısı için vazgeçilmez olduğunu gerçekten anlayıp buna inanmasıdır. Misyon bildirimi ve hedeflere dâhil edilen, onların yapay zekâ stratejisidir; bunu sürekli savunmalı ve eylemle desteklenen kararlar aldıkları görülmelidir.
Bu yaklaşım, kuruluş genelindeki ekiplere yetkinliklerini geliştirmeleri ve biraz rahatsız edici olsa da önemli kararları alarak daha zor fakat daha kazançlı yolu seçmeleri için teşvik, destek ve aciliyet duygusu verir. Yapay zekâ destekli müşteri deneyimi veya yatırım kararı süreci için “Canlıya Al” düğmesine basma güveni sağlar.
Önümüzdeki iki yılda yapay zekâdan kazançlı çıkacak şirketler, en fazla uygulamayı devreye alanlar olmayacak. Kazananlar; yapay zekâyı önemli, müşteriye dönük, kararları etkileyen ve iş açısından kritik sistemlerle süreçlerde çalışır hâle getiren ve bunu sürekli, güvenli biçimde yapacak kurumsal yetkinliği geliştirenler olacak.
Peki siz ne yapmalısınız? Kuruluşunuz “yapay zekâ kullanıyor” ancak bunun şirketin başarısına hiçbir etkisi olmuyorsa şu soruları yanıtlamaya çalışın:
Yapay zekânın şirketinizin misyonunu gerçekleştirmedeki rolü açık mı? Liderliğin yapay zekâyı benimsemenin şirketin gelecekteki başarısı için vazgeçilmez olduğuna gerçekten inandığını düşünüyor musunuz?
Yapay zekâ gündemini ilerleten, kurumu eğiten ve faaliyetleri koordine eden merkezi bir birim var mı?
Teknoloji ekibi daha hızlı ve güvenli yapay zekâ mühendisliğini kolaylaştıracak uzmanlık, kapasite ve kalıplar geliştiriyor mu?
Sürümler, yapay zekâ davranışıyla ilgili yanıtsız soruların doğurduğu engellere takılmadan üretime ulaşabiliyor mu?
Bu sorulardan herhangi birinin yanıtı hayırsa yapay zekânın hızla ve tutarlı biçimde devreye alınabileceğine ilişkin kurumsal güveni geliştirmeye nereden başlayacağınızı biliyorsunuz. Böylece gerçekten önemli alanlarda rekabet avantajı elde edebilirsiniz.