Kaydedilmiş toplantılar, yeterince yararlanılmayan bir bilgi kaynağıdır. İçlerinde arama yapmak zordur, yeniden izlemek zaman alır ve farklı ekip sürücülerine dağılmışlardır; bu nedenle değerli içgörüler çoğu zaman gözden kaçar.
Üç kişilik bir ekip, bir günlük hackathon'da Callombia'yı geliştirdi. Bu şirket içi platform; kaydedilmiş görüşmeleri otomatik olarak yazıya döküyor, etiketliyor, özetliyor ve kliplere ayırarak küresel ofislerin erişebildiği, YouTube tarzı, aranabilir bir depoya dönüştürüyor.
Tamamı Codex ile geliştirilen çözüm, OpenAI gömmeleri ve kosinüs benzerliğiyle desteklenen semantik arama sayesinde tam anahtar kelimeler kullanılmasa bile ilgili anları buluyor; bunun üzerine bir RAG sohbet botu ve bildirim sistemi de ekleniyor.
Eskiden haftalar sürecek çalışma yedi saatte tamamlandı. Bu da Codex gibi kodlama ajanlarıyla yapay zekâ odaklı geliştirmenin ürün geliştirme yaşam döngüsünü nasıl büyük ölçüde kısaltabildiğini ve şirket içi hackathon'lardan gerçek iş değeri yaratabildiğini gösterdi.
Benim gibiyseniz kaydedilmiş toplantıları yeniden dinlemeye nadiren vaktiniz (veya sabrınız) olur. Bunun nedeni çoğu zaman dağınık ekip sürücülerinde arama yapmak, vasat havadan sudan sohbetleri atlaya atlaya ilerlemek ve e-posta ve mesaj gönderirken bir yandan da gerçekten dinlemeye çalışmaktır.
Peki, belki de böyle olmak zorunda değildir? Kaydedilmiş toplantıları tamamen değiştirecek bir şey geliştirebilir miyiz? Yakın tarihli hackathon projemizin ardındaki düşünce buydu.
Mühendislik, teslimat ve operasyon ekiplerimizden 50 kişi yalnızca bir günde; işe alım operasyonlarını ölçeklendirmekten SoW oluşturmayı kolaylaştırmaya, proje durumunu anlamaktan canlı prototip üretmeye ve kaydedilmiş toplantılardaki içgörüleri ortaya çıkarmaya kadar şirket genelinden derlenen çeşitli sorunları ele aldı.
Codex tabanlı bu hackathon'da Callombia'yı geliştirdik. Callombia, her görüşmeyi yaşayan ve aranabilir bir kaynağa dönüştüren şirket içi YouTube'umuzdur. Her görüşme otomatik olarak yazıya dökülüp etiketleniyor ve özetleniyor; ardından tematik kliplere ayrılarak kanallara (müşteriler) ve konulara (yapay zekâ uzmanlık alanları) göre gruplandırılmış bir depoya ekleniyor. Böylece Londra, Edinburgh, Singapur ve Avustralya'daki tüm ekip üyeleri görüşmelerde önem verdikleri anlara anında erişebiliyor.
Tanıdık ve markamızla uyumlu kullanıcı arayüzü içerik keşfini sezgisel hâle getirirken semantik arama (ve elbette RAG yapay zekâ sohbet botu), insanların aradıkları şeyi tam olarak bulmasına yardımcı oluyor. Bildirim sistemi sayesinde çalışma arkadaşlarımız belirli konulara abone olabiliyor ve kendileriyle ilgili yeni klipler yayımlandığında bildirim alabiliyor.
Ancak Callombia'nın en etkileyici yanı ürün veya hackathon'ı kazandığımız için aldığımız 2 bin sterlinlik ödül (biraz hava atalım) değil; tüm bunları iki mühendis ve bir teslimat sorumlusuyla yalnızca yedi saatte geliştirebilmiş olmamız. Bir yıl önce bu mümkün değildi. Kodlama ajanlarındaki gelişmeler, uçtan uca ürün geliştirme sürecini büyük ölçüde hızlandırdı. Bu hackathon da bu teknolojinin değişken sınırlarını anlamak için harika bir test ortamı sundu. Peki Codex'i nasıl kullandık?
Bir yığın gereksinim yazmak yerine işe, sorun alanına ve Callombia vizyonuna ilişkin ortak görüşümüzü bir prompt olarak paylaşarak başladık. Bilerek ayrıntıya girmeyip işi modele bıraktık ve yaratıcı düşünmesine olanak tanıdık:
10 dakikalık karşılıklı görüş alışverişinin ardından gereksinimleri netleştirmek ve geliştirmenin teknik kısmına yön vermek için Plan Modu'nu açtık. Plan Modu, olası her senaryoyu (neyse ki) enine boyuna düşünmüş o sinir bozucu arkadaşınızın sorularını yanıtlamak gibi. Video sayısı, semantik arama mı yoksa anahtar kelime araması mı kullanılacağı ve mimari seçimi gibi konularda anlaştıktan sonra Codex, projenin sonraki aşamalarına temel oluşturan bir Markdown dosyası hazırladı.
Planımız hazır olduğunda sıradaki adım, Callombia'nın gerçekten çalışmasını sağlayacak temel bileşenleri geliştirmekti. Bunun için kaydedilmiş görüşmelerden aranabilir kaynaklara uzanan bir işlem hattı oluşturmamız gerekiyordu:
Videoları ve transkriptleri sisteme aktarmak,
Bunları anlamlı anlara bölmek,
Özetler ve etiketlerle zenginleştirmek,
Ön yüzün kullanabileceği API'ler aracılığıyla erişime açmak.
Ed ham kayıtları ve transkript verilerini kullanılabilir bir biçime dönüştürmeye, Nico ise bu anların bulunmasını sağlayacak erişim katmanına odaklandı. Codex sayesinde ikisi de veri modellerini, ayıklama betiklerini ve arka uç altyapısını elle yapabileceğimizden çok daha hızlı kurdu. Böylece bir videoya eklenmiş transkriptten çok daha fazlasını elde ettik. Elimizde artık anlar vardı: Tesco bölümü, strateji güncellemesi, işe alım görüşmesi veya birinin gerçekten izlemek istediği belirli 90 saniye.
Özellikle ilgi çekici olan kısım bu erişim katmanıydı. Birinin “finansal performans”, “Tesco yol haritası” veya “konuşma değerlendirmeleri” gibi bir ifade yazıp, bu kelimeler aynen hiç söylenmemiş olsa bile en ilgili kliplere yönlendirilmesini istiyorduk. Bunun için zaman damgaları, özetler, transkript metni ve meta veriler içeren parçalar oluşturduk. Net bir mimari ve Codex'in büyük desteğiyle konu, özet ve transkripti tek bir girdide birleştirdik; ardından her parça için gömme oluşturmak üzere OpenAI'ın text-embedding-3-small modelini kullandık. Bu gömmeleri veri tabanımızda sakladık ve kullanıcı sorgusunu her parçayla karşılaştırmak için kosinüs benzerliğini kullandık. Böylece basit bir anahtar kelime araması yerine semantik bir erişim katmanı elde ettik.
Bu yaklaşım doğruluk açısından son derece başarılı oldu ve hackathon demosu sırasında ürüne “sihirli” bir his kattı. Aynı zamanda video sayısı artmaya devam ederse bu yaklaşımın sonsuza kadar ölçeklenemeyeceğini biliyorduk; çünkü her sorguyu her parçayla karşılaştırmak sonunda fazla maliyetli olacaktı. Bir sonraki doğal adım, karşılaştırma sayısını azaltmak ve veri külliyatı büyürken gecikmeyi düşük tutmak için Hiyerarşik Gezilebilir Küçük Dünya gibi daha verimli erişim stratejileri kullanmak olurdu. Bu özellik çalışmaya başladığında Callombia bir medya kütüphanesinden çok bir bilgi sistemi gibi görünmeye başladı.
Her iyi hackathon'da olduğu gibi bu kısmın da yinelenerek geliştirilmesi gerekiyordu: İlk parça sınırları fazla kabaydı, bazı zaman damgalarının hassaslaştırılması gerekiyordu, bazı etiketler çok genişti ve transkriptlerle kayıt dosyaları her zaman düzgün eşleşmiyordu. Ancak değer de tam burada ortaya çıktı. Codex, kurulum ve yeniden çalışma süreçlerine takılıp kalmak yerine sistemi hızla iyileştirmemizi sağladı. Sonunda klipleri, kısa kesitleri ve gerçekten yararlı semantik aramayı destekleyebilen bir arka ucumuz vardı. Callombia işte o noktada yalnızca bir hackathon demosundan çok gerçek bir ürün gibi görünmeye başladı.
Ed ve Nico veri aktarımı ile akıllı işleme katmanını geliştirirken ben de ön yüzü geliştirdim. Tam yığın şablonumuzu kullanarak tek satır kod yazmadan web sitesinin ilk sürümünü hızla oluşturdum. Web sitesini tarayıcımda yerel olarak açmasını istedikten sonra tasarımı istediğim hâle getirmek için maddeler hâlinde basit geri bildirimler verdim.
Yaklaşık bir saatlik karşılıklı çalışmanın ardından, kullanıcı arayüzü veya tasarım deneyimim olmamasına rağmen oldukça memnun kaldığım bir sonuç elde ettim. Nihai ürün kesinlikle kusursuz olmasa da insanların ürünü anlamasını sağlayan oldukça iyi bir ilk sürüm.
Günün sonunda elimizde çalışan bir şey olmasını sağlamak için işi aramızda bölüştük. Tahmin edileceği üzere, birkaç saat yarı bağımsız çalıştıktan sonra hepimizin çok sayıda çakışma içeren kendi yerel dalları oluşmuştu.
Çakışmaları tek tek dikkatle inceleyip çözmeye vaktimiz olmadığından Codex'i depolarda serbest bırakmaya ve çakışmaları kendi başına gidermesini istemeye karar verdik. Şu an için kurumsal ölçekte yazılım geliştirmede bu yaklaşımı önermesek de düşük riskli bir ortamda ne kadar etkili olduğunu görmek inanılmazdı ve bize saatler kazandırdı.
Hackathon'ın son aşaması, Callombia demosunu jüri üyeleri için kaydetmekti. İçgüdüsel olarak kaydı Loom ile yapmak istesek de bunun Codex için gerçek bir sınav olabileceğini ve mevcut yeteneklerinin biraz dışına çıkacağını düşündük. Dolayısıyla… Bir prompt yazdık, Callombia web sitesinin bağlantısını verdik, OpenAI geliştirici platformundaki ses kaydımı ekledik ve gerisini yapmasını istedik.
İlk deneme son derece etkileyiciydi: Bir demo metni yazmış, ekranı kaydetmiş, seslendirmemi eklemiş ve istenenleri neredeyse tamamen karşılamıştı. Başta memnun kalmadığımız tek şey seslendirmenin demo kaydıyla eşleşmemesiydi. Bu yüzden ona şunu söyledik: “MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.”
Bu istek üzerine Codex, seslendirme ile kaydı daha küçük bölümlere ayırdı ve görevi neredeyse kusursuz biçimde tamamladı; hem de tam 17.30'da, kutlama için bira ve pizza zamanı gelmişken.
Callombia'nın çoğu işletmenin karşılaştığı bir sorunu çözdüğünü biliyoruz. Hızla büyüyen bir şirkette her görüşmeye katılmak zordur, ancak bu görüşmelerde paylaşılan değerli bilgiler paha biçilemez. Şimdi tek yapmamız gereken ürünü canlıya almak.
Ancak burada yapay zekâ odaklı çalışmaya ve mühendislik ile ürün bilgisini ortak sorunların çözümüne adamaya dair daha büyük bir ders var. Alışılmış çalışma düzenimizin dışına çıkıp ekipler arasında ve yarı rekabetçi bir ortamda iş birliği yaparak, birkaç düzenlemeyle canlıya alınabilecek çeşitli çözümler ortaya koyduk. Bunu düzenli olarak yaparsak şirket içindeki çalışma biçimimizin de müşterilerimiz için geliştirdiğimiz çözümler kadar kusursuz olmasını sağlayabiliriz.