Снимљени састанци су недовољно искоришћен извор знања. Тешко их је претраживати, поновно прегледање одузима много времена, а расути су по дисковима различитих тимова, па вредни увиди често остају непримећени.
Трочлани тим је током једнодневног хакатона направио Callombia. То је интерна платформа која аутоматски транскрибује, означава и резимира снимљене позиве, издваја исечке из њих и смешта их у претраживо депо налик YouTube-у, доступно свим канцеларијама широм света.
Решење, у потпуности направљено помоћу Codex-а, користи семантичку претрагу засновану на OpenAI угнежђивањима и косинусној сличности како би пронашло релевантне тренутке чак и када нису употребљене тачне кључне речи, уз додатни RAG четбот и систем обавештења.
Оно за шта би некада биле потребне недеље завршено је за седам сати, што показује како развој заснован на вештачкој интелигенцији, уз агенте за програмирање као што је Codex, може драстично да скрати животни циклус развоја производа и омогући да интерни хакатони донесу стварну пословну вредност.
Ако сте попут мене, ретко имате времена (или довољно концентрације) да поново слушате снимљене састанке. Разлог је често то што морате да претражујете неуређене тимске дискове, прескачете осредње необавезне разговоре и покушавате да заиста слушате док истовремено шаљете имејлове и поруке.
Али можда не мора да буде тако? Можда бисмо могли да направимо нешто што ће потпуно променити начин коришћења снимљених састанака? То је била идеја иза нашег недавног хакатонског пројекта.
За само један дан, 50 чланова наших тимова за инжењеринг, испоруку и операције ухватило се укоштац с низом пословних проблема: од проширења операција запошљавања и поједностављења израде SoW докумената до разумевања стања пројеката, генерисања прототипова уживо и откривања увида у снимљеним састанцима.
На овом хакатону заснованом на Codex-у направили смо Callombia. Callombia је YouTube наше компаније који сваки позив претвара у жив, претражив извор знања. Сваки позив се аутоматски транскрибује, означава и резимира, а затим дели на тематске исечке и додаје у депо организовано по каналима (клијентима) и темама (областима специјализације за вештачку интелигенцију). Тако сваки члан тима из Лондона, Единбурга, Сингапура или Аустралије може одмах да приступи деловима позива који га занимају.
Познат кориснички интерфејс у складу с нашим брендом омогућава интуитивно откривање садржаја, док семантичка претрага (и, наравно, RAG четбот са вештачком интелигенцијом) помаже људима да пронађу управо оно што траже. Систем обавештења омогућава колегама и да се претплате на одређене теме и добију обавештење када се објаве нови исечци који су им релевантни.
Али код Callombia није најзанимљивији сам производ, нити награда од 2.000 £ за победу на хакатону (да се похвалимо), већ чињеница да смо све ово направили за само седам сати, с два инжењера и руководиоцем испоруке. Пре годину дана то није било могуће. Унапређења агената за програмирање знатно су убрзала читав процес развоја производа, а овај хакатон је био одличан полигон за испитивање граница њихових неуједначених могућности. Дакле, како смо користили Codex?
Уместо да само испишемо гомилу захтева, почели смо тако што смо у инструкцији изнели заједничко виђење проблема и визију за Callombia. Намерно смо остали неодређени како бисмо препустили посао моделу и омогућили му да размишља креативно:
После десет минута размене, укључили смо Режим планирања да бисмо прецизирали захтеве и усмерили технички део израде. Режим планирања делује као да одговарате на питања оног досадног пријатеља који је (на сву срећу) размотрио сваки могући сценарио. Када смо се усагласили о броју видео-снимака, избору семантичке претраге или претраге по кључним речима и архитектури коју ћемо користити, направио је Markdown датотеку која је постала основа за даљи рад на пројекту.
Када смо направили план, следећи корак био је да изградимо кључне компоненте неопходне за рад платформе Callombia. То је подразумевало прављење процеса који снимљене позиве претвара у претраживе изворе:
Унос видео-снимака и транскрипата,
Њихову поделу на смислене тренутке,
Обогаћивање резимеима и ознакама,
Омогућавање приступа преко API-ја које кориснички интерфејс може да користи.
Ед се више бавио претварањем необрађених снимака и података из транскрипата у употребљив формат, док се Нико усредсредио на слој за проналажење који ће омогућити откривање тих тренутака. Уз Codex су обојица успела да направе моделе података, скрипте за издвајање и позадинску инфраструктуру много брже него што бисмо то могли ручно. Тако смо добили много више од транскрипта приложеног уз видео-снимак. Добили смо тренутке: део о компанији Tesco, новости о стратегији, разговор о запошљавању — конкретних 90 секунди позива које неко заиста жели да погледа.
Тај слој за проналажење био је посебно занимљив. Желели смо да неко може да унесе нешто попут „финансијски резултати“, „план развоја за Tesco“ или „процене разговора“ и стигне до најрелевантнијих исечака, чак и ако те тачне речи никада нису изговорене. У ту сврху направили смо сегменте с временским ознакама, резимеима, текстом транскрипта и метаподацима. С јасном архитектуром на уму и уз велику помоћ Codex-а, објединили смо тему, резиме и транскрипт у један улаз и помоћу OpenAI модела text-embedding-3-small генерисали угнежђивања за сваки сегмент. Та угнежђивања смо сачували у бази података и помоћу косинусне сличности поредили кориснички упит са сваким сегментом, чиме смо добили слој за семантичко проналажење уместо обичне претраге по кључним речима.
Ово је пружило изузетну прецизност и дало производу осећај „магије“ током демонстрације на хакатону. Истовремено смо знали да овај приступ неће моћи неограничено да се проширује ако број видео-снимака настави да расте, јер би поређење сваког упита са сваким сегментом на крају постало прескупо. Природан следећи корак био би увођење ефикаснијих стратегија проналажења, као што је Hierarchical Navigable Small World, како би се смањио број поређења и задржало кратко време одзива док корпус расте. Када је ова функција прорадила, Callombia је почела мање да личи на медијску библиотеку, а више на систем знања.
Као и на сваком добром хакатону, и овај део је захтевао дораду: првобитне границе сегмената биле су непрецизне, неке временске ознаке требало је дотерати, поједине ознаке биле су прешироке, а датотеке транскрипата и снимака нису увек биле уредно усклађене. Али управо се ту показала и вредност. Codex нам је омогућио да брзо унапређујемо систем уместо да заглавимо у подешавању и поновном раду. На крају смо имали позадински систем који је могао да подржи исечке, кратке изводе и заиста корисну семантичку претрагу — тада је Callombia почела да делује као прави производ, а не само као хакатонска демонстрација.
Док су Ед и Нико правили слој за унос и интелигенцију, ја сам правио кориснички интерфејс. Користећи наш шаблон за целокупан технолошки стек, успео сам брзо да покренем прву верзију веб-сајта без писања иједног реда кода. Након што бих затражио да локално отвори веб-сајт у мом прегледачу, давао бих једноставне повратне информације у ставкама и постепено прилагођавао дизајн својој замисли.
После отприлике сат времена размене добио сам нешто чиме сам био прилично задовољан — и то без икаквог искуства у изради корисничких интерфејса или дизајну. Иако коначни производ свакако није савршен, то је прилично добра прва верзија која људима омогућава да разумеју производ.
Да бисмо до краја дана сигурно имали нешто готово, поделили смо посао. Наравно, после неколико сати донекле самосталног рада, свако је имао своју локалну грану с гомилом конфликата.
Уместо да време које нисмо имали потрошимо на пажљиво прегледање и решавање конфликата, одлучили смо да пустимо Codex да самостално прође кроз депое и отклони их. Иако ово тренутно не бисмо препоручили за развој пословног софтвера, невероватно је видети колико је делотворно у окружењу ниског ризика, а уштедело нам је много сати.
Последњи део хакатона био је снимање демонстрације платформе Callombia за жири. Иако нам је први порив био да покренемо Loom и снимимо демонстрацију, помислили смо да би то могао бити прави тест за Codex и задатак који донекле превазилази његове тренутне могућности. Зато смо… написали инструкцију, дали му везу до веб-сајта Callombia, приложили снимак мог гласа направљен на OpenAI платформи за програмере и затражили да уради све остало.
Први покушај био је веома импресиван — написао је сценарио демонстрације, снимио екран, додао моју гласовну нарацију и готово у потпуности испунио захтеве. Једино чиме нисмо одмах били задовољни била је синхронизација нарације са снимком демонстрације, па смо му рекли: “MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.”
Као одговор на тај захтев, Codex је поделио нарацију и снимак на мање целине и готово беспрекорно извршио задатак баш до 17.30, на време за пиво и пицу којима смо прославили.
Знамо да Callombia решава проблем који има већина компанија. У компанији која се брзо шири тешко је присуствовати сваком позиву, али су драгоцени увиди који се током њих размењују непроцењиви. Сада само треба да је пустимо у продукцију.
Међутим, овде се крије и важнија лекција о раду усмереном на вештачку интелигенцију и користи од примене инжењерског и производног знања на заједничке проблеме. Изласком из уобичајеног радног ритма, сарадњом различитих тимова и радом у донекле такмичарском окружењу, дошли смо до више решења која би, уз мања прилагођавања, могла да се пусте у продукцију. Ако ово будемо редовно радили, можемо осигурати да наши интерни процеси буду једнако ефикасни као решења која правимо за клијенте.