Upptökur af fundum eru vannýtt þekkingarauðlind. Erfitt er að leita í þeim, tímafrekt að fara yfir þær aftur og þær eru dreifðar um aðskilin teymisdrif, svo verðmæt innsýn fer oft fram hjá fólki.
Þriggja manna teymi smíðaði Callombia í eins dags hakkþoni. Þetta er innri vettvangur sem umritar, merkir, dregur saman og klippir sjálfkrafa upptökur af símtölum í leitarbæra, YouTube-líka geymslu sem starfsfólk á skrifstofum um allan heim hefur aðgang að.
Lausnin, sem var öll smíðuð með Codex, notar merkingarleit sem byggir á ívigrum frá OpenAI og kósínuslíkindum til að finna viðeigandi augnablik, jafnvel þótt nákvæm leitarorð séu ekki notuð. Ofan á þetta bætast RAG-spjallmenni og tilkynningakerfi.
Verk sem áður hefði tekið margar vikur var unnið á sjö klukkustundum. Það sýnir hvernig gervigreindarmiðuð þróun með forritunarfulltrúum á borð við Codex getur stytt vöruþróunarferlið til muna og skapað raunverulegt viðskiptavirði úr innri hakkþonum.
Ef þú ert eins og ég hefurðu sjaldan tíma (eða einbeitingu) til að hlusta aftur á upptökur af fundum. Það er oft vegna þess að þá þarf að leita í óskipulögðum teymisdrifum, spóla yfir misgott hjal og reyna að hlusta í alvörunni á meðan tölvupóstum og skilaboðum er svarað í gríð og erg.
En kannski þarf þetta ekki að vera svona? Gætum við smíðað eitthvað sem gerbreytir því hvernig við nýtum fundaupptökur? Sú hugsun lá að baki nýlegu hakkþonsverkefni okkar.
Á aðeins einum degi tók 50 manna hópur úr verkfræði-, afhendingar- og rekstrarteymum okkar á fjölmörgum áskorunum úr rekstrinum: að auka afkastagetu í ráðningum, einfalda gerð verklýsinga, meta stöðu verkefna, búa til frumgerðir í rauntíma og draga fram innsýn úr fundaupptökum.
Í þessu Codex-hakkþoni smíðuðum við Callombia. Callombia er eins konar YouTube fyrirtækisins og breytir hverju símtali í lifandi, leitarbæra auðlind. Hvert símtal er sjálfkrafa umritað, merkt og dregið saman, síðan klippt í þematengd brot og sett í geymslu sem er flokkuð eftir rásum (viðskiptavinum) og efnisflokkum (sérsviðum innan gervigreindar). Þannig getur hver sem er í teyminu, hvort sem viðkomandi er í London, Edinborg, Singapúr eða Ástralíu, nálgast samstundis þau augnablik í símtölum sem skipta máli.
Kunnuglegt notendaviðmót í samræmi við vörumerkið gerir efnisleit auðvelda og merkingarleit — ásamt RAG-gervigreindarspjallmenni að sjálfsögðu — hjálpar fólki að finna nákvæmlega það sem það leitar að. Með tilkynningakerfi geta samstarfsfélagar okkar einnig gerst áskrifendur að tilteknum efnisflokkum og fengið tilkynningu þegar ný brot sem tengjast þeim eru birt.
Það flotta við Callombia er þó hvorki varan né 2.000 punda verðlaunin fyrir sigurinn í hakkþoninu (smá mont), heldur að tveir verkfræðingar og afhendingarstjóri gátu smíðað þetta allt á aðeins sjö klukkustundum. Það hefði ekki verið hægt fyrir ári. Framfarir í forritunarfulltrúum hafa hraðað öllu vöruþróunarferlinu til muna og hakkþonið reyndist frábær vettvangur til að kanna ójöfn mörk þessarar tækni. Hvernig notuðum við þá Codex?
Í stað þess að skrifa bara langan kröfulista byrjuðum við á að deila sameiginlegri sýn okkar — sem kvaðningu — á vandann og framtíðarsýnina fyrir Callombia. Með því að hafa lýsinguna vísvitandi almenna létum við líkanið vinna verkið og gáfum því svigrúm til skapandi hugsunar:
Eftir tíu mínútna samtal kveiktum við á Plan Mode til að afmarka kröfurnar og móta tæknilega hluta smíðinnar. Plan Mode er eins og að svara spurningum frá þessum pirrandi vini sem hefur (sem betur fer) hugsað út í allar mögulegar sviðsmyndir. Eftir að við höfðum tekið ákvarðanir um atriði á borð við fjölda myndskeiða, merkingar- eða leitarorðaleit og arkitektúrinn bjó það til markdown-skrá sem varð grunnur verkefnisins þaðan í frá.
Þegar áætlunin lá fyrir var næsta skref að smíða kjarnaeiningarnar sem myndu láta Callombia virka í reynd. Það þýddi að búa til vinnslurás sem breytti upptökum af símtölum í leitarbærar auðlindir:
Lesa inn myndskeið og umritanir,
skipta þeim í merkingarbær augnablik,
auðga þau með samantektum og merkjum,
og miðla þeim í gegnum API sem framendinn gat nýtt.
Ed einbeitti sér einkum að því að koma hráum upptökum og umritunargögnum á nothæft snið en Nico að endurheimtarlaginu sem gerði þessi augnablik finnanleg. Með Codex gátu þeir sett upp gagnalíkön, útdráttarskriftur og innviði bakendans mun hraðar en við hefðum getað gert handvirkt. Þetta gaf okkur miklu meira en umritun sem fylgdi myndskeiði. Við fengum einstök augnablik: kaflann um Tesco, uppfærsluna á stefnunni, umræðuna um ráðningar og nákvæmlega þær 90 sekúndur úr símtali sem einhver vill í raun horfa á.
Endurheimtarlagið var sá hluti þar sem verkefnið varð sérlega áhugavert. Við vildum að fólk gæti slegið inn eitthvað á borð við „financial performance“, „Tesco roadmap“ eða „conversation evals“ og fengið upp viðeigandi brot, jafnvel þótt nákvæmlega þessi orð hefðu aldrei verið sögð. Til þess bjuggum við til búta með tímamerkjum, samantektum, umritunartexta og lýsigögnum. Með skýran arkitektúr í huga og mikla hjálp frá Codex sameinuðum við efnisflokk, samantekt og umritun í eitt ílag og notuðum text-embedding-3-small-líkan OpenAI til að búa til ívigra fyrir hvern bút. Við vistuðum ívigrana í gagnagrunninum og notuðum kósínuslíkindi til að bera fyrirspurn notanda saman við hvern bút. Þannig fengum við merkingarlegt endurheimtarlag í stað einfaldrar leitar eftir leitarorðum.
Þetta reyndist afar nákvæmt og gaf vörunni þennan „töfrabrag“ í kynningunni á hakkþoninu. Jafnframt vissum við að þessi aðferð myndi ekki stækka endalaust með sívaxandi fjölda myndskeiða, því samanburður hverrar fyrirspurnar við hvern einasta bút yrði á endanum of kostnaðarsamur. Eðlilegt næsta skref væri að innleiða skilvirkari endurheimtaraðferðir, svo sem Hierarchical Navigable Small World, til að fækka samanburðum og halda svartíma stuttum þegar gagnasafnið stækkar. Þegar þessi eiginleiki var farinn að virka tók Callombia að minna síður á miðlasafn og meira á þekkingarkerfi.
Eins og á öllum góðum hakkþonum þurfti einnig að fínstilla þennan hluta: fyrstu bútaskilin voru of gróf, herða þurfti sum tímamerki, sum merki voru of víð og umritunar- og upptökuskrár pössuðu ekki alltaf snyrtilega saman. En þar kom virðið líka skýrt í ljós. Codex gerði okkur kleift að fínstilla kerfið hratt í stað þess að festast í uppsetningu og endurvinnu. Í lokin vorum við komin með bakenda sem gat knúið brot, úrklippur og raunverulega gagnlega merkingarleit. Þá fór Callombia að líkjast alvöru vöru en ekki bara kynningu úr hakkþoni.
Á meðan Ed og Nico smíðuðu innlestrar- og greindarlagið smíðaði ég framendann. Með heildarlausnarsniðmátinu okkar gat ég sett fyrstu útgáfu vefsins hratt upp án þess að skrifa eina einustu kóðalínu. Eftir að hafa beðið það um að opna vefinn staðbundið í vafranum mínum gaf ég einfalda endurgjöf í punktum og lét endurtaka hönnunarferlið þar til útkoman varð eins og ég vildi.
Eftir um klukkustund af samtali var ég komin með útgáfu sem ég var nokkuð ánægður með, án nokkurrar reynslu af notendaviðmótum eða hönnun. Lokaafurðin er vissulega ekki fullkomin, en hún er ágæt fyrsta útgáfa sem hjálpar fólki að skilja vöruna.
Til að tryggja að við hefðum eitthvað í höndunum í lok dags höfðum við skipt verkunum á milli okkar. Eftir nokkurra klukkustunda hálfsjálfstæða vinnu vorum við auðvitað öll komin með okkar eigin staðbundnu greinar og ótal árekstra.
Í stað þess að verja tíma sem við áttum ekki í að fara samviskusamlega yfir árekstrana og leysa þá ákváðum við einfaldlega að hleypa Codex lausum á geymslurnar og láta það leysa árekstrana sjálft. Þótt við myndum ekki mæla með þessu við þróun fyrirtækjahugbúnaðar eins og staðan er núna var ótrúlegt að sjá hversu vel þetta virkaði í áhættulitlu umhverfi — og þetta sparaði okkur margar klukkustundir.
Síðasti hluti hakkþonsins fólst í að taka upp kynningu á Callombia fyrir dómarana. Fyrsta hugsunin var að opna Loom og taka kynninguna upp, en okkur fannst þetta geta orðið alvöru prófraun fyrir Codex og verkefni sem væri aðeins fyrir utan núverandi getu þess. Svo… við skrifuðum kvaðningu, gáfum því tengil á vef Callombia, bættum við upptöku af rödd minni á þróunarvettvangi OpenAI og báðum það um að sjá um afganginn.
Fyrsta tilraunin var afar glæsileg: það hafði skrifað kynningarhandrit, tekið upp skjáinn, bætt við talsetningu minni og í raun uppfyllt verkefnalýsinguna. Það eina sem við vorum ekki strax ánægð með var samstilling talsetningarinnar og kynningarupptökunnar, svo við sögðum: „MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.“
Til að verða við beiðninni skipti Codex talsetningunni og upptökunni í smærri hluta og leysti verkefnið nánast gallalaust, rétt fyrir klukkan 17:30 og bjórinn og pítsuna sem biðu okkar í tilefni dagsins.
Við vitum að Callombia leysir vanda sem flest fyrirtæki glíma við. Erfitt er að sitja hvert einasta símtal í fyrirtæki sem vex hratt, en þekkingarmolarnir sem þar koma fram eru ómetanlegir. Nú þurfum við bara að koma því í rekstur.
En hér felst líka stærri lærdómur um gervigreindarmiðað starf og ávinninginn af því að beita verkfræði- og vöruþekkingu til að leysa sameiginleg vandamál. Með því að stíga út úr hefðbundnu vinnuferli okkar, vinna þvert á teymi og gera það í hálfgerðri keppni enduðum við með nokkrar lausnir sem mætti taka í rekstur með fáeinum lagfæringum. Með því að gera þetta reglulega getum við tryggt að innra starf okkar sé jafn hnökralaust og lausnirnar sem við smíðum fyrir viðskiptavini.