Päänavigointi

Älykäs kokoushakutyökalu Codexilla

Katso, miten Codex auttoi muuttamaan yrityksen tallennetut kokoukset haettavaksi tiedoksi nopealla ja käytännöllisellä sisäisellä toteutuksella.

Tiivistelmä

  • Tallennetut kokoukset ovat alihyödynnetty tietovaranto. Niistä on vaikea hakea tietoa, niiden läpikäynti vie aikaa ja ne ovat hajallaan tiimien eri asemilla, joten arvokkaita oivalluksia jää usein huomaamatta.

  • Kolmen hengen tiimi rakensi Callombian yhden päivän hackathonissa. Se on sisäinen alusta, joka litteroi, merkitsee tunnisteilla ja tiivistää tallennetut puhelut automaattisesti, leikkaa niistä katkelmia ja kokoaa ne maailmanlaajuisesti toimistojen käytettävissä olevaan, YouTuben kaltaiseen haettavaan repositorioon.

  • Kokonaan Codexilla rakennettu ratkaisu hyödyntää OpenAI-upotuksiin ja kosinisimilaarisuuteen perustuvaa semanttista hakua, joka löytää olennaiset kohdat ilman täsmällisiä avainsanoja. Sen lisäksi käytössä ovat RAG-chatbot ja ilmoitusjärjestelmä.

  • Aiemmin viikkoja vienyt työ valmistui seitsemässä tunnissa. Tämä osoittaa, kuinka Codexin kaltaisiin koodausagentteihin perustuva tekoälyn ehdoilla tapahtuva kehitys voi lyhentää tuotekehityksen elinkaarta merkittävästi ja tuottaa sisäisissä hackathoneissa todellista liiketoiminta-arvoa.

Jos olet kuten minä, sinulla on harvoin aikaa (tai keskittymiskykyä) kuunnella tallennettuja kokouksia uudelleen. Usein syynä on se, että tallenteita täytyy etsiä sekavilta tiimiasemilta, yhdentekevät jutustelut pitää kelata ohi ja samalla pitäisi yrittää oikeasti kuunnella, vaikka lähettää sähköposteja ja viestejä.

Ehkä asian ei kuitenkaan tarvitse olla näin? Entä jos voisimme rakentaa jotain, joka muuttaa tallennettujen kokousten hyödyntämisen täysin? Tämä ajatus oli hiljattaisen hackathon-projektimme taustalla.

Yhden päivän aikana 50 insinööri-, toimitus- ja operatiivisten toimintojen tiimiemme jäsentä ratkoi eri puolilta yritystä koottuja haasteita. Aiheina olivat muun muassa rekrytointitoimintojen skaalaaminen, toimeksiantokuvausten laatimisen tehostaminen, projektien tilanteen ymmärtäminen, prototyyppien luominen reaaliajassa ja oivallusten löytäminen tallennetuista kokouksista.

Tässä Codexiin perustuvassa hackathonissa rakensimme Callombian. Callombia on yrityksemme YouTube, joka tekee jokaisesta puhelusta elävän ja haettavan tietovarannon. Jokainen puhelu litteroidaan, merkitään tunnisteilla ja tiivistetään automaattisesti. Sen jälkeen se leikataan temaattisiksi katkelmiksi ja lisätään kanavittain (asiakkaat) ja aiheittain (tekoälyn erikoisalat) ryhmiteltyyn repositorioon. Näin kuka tahansa tiimin jäsen Lontoossa, Edinburghissa, Singaporessa tai Australiassa pääsee heti käsiksi itseään kiinnostaviin puhelujen kohtiin.

Tuttu ja brändimme mukainen käyttöliittymä tekee sisällön löytämisestä vaivatonta, ja semanttinen haku sekä tietenkin RAG-tekoälychatbot auttavat löytämään juuri sen, mitä käyttäjä etsii. Ilmoitusjärjestelmän ansiosta kollegamme voivat myös tilata haluamiaan aiheita ja saada ilmoituksen, kun heille merkityksellisiä uusia katkelmia julkaistaan.

Callombiassa hienointa ei kuitenkaan ole itse tuote eikä hackathonin voittamisesta saatu 2 000 punnan palkinto (pientä leveilyä), vaan se, että kaksi insinööriä ja toimitusvastaava rakensivat kaiken tämän vain seitsemässä tunnissa. Vuosi sitten tämä ei olisi ollut mahdollista. Koodausagenttien kehitys on nopeuttanut koko tuotekehitysprosessia valtavasti, ja tämä hackathon tarjosi erinomaisen testiympäristön niiden epätasaisten kyvykkyysrajojen ymmärtämiseen. Miten siis käytimme Codexia?

Ratkaisun suunnittelu

Sen sijaan, että olisimme vain kirjoittaneet pitkän vaatimusluettelon, aloitimme jakamalla yhteisen näkemyksemme ongelmakentästä ja Callombian visiosta kehotteena. Jätimme kuvauksen tarkoituksella yleisluontoiseksi, jotta malli sai tehdä työn ja ajatella luovasti:

Kymmenen minuutin keskustelun jälkeen otimme käyttöön suunnittelutilan, jotta saimme rajattua vaatimuksia ja ohjattua toteutuksen teknistä osuutta. Suunnittelutila tuntuu siltä kuin vastaisi ärsyttävän ystävän kysymyksiin – ystävän, joka on avuliaasti miettinyt valmiiksi jokaisen mahdollisen tilanteen. Kun olimme sopineet muun muassa videoiden määrästä, semanttisen haun tai avainsanahaun käytöstä ja arkkitehtuurista, se loi markdown-tiedoston, josta tuli projektin perusta.

Näyttökuva ratkaisun suunnittelusta.

Keskeisten komponenttien rakentaminen

Kun suunnitelma oli valmis, seuraavaksi rakensimme keskeiset komponentit, joiden avulla Callombia toimisi käytännössä. Tämä tarkoitti tallennetuista puheluista haettaviin aineistoihin johtavan käsittelyputken luomista:

  1. videoiden ja litterointien tuonti,

  2. niiden jakaminen merkityksellisiin kohtiin,

  3. niiden rikastaminen tiivistelmillä ja tunnisteilla,

  4. niiden tarjoaminen frontendin käyttämiin rajapintoihin.

Ed keskittyi raakatallenteiden ja litterointitietojen muuntamiseen käyttökelpoiseen muotoon, kun taas Nico keskittyi enemmän hakukerrokseen, jonka avulla tärkeät kohdat voitiin löytää. Codexin avulla he pystyivät rakentamaan tietomallit, poimintakomentosarjat ja taustajärjestelmän yhteydet paljon nopeammin kuin käsin olisi ollut mahdollista. Tuloksena oli paljon enemmän kuin videoon liitetty litterointi. Saimme yksittäisiä hetkiä: Tesco-osuuden, strategiapäivityksen, rekrytointikeskustelun tai juuri ne 90 sekuntia puhelusta, jotka joku todella haluaa katsoa.

Erityisen kiinnostavaksi muodostui juuri hakukerros. Halusimme, että käyttäjä voisi kirjoittaa esimerkiksi “financial performance,” “Tesco roadmap,” tai “conversation evals” ja päästä olennaisimpiin katkelmiin, vaikka juuri näitä sanoja ei olisi koskaan lausuttu. Tätä varten loimme osioita, joihin sisältyivät aikaleimat, tiivistelmät, litteroitu teksti ja metatiedot. Kun arkkitehtuuri oli selvillä ja Codex oli apunamme, yhdistimme aiheen, tiivistelmän ja litteroinnin yhdeksi syötteeksi ja loimme OpenAI:n text-embedding-3-small-mallilla upotuksen jokaiselle osiolle. Tallensimme upotukset tietokantaamme ja vertasimme käyttäjän kyselyä jokaiseen osioon kosinisimilaarisuuden avulla. Näin saimme yksinkertaisen avainsanahaun sijaan semanttisen hakukerroksen.

Ratkaisu oli erittäin tarkka ja antoi tuotteelle hackathon-demossa sen ”taianomaisen” tunnun. Tiesimme kuitenkin, ettei tämä lähestymistapa skaalautuisi loputtomasti videoiden määrän kasvaessa, sillä jokaisen kyselyn vertaaminen jokaiseen osioon kävisi lopulta liian kalliiksi. Luonteva seuraava askel olisi ottaa käyttöön tehokkaampia hakustrategioita, kuten Hierarchical Navigable Small World, jotta vertailujen määrä vähenisi ja viive pysyisi pienenä aineiston kasvaessa. Kun ominaisuus saatiin toimimaan, Callombia alkoi tuntua vähemmän mediakirjastolta ja enemmän tietojärjestelmältä.

Kuten kaikissa hyvissä hackathoneissa, tätäkin osuutta piti kehittää vaiheittain: ensimmäisten osioiden rajat olivat liian karkeita, joitakin aikaleimoja piti tarkentaa, osa tunnisteista oli liian yleisiä eivätkä litterointi- ja tallennetiedostot aina vastanneet siististi toisiaan. Juuri siinä ratkaisun arvo kuitenkin tuli esiin. Codex auttoi hiomaan järjestelmää nopeasti sen sijaan, että olisimme juuttuneet määrityksiin ja uudelleen tekemiseen. Lopulta meillä oli taustajärjestelmä, joka pystyi tuottamaan katkelmia, lyhyitä otteita ja aidosti hyödyllisen semanttisen haun. Siinä vaiheessa Callombia alkoi tuntua oikealta tuotteelta eikä pelkältä hackathon-demolta.

Frontend-toteutus ja käyttöliittymä

Edin ja Nicon rakentaessa tiedontuontia ja älykkyyskerrosta minä rakensin frontendin. Täyden pinon mallipohjamme avulla pystyin luomaan verkkosivuston ensimmäisen version nopeasti kirjoittamatta riviäkään koodia. Pyysin sitä avaamaan verkkosivuston paikallisesti selaimessani ja annoin sitten yksinkertaista palautetta luettelokohtina, kunnes ulkoasu vastasi tavoitettani.

Noin tunnin keskustelun jälkeen lopputulos oli jo varsin mieleinen, vaikka minulla ei ollut lainkaan kokemusta käyttöliittymistä tai suunnittelusta. Lopputuote ei missään nimessä ole täydellinen, mutta ensimmäiseksi versioksi se on varsin hyvä ja auttaa ihmisiä ymmärtämään tuotteen.

Näyttökuva frontend-toteutuksesta ja käyttöliittymästä.

Kaiken koodin yhdistäminen

Jaoimme työt keskenämme varmistaaksemme, että päivän päätteeksi meillä olisi jotain valmista. Muutaman tunnin jokseenkin itsenäisen työskentelyn jälkeen meillä kaikilla oli tietenkin omat paikalliset haaramme ja valtava määrä ristiriitoja.

Sen sijaan, että olisimme käyttäneet olemattoman aikamme ristiriitojen huolelliseen läpikäyntiin ja ratkaisemiseen, päästimme Codexin irti repositorioissa ja annoimme sen korjata ristiriidat itsenäisesti. Emme vielä suosittelisi tätä yritystason ohjelmistokehitykseen, mutta oli uskomatonta nähdä, kuinka tehokkaasti se toimi matalan riskin ympäristössä ja säästi meiltä tuntikausia työtä.

Koko demo

Hackathonin viimeinen vaihe oli Callombian demon tallentaminen tuomareille. Vaistomaisesti halusimme avata Loomin tallennusta varten, mutta ajattelimme tehtävän olevan Codexille todellinen testi ja hieman sen nykyisten kykyjen ulkopuolella. Joten… kirjoitimme kehotteen, annoimme sille linkin Callombian verkkosivustolle, liitimme mukaan OpenAI-kehittäjäalustalla tehdyn äänitallenteen puheestani ja pyysimme sitä hoitamaan loput.

Ensimmäinen yritys oli erittäin vaikuttava: se oli kirjoittanut demokäsikirjoituksen, tallentanut näytön, lisännyt selostukseni ja täyttänyt tehtävänannon lähes kokonaan. Emme olleet heti tyytyväisiä ainoastaan selostuksen ja demotallenteen synkronointiin, joten pyysimme siltä: “MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.”

Pyynnön perusteella Codex jakoi selostuksen ja tallenteen pienempiin osiin ja suoritti tehtävän lähes virheettömästi juuri ennen puoli kuutta, jolloin oli aika juhlistaa saavutusta oluella ja pizzalla.

Kohti tekoälyn ehdoilla toimivaa organisaatiota

Tiedämme Callombian ratkaisevan ongelman, joka on tuttu useimmille yrityksille. Nopeasti kasvavassa yrityksessä on vaikea osallistua jokaiseen puheluun, mutta niissä jaetut arvokkaat oivallukset ovat korvaamattomia. Nyt meidän tarvitsee vain viedä se tuotantoon.

Tässä on kuitenkin laajempi oppi tekoälyn ehdoilla toimimisesta sekä siitä, mitä hyötyä saadaan, kun yhteisten ongelmien ratkaisemiseen valjastetaan tekninen ja tuoteliiketoiminnan osaaminen. Kun irtauduimme tavanomaisesta työrytmistämme, teimme yhteistyötä tiimirajojen yli ja työskentelimme puoliksi kilpailullisessa ympäristössä, saimme aikaan useita ratkaisuja, jotka voisi pienin muutoksin viedä tuotantoon. Kun teemme tätä säännöllisesti, voimme varmistaa, että sisäinen toimintamme on yhtä sujuvaa kuin asiakkaille rakentamamme ratkaisut.

Kirjoittaja

George Montagu, Ed Jeffery ja Nicolas Franco Gonzalez