Il-laqgħat irreġistrati huma riżorsa ta’ għarfien li ftit li xejn tintuża. Diffiċli tfittex fihom, jieħdu ħafna ħin biex terġa’ tarahom, u jinsabu mifruda f’drives ta’ timijiet differenti, u għalhekk sikwit jintilfu osservazzjonijiet siewja.
F’hackathon ta’ ġurnata waħda, tim ta’ tliet persuni bena Callombia. Hija pjattaforma interna li awtomatikament tittraskrivi, iżżid tags, tqassar u taqsam sejħiet irreġistrati fi klipps, u tpoġġihom f’repożitorju li jista’ jitfittex, simili għal YouTube u aċċessibbli mill-uffiċċji madwar id-dinja.
Is-soluzzjoni, mibnija kollha b’Codex, tuża tfittxija semantika mħaddma mill-embeddings ta’ OpenAI u x-xebh tal-kosinu biex turi mumenti rilevanti anki meta ma jintużawx il-kliem eżatti, flimkien ma’ chatbot RAG u sistema ta’ notifiki.
Dak li qabel kien jieħu ġimgħat tlesta f’seba’ sigħat, u wera kif l-iżvilupp imsejjes fuq l-IA b’aġenti tal-ipprogrammar bħal Codex jista’ jqassar drastikament iċ-ċiklu tal-iżvilupp tal-prodott u joħloq valur kummerċjali reali mill-hackathons interni.
Jekk int bħali, rari jkollok il-ħin (jew il-konċentrazzjoni) biex terġa’ tisma’ laqgħat irreġistrati. Ħafna drabi dan għaliex trid tfittex f’drives tat-timijiet diżorganizzati, taqbeż it-taħditiet superfiċjali u tipprova tisma’ tassew waqt li tibgħat emails u messaġġi.
Iżda forsi m’għandux għalfejn ikun hekk? Forsi nistgħu nibnu xi ħaġa li tibdel għalkollox il-laqgħat irreġistrati? Din kienet l-idea wara l-proġett tal-Hackathon reċenti tagħna.
F’ġurnata waħda biss, 50 persuna mit-timijiet tal-inġinerija, it-twassil u l-operazzjonijiet tagħna indirizzaw diversi problemi miġbura minn madwar in-negozju: mit-tkabbir tal-operazzjonijiet tar-reklutaġġ u s-simplifikazzjoni tal-ħolqien ta’ SoWs, sal-fehim tas-saħħa tal-proġetti, il-ġenerazzjoni diretta ta’ prototipi u s-sejbien ta’ osservazzjonijiet f’laqgħat irreġistrati.
F’dan il-hackathon ibbażat fuq Codex, bnejna Callombia. Callombia huwa l-YouTube tan-negozju tagħna, li jibdel kull sejħa f’riżorsa ħajja li tista’ titfittex. Kull sejħa tiġi traskritta, immarkata b’tags u mqassra awtomatikament, imbagħad tinqasam fi klipps tematiċi u tiżdied ma’ repożitorju organizzat skont il-kanal (il-klijenti) u s-suġġett (l-oqsma ta’ speċjalizzazzjoni fl-IA). B’hekk, kull membru tat-tim f’Londra, Edinburgh, Singapore jew l-Awstralja jista’ jaċċessa mill-ewwel il-mumenti tas-sejħiet li jinteressawh.
Interfaċċa familjari u konformi mal-marka tagħmel l-iskoperta tal-kontenut intuwittiva, filwaqt li tfittxija semantika (u naturalment chatbot tal-IA b’RAG) tgħin lin-nies isibu eżattament dak li qed ifittxu. Sistema ta’ notifiki tippermetti wkoll lill-kollegi tagħna jabbonaw għal suġġetti speċifiċi u jiġu mgħarrfa meta jinħarġu klipps ġodda rilevanti għalihom.
Iżda l-isbaħ ħaġa dwar Callombia mhijiex il-prodott, jew il-premju ta’ £2k għar-rebħ tal-Hackathon (biex niftaħru ftit), iżda l-fatt li stajna nibnu dan kollu f’seba’ sigħat biss b’żewġ inġiniera u mexxej tat-twassil. Sena ilu dan ma kienx possibbli. It-titjib fl-aġenti tal-ipprogrammar aċċellera bil-kbir il-proċess sħiħ tal-iżvilupp tal-prodott, u dan il-Hackathon kien ambjent ta’ ttestjar eċċellenti biex nifhmu l-limiti irregolari tiegħu. Allura, kif użajna Codex?
Minflok sempliċement ktibna lista twila ta’ rekwiżiti, bdejna billi qsamna l-fehma kollettiva tagħna (bħala prompt) dwar il-problema u l-viżjoni għal Callombia. Billi apposta ma dħalniex fid-dettall, ħallejna lill-mudell jagħmel ix-xogħol u jaħseb b’mod kreattiv:
Wara għaxar minuti ta’ skambju, attivajna Plan Mode biex nirfinaw ir-rekwiżiti u niggwidaw il-parti teknika tal-bini. Plan Mode iġiegħlek tħossok qisek qed twieġeb il-mistoqsijiet ta’ dak il-ħabib tedjanti li (b’mod utli) ħaseb f’kull xenarju possibbli. Wara li qbilna dwar affarijiet bħan-numru ta’ vidjows, jekk nużawx tfittxija semantika jew bil-kliem ewlieni, u liema arkitettura nużaw, ħoloq fajl markdown li minn hemm ’il quddiem sar il-bażi tal-proġett.
Ladarba kellna pjan, il-pass li jmiss kien li nibnu l-komponenti ewlenin biex Callombia tkun tista’ tassew taħdem. Dan kien ifisser li noħolqu pipeline minn sejħiet irreġistrati għal riżorsi li jistgħu jitfittxu:
L-importazzjoni tal-vidjows u t-traskrizzjonijiet,
Il-qsim tagħhom f’mumenti sinifikanti,
L-arrikkiment tagħhom b’sommarji u tags,
It-tqegħid tagħhom għad-dispożizzjoni tal-frontend permezz ta’ APIs.
Ed iffoka aktar fuq li jikkonverti r-reġistrazzjonijiet u d-data tat-traskrizzjonijiet mhux ipproċessati f’format li seta’ jintuża, filwaqt li Nico ffoka aktar fuq is-saff tal-irkupru li jagħmel dawk il-mumenti faċli biex jinstabu. B’Codex, it-tnejn setgħu jistabbilixxu l-mudelli tad-data, l-iskripts tal-estrazzjoni u l-infrastruttura tal-backend ħafna aktar malajr milli kieku għamilniehom manwalment. Dan tana ħafna aktar minn sempliċi traskrizzjoni mehmuża ma’ vidjo. Tana mumenti: it-taqsima dwar Tesco, l-aġġornament tal-istrateġija, id-diskussjoni dwar ir-reklutaġġ, jew id-90 sekonda speċifika ta’ sejħa li xi ħadd tassew irid jara.
Kien f’dak is-saff tal-irkupru li l-affarijiet saru partikolarment interessanti. Ridna li xi ħadd ikun jista’ jikteb xi ħaġa bħal “prestazzjoni finanzjarja”, “pjan direzzjonali ta’ Tesco” jew “evalwazzjonijiet tal-konverżazzjonijiet” u jittieħed lejn l-aktar klipps rilevanti, anki jekk dak il-kliem eżatt qatt ma jkun intqal. Biex nagħmlu dan, ħloqna taqsimiet b’timestamps, sommarji, it-test tat-traskrizzjoni u metadata. B’arkitettura ċara f’moħħna u b’ħafna għajnuna minn Codex, għaqqadna s-suġġett, is-sommarju u t-traskrizzjoni f’input wieħed u użajna l-mudell text-embedding-3-small ta’ OpenAI biex niġġeneraw embeddings għal kull taqsima. Ħżinna dawk l-embeddings fid-database tagħna u użajna x-xebh tal-kosinu biex inqabblu t-talba tal-utent ma’ kull taqsima, u b’hekk ksibna saff ta’ rkupru semantiku minflok sempliċi tfittxija bil-kliem ewlieni.
Dan kien preċiż ħafna u ta lill-prodott dik is-sensazzjoni ta’ “maġija” waqt id-demo tal-hackathon. Fl-istess ħin, konna nafu li dan l-approċċ ma kienx se jibqa’ skalabbli għal dejjem jekk in-numru ta’ vidjows jibqa’ jikber, għax eventwalment isir għali wisq li kull talba titqabbel ma’ kull taqsima. Il-pass naturali li jmiss ikun li ndaħħlu strateġiji ta’ rkupru aktar effiċjenti, bħal Hierarchical Navigable Small World, biex innaqqsu l-għadd ta’ paraguni u nżommu l-latenza baxxa hekk kif jikber il-korpus. Ladarba din il-funzjonalità bdiet taħdem, Callombia bdiet tidher inqas bħal librerija tal-midja u aktar bħal sistema tal-għarfien.
Bħal f’kull hackathon tajjeb, anki dik il-parti kellha bżonn titjib: il-konfini inizjali tat-taqsimiet kienu wisq approssimattivi, xi timestamps kellhom bżonn jiġu rfinati, xi tags kienu wesgħin wisq, u l-fajls tat-traskrizzjonijiet u tar-reġistrazzjonijiet mhux dejjem kienu jaqblu sew. Iżda kien proprju hemm li deher il-valur. Codex ippermettilna nirfinaw is-sistema malajr minflok neħlu fis-setup u fix-xogħol mill-ġdid. Fl-aħħar kellna backend li seta’ jħaddem klipps, siltiet u tfittxija semantika tassew utli; kien f’dak il-punt li Callombia bdiet tidher bħala prodott reali, mhux sempliċement demo ta’ hackathon.
Filwaqt li Ed u Nico bnew is-saff tal-importazzjoni u tal-intelliġenza, jien bnejt il-frontend. Permezz tal-mudell full-stack tagħna, stajt noħloq malajr l-ewwel verżjoni tas-sit web mingħajr ma nikteb linja waħda ta’ kodiċi. Wara li tlabtu jiftaħ is-sit web lokalment fil-browser tiegħi, kont nagħtih feedback sempliċi f’punti biex intejjeb id-disinn sakemm jasal għal dak li ridt.
Wara madwar siegħa ta’ skambji, kelli xi ħaġa li kont pjuttost kuntent biha—u dan mingħajr ebda esperjenza fl-interfaċċi jew fid-disinn. Għalkemm il-prodott finali żgur mhuwiex perfett, huwa l-ewwel verżjoni tajba ħafna li tgħin lin-nies jifhmu l-prodott.
Biex niżguraw li sa tmiem il-ġurnata jkollna xi ħaġa lesta, qsamna x-xogħol bejnietna. Naturalment, wara ftit sigħat naħdmu kważi indipendentement, ilkoll kellna branches lokali mimlijin kunflitti.
Minflok ħadna l-ħin—li ma kellniex—biex neżaminaw u nsolvu l-kunflitti bir-reqqa, iddeċidejna li nagħtu lil Codex kontroll sħiħ tar-repożitorji u nħalluh isolvihom waħdu. Għalkemm bħalissa ma nirrakkomandawx dan għall-iżvilupp ta’ software ta’ livell korporattiv, kien inkredibbli naraw kemm kien effettiv f’ambjent b’riskju baxx, u ffrankalna ħafna sigħat.
L-aħħar parti tal-hackathon kienet li nirreġistraw id-demo ta’ Callombia għall-ġurija. Għalkemm istintivament ridna niftħu Loom biex nirreġistraw, ħsibna li dan seta’ jkun test veru għal Codex u kompitu kemxejn lil hinn mill-kapaċitajiet attwali tiegħu. Għalhekk… Ktibna prompt, tajnieh link għas-sit web ta’ Callombia, żidna reġistrazzjoni ta’ leħni fuq il-pjattaforma għall-iżviluppaturi ta’ OpenAI, u tlabnieh jagħmel il-bqija.
L-ewwel tentattiv kien impressjonanti ħafna—kien kiteb skript għad-demo, irreġistra l-iskrin, żied il-voice-over tiegħi u kważi wettaq dak kollu mitlub. L-unika ħaġa li ma għoġbitniex mill-ewwel kienet is-sinkronizzazzjoni tal-voice-over mar-reġistrazzjoni tad-demo, għalhekk tlabnieh: “MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.”
B’reazzjoni għal dik it-talba, Codex qasam il-voice-over u r-reġistrazzjoni f’taqsimiet iżgħar u wettaq il-kompitu kważi perfettament, eżatt fil-ħin għall-5.30pm u għall-birra u l-pizza taċ-ċelebrazzjoni.
Nafu li Callombia ssolvi problema li għandhom ħafna negozji. Huwa diffiċli tattendi kull sejħa f’kumpanija li qed tikber malajr, iżda l-biċċiet ta’ għerf li jinqasmu f’dawn is-sejħiet huma imprezzabbli. Issa jonqos biss li ndaħħluha fil-Produzzjoni.
Iżda hawn hemm lezzjoni usa’ dwar kif inkunu msejsa fuq l-IA u dwar il-benefiċċju li niddedikaw l-għarfien espert fl-inġinerija u l-prodotti biex insolvu problemi komuni. Billi ħriġna miċ-ċiklu tax-xogħol tas-soltu, ikkollaborajna bejn it-timijiet u ħdimna f’ambjent kemxejn kompetittiv, spiċċajna b’diversi soluzzjonijiet li, bi ftit aġġustamenti, jistgħu jiddaħħlu fil-produzzjoni. Jekk nagħmlu dan regolarment, nistgħu niżguraw li l-operat intern tagħna jkun effiċjenti daqs is-soluzzjonijiet li nibnu għall-klijenti.