Жазылған жиналыстар — толық пайдаланылмай жүрген білім қоры. Олардан ақпарат іздеу қиын, қайта қарау көп уақыт алады, әрі жазбалар командалардың дискілерінде шашырап жатыр. Сондықтан құнды тұжырымдар жиі назардан тыс қалады.
Бір күндік хакатонда үш адамнан тұратын команда Callombia платформасын жасап шықты. Бұл — жазылған қоңырауларды автоматты түрде мәтінге айналдырып, белгілеп, қорытындылап, үзінділерге бөлетін ішкі платформа. Нәтижесі әлемнің әр жеріндегі кеңселерге қолжетімді, YouTube тәрізді іздеуге болатын репозиторийге жиналады.
Толығымен Codex көмегімен жасалған шешім нақты кілт сөздер қолданылмаса да, тиісті сәттерді табу үшін OpenAI ендірмелері мен косинустық ұқсастыққа негізделген семантикалық іздеуді пайдаланады. Оның үстіне RAG чатботы мен хабарландыру жүйесі қосылған.
Бұрын бірнеше апта кететін жұмыс жеті сағатта орындалды. Бұл Codex секілді бағдарламалаушы агенттер қолданылатын ЖИ-ға бейім әзірлеу өнім жасау циклін күрт қысқартып, ішкі хакатондардан нақты бизнес құндылығын алуға мүмкіндік беретінін көрсетті.
Мен сияқты болсаңыз, жазылған жиналыстарды қайта тыңдауға уақытыңыз да, зейініңіз де жете бермейді. Өйткені ретсіз командалық дискілерді ақтаруға, мәнсіздеу әңгімені өткізіп отыруға және электрондық хаттар мен хабарламалар жіберіп отырып, шынымен тыңдауға тура келеді.
Бірақ мұның бәрі басқаша болуы мүмкін ғой? Жазылған жиналыстарды пайдалану тәсілін түбегейлі өзгертетін бірдеңе жасай алар ма едік? Жуырдағы хакатон жобамыз осы ойдан туды.
Бір күннің ішінде инженерлік, жеткізу және операциялық командаларымыздан 50 адам компанияның әр бөлімінен жиналған бірқатар міндетті шешуге кірісті: қызметкерлерді жалдау операцияларын масштабтау, жұмыс көлемі туралы құжаттарды жасауды оңтайландыру, жобалардың жай-күйін түсіну, прототиптерді тікелей жасау және жазылған жиналыстардан пайдалы тұжырымдарды табу.
Codex негізіндегі осы хакатонда біз Callombia платформасын жасадық. Callombia — әр қоңырауды үнемі жаңарып отыратын, іздеуге болатын ресурсқа айналдыратын компаниямыздың YouTube-ы. Әр қоңырау автоматты түрде мәтінге айналып, белгіленіп, қорытындыланады, содан кейін тақырыптық үзінділерге бөлініп, арналар (клиенттер) және тақырыптар (ЖИ саласындағы мамандану бағыттары) бойынша топтастырылған репозиторийге қосылады. Осының арқасында Лондон, Эдинбург, Сингапур немесе Аустралиядағы кез келген қызметкер қоңыраулардың өзіне қажет тұстарын бірден аша алады.
Таныс әрі бренд стиліне сай интерфейс контентті оңай табуға жағдай жасайды, ал семантикалық іздеу мен, әрине, RAG ЖИ чатботы адамдарға нақты керегін табуға көмектеседі. Хабарландыру жүйесі әріптестерімізге белгілі бір тақырыптарға жазылып, соларға қатысты жаңа үзінді шыққан кезде хабар алуға мүмкіндік береді.
Алайда Callombia-ның ең қызығы өнімнің өзі де, хакатондағы жеңіс үшін берілген £2 мың жүлде де емес (мақтанып қояйық). Ең қызығы — мұның бәрін екі инженер мен бір жеткізу жетекшісі небәрі жеті сағатта жасады. Бір жыл бұрын бұл мүмкін емес еді. Бағдарламалаушы агенттердің жетілуі өнім әзірлеудің бүкіл үдерісін едәуір жеделдетті, ал бұл хакатон олардың мүмкіндігі біркелкі емес шекараларын зерттеуге таптырмас сынақ алаңы болды. Сонымен, Codex-ті қалай пайдаландық?
Көптеген талапты тізе бермей, алдымен мәселе аясы мен Callombia туралы ортақ көзқарасымызды көмексөз түрінде ұсындық. Әдейі егжей-тегжейге бармай, жұмысты модельге тапсырып, оған шығармашылықпен ойлауға мүмкіндік бердік:
10 минуттай пікір алмасқаннан кейін талаптарды нақтылап, әзірлеудің техникалық бөлігін айқындау үшін Жоспарлау режимін қостық. Жоспарлау режимі барлық ықтимал жағдайды алдын ала ойластырған, мазаңды алса да пайдасы тиетін досыңның сұрақтарына жауап бергендей әсер қалдырады. Бейне саны, семантикалық не кілтсөздік іздеу және қолданылатын архитектура секілді мәселелерді келіскен соң, ол жобаның әрі қарайғы негізіне айналған Markdown файлын жасады.
Жоспар дайын болған соң, келесі қадам Callombia-ның жұмыс істеуін қамтамасыз ететін негізгі құрамдастарды жасау болды. Ол үшін жазылған қоңырауларды іздеуге болатын ресурстарға айналдыратын конвейер құру қажет еді:
Бейнежазбалар мен транскрипттерді қабылдау,
Оларды мағыналы сәттерге бөлу,
Оларға қорытындылар мен белгілер қосу,
Оларды фронтенд пайдалана алатын API интерфейстері арқылы ұсыну.
Эд бастапқы жазбалар мен транскрипт деректерін қолдануға ыңғайлы пішімге келтіруге көбірек көңіл бөлсе, Нико сол сәттерді табуға мүмкіндік беретін іздеу қабатымен айналысты. Codex көмегімен екеуі де дерек модельдерін, шығарып алу сценарийлерін және бэкенд инфрақұрылымын қолмен жасағаннан әлдеқайда жылдам іске қосты. Нәтижесінде біз бейнеге тіркелген жай транскрипттен әлдеқайда ауқымды дүние алдық. Біз нақты сәттерді алдық: Tesco туралы бөлім, стратегия жаңартуы, қызметкер жалдау талқылауы немесе қоңыраудағы біреу шынымен көргісі келетін нақты 90 секунд.
Әсіресе іздеу қабаты қызық болды. Пайдаланушы “financial performance,” “Tesco roadmap,” немесе “conversation evals” секілді сұрау енгізгенде, дәл осы сөздер мүлде айтылмаса да, ең сәйкес үзінділерге өтуін қаладық. Ол үшін уақыт белгілері, қорытындылар, транскрипт мәтіні және метадеректері бар бөліктер жасадық. Нақты архитектураны басшылыққа алып және Codex көмегіне көп сүйеніп, тақырыпты, қорытындыны және транскриптті бір кіріске біріктірдік те, әр бөлік үшін ендірме жасауға OpenAI-дың text-embedding-3-small моделін пайдаландық. Бұл ендірмелерді дерекқорда сақтап, пайдаланушы сұрауын әр бөлікпен салыстыру үшін косинустық ұқсастықты қолдандық. Осылайша қарапайым кілтсөздік іздеудің орнына семантикалық іздеу қабатын алдық.
Бұл тәсіл өте дәл жұмыс істеп, хакатондағы демо кезінде өнімге ерекше «сиқырлы» әсер берді. Сонымен бірге бейнелер саны өсе берсе, бұл тәсілдің шексіз масштабталмайтынын білдік, өйткені әр сұрауды әр бөлікпен салыстыру ақырында тым қымбатқа түседі. Келесі қисынды қадам — салыстыру санын азайтып, корпус ұлғайған кезде кідірісті төмен деңгейде сақтау үшін Hierarchical Navigable Small World секілді тиімдірек іздеу стратегияларын енгізу. Бұл мүмкіндік іске қосылғаннан кейін Callombia медиатекадан гөрі білім жүйесіне көбірек ұқсай бастады.
Жақсы хакатондардың бәріндегідей, бұл бөлікті де жетілдіру қажет болды: алғашқы бөлу шекаралары тым дәл емес еді, кейбір уақыт белгілерін нақтылау керек болды, кей белгілер тым жалпылама шықты, ал транскрипт пен жазба файлдары үнемі бір-біріне дәл келе бермеді. Бірақ құндылық дәл осы тұста көрінді. Codex бастапқы баптау мен қайта өңдеуге тұрып қалмай, жүйені жылдам жетілдіруге мүмкіндік берді. Соңында үзінділерді, қысқа бөліктерді және шынымен пайдалы семантикалық іздеуді қолдайтын бэкенд жасадық. Осы кезде Callombia хакатон демосы ғана емес, нағыз өнімдей сезіле бастады.
Эд пен Нико деректерді қабылдау және зияткерлік қабатын жасап жатқанда, мен фронтендпен айналыстым. Толық стекке арналған үлгімізді пайдаланып, бір жол да код жазбастан сайттың алғашқы нұсқасын жылдам іске қостым. Одан сайтты браузерімде жергілікті түрде ашуды сұраған соң, дизайнды өзім қалаған қалыпқа келтіру үшін тармақталған тізім түрінде қарапайым пікір беріп отырдым.
Бір сағаттай пікір алмасқаннан кейін көңілімнен біршама шығатын нәтиже алдым. Оның үстіне пайдаланушы интерфейсі не дизайн бойынша еш тәжірибем жоқ еді. Соңғы өнім мінсіз болмаса да, адамдарға оның мәнін түсінуге мүмкіндік беретін тәуір алғашқы нұсқа шықты.
Күн соңында дайын дүние болуы үшін жұмысты өзара бөлісіп алдық. Бірнеше сағат жартылай дербес жұмыс істегеннен кейін әрқайсымыздың жергілікті тармағымызда толып жатқан қайшылық пайда болғаны түсінікті.
Бізде жоқ уақытты қайшылықтарды мұқият қарап, қолмен шешуге жұмсамай, Codex-ке репозиторийлерде еркін әрекет етуге және барлық қайшылықты өздігінен түзетуге мүмкіндік бердік. Әзірше корпоративтік деңгейдегі бағдарламалық жасақтаманы осылай әзірлеуге кеңес бермес едік. Дегенмен тәуекелі төмен ортада оның қаншалықты тиімді екенін көру таңғаларлық болды әрі бізге талай сағатты үнемдеді.
Хакатонның соңғы бөлігі Callombia демосын қазылар үшін жазып алу болды. Алғашқы ойымыз жазу үшін Loom-ды ашу болды, бірақ мұны Codex үшін нағыз сынақ әрі оның қазіргі мүмкіндіктерінің шегінен сәл тыс міндет деп шештік. Сонымен... Біз көмексөз жазып, оған Callombia сайтының сілтемесін бердік, OpenAI әзірлеушілер платформасындағы дауыс жазбамды тіркедік те, қалғанын өзі орындауын сұрадық.
Алғашқы әрекетінің өзі қатты таңғалдырды: ол демо сценарийін жазып, экранды түсіріп, менің даусымды қосып, тапсырманы түгелге жуық орындады. Бірден көңілімізден шықпаған жалғыз нәрсе — дыбыстау мен демо жазбасының синхрондалуы еді. Сондықтан оған “MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.” деп жаздық.
Осы өтінішке жауап ретінде Codex дыбыстау мен жазбаны шағын бөліктерге бөліп, тапсырманы мінсіз дерлік орындады. Бәрі кешкі 5:30-ға, жеңісті сыра мен пиццамен атап өтуге дәл уақытында дайын болды.
Callombia компаниялардың көпшілігінде бар мәселені шешетінін білеміз. Қарқынды өсіп жатқан компаниядағы әр қоңырауға қатысу қиын, бірақ оларда айтылатын құнды ойлардың бағасы өлшеусіз. Енді оны өндірістік ортаға енгізу ғана қалды.
Бұдан ЖИ-ға бейім болу және ортақ мәселелерді шешуге инженерлік әрі өнімдік тәжірибені жұмылдыру туралы маңыздырақ сабақ алуға болады. Әдеттегі жұмыс ырғағынан шығып, командалар арасында бірлесіп әрі аздап бәсекелі ортада әрекет ету арқылы аздаған түзетуден кейін өндірістік ортаға енгізуге болатын бірнеше шешім жасадық. Мұны жүйелі түрде өткізу ішкі жұмысымыздың клиенттерге жасайтын шешімдеріміздей ұтымды болуына мүмкіндік береді.