Հիմնական նավիգացիա

Codex-ով հանդիպումների խելացի որոնման գործիքի ստեղծում

Իմացեք, թե Codex-ն ինչպես օգնեց արագ ու գործնական ներքին մշակմամբ ընկերության ձայնագրված հանդիպումները վերածել որոնելի գիտելիքի։

Ամփոփում ղեկավարների համար

  • Ձայնագրված հանդիպումները գիտելիքի թերի օգտագործվող արժեքավոր աղբյուր են։ Դրանցում դժվար է որոնել, վերանայելը շատ ժամանակ է պահանջում, իսկ ֆայլերը մեկուսացված են թիմերի տարբեր սկավառակներում, ինչի հետևանքով արժեքավոր դիտարկումները հաճախ աննկատ են մնում։

  • Մեկօրյա հաքաթոնի ընթացքում երեք հոգանոց թիմը ստեղծեց Callombia-ն։ Սա ներքին հարթակ է, որն ավտոմատ կերպով վերծանում, պիտակավորում, ամփոփում և հատվածների է բաժանում ձայնագրված զանգերը՝ դրանք վերածելով գլոբալ գրասենյակներին հասանելի, որոնելի, YouTube-ի նման պահոցի։

  • Ամբողջությամբ Codex-ով ստեղծված լուծումն օգտագործում է OpenAI-ի ներկառուցումներով և կոսինուսային նմանությամբ աշխատող իմաստային որոնում՝ համապատասխան պահերը գտնելու համար, նույնիսկ երբ ճշգրիտ հիմնաբառեր չեն օգտագործվում։ Դրան ավելացված են RAG չաթբոտ և ծանուցումների համակարգ։

  • Այն, ինչ նախկինում շաբաթներ կպահանջեր, պատրաստվեց յոթ ժամում՝ ցույց տալով, թե Codex-ի նման կոդավորման ագենտներով AI-ակենտրոն մշակումը որքան կարող է կրճատել պրոդուկտի մշակման ամբողջ շրջափուլը և ներքին հաքաթոններից իրական բիզնես արժեք ստեղծել։

Եթե ինձ նման եք, հազվադեպ եք ժամանակ (կամ բավարար կենտրոնացում) ունենում ձայնագրված հանդիպումները կրկին լսելու համար։ Հաճախ պատճառն այն է, որ հարկավոր է փնտրել թիմերի անկազմակերպ սկավառակներում, բաց թողնել անհաջող առօրյա զրույցները և նամակներ ու հաղորդագրություններ ուղարկելիս փորձել իրականում լսել։

Բայց գուցե պարտադիր չէ, որ այդպես լինի։ Գուցե կարողանայի՞նք ստեղծել մի բան, որն ամբողջությամբ կփոխեր ձայնագրված հանդիպումների հետ աշխատանքը։ Հենց այս գաղափարն էր ընկած մեր վերջին հաքաթոնային նախագծի հիմքում։

Ընդամենը մեկ օրում ինժեներական, մատակարարման և գործառնական թիմերի մեր 50 անդամներ լուծումներ էին փնտրում բիզնեսի տարբեր մասերից ստացված խնդիրների համար՝ աշխատանքի ընդունման գործառույթների մասշտաբավորումից և SoW-ի ստեղծման պարզեցումից մինչև նախագծերի վիճակի գնահատում, նախատիպերի ակնթարթային ստեղծում և ձայնագրված հանդիպումներից կարևոր դիտարկումների բացահայտում։

Codex-ի վրա հիմնված այս հաքաթոնի ընթացքում մենք ստեղծեցինք Callombia-ն։ Callombia-ն մեր բիզնեսի YouTube-ն է, որը յուրաքանչյուր զանգ վերածում է անընդհատ թարմացվող, որոնելի ռեսուրսի։ Յուրաքանչյուր զանգ ավտոմատ կերպով վերծանվում, պիտակավորվում և ամփոփվում է, ապա բաժանվում թեմատիկ հոլովակների ու ավելացվում պահոցում՝ խմբավորված ըստ ալիքների (հաճախորդների) և թեմաների (AI մասնագիտացման ոլորտների)։ Դրա շնորհիվ Լոնդոնի, Էդինբուրգի, Սինգապուրի և Ավստրալիայի ցանկացած թիմակից կարող է անմիջապես բացել զանգերի՝ իրեն հետաքրքրող պահերը։

Ծանոթ և մեր բրենդին համապատասխան միջերեսը հեշտացնում է բովանդակության հայտնաբերումը, իսկ իմաստային որոնումը (և, իհարկե, RAG AI չաթբոտը) օգնում է մարդկանց գտնել հենց այն, ինչ փնտրում են։ Ծանուցումների համակարգը նաև թույլ է տալիս մեր գործընկերներին բաժանորդագրվել որոշ թեմաների և ծանուցում ստանալ, երբ հրապարակվում են իրենց առնչվող նոր հոլովակներ։

Սակայն Callombia-ի ամենահետաքրքիրը ոչ թե պրոդուկտն է կամ հաքաթոնում հաղթելու համար ստացած 2 հազար ֆունտ մրցանակը (պարծենալու առիթ), այլ այն, որ երկու ինժեներով ու մատակարարման ղեկավարով այս ամենը ստեղծեցինք ընդամենը յոթ ժամում։ Մեկ տարի առաջ դա հնարավոր չէր։ Կոդավորման ագենտների զարգացումը զգալիորեն արագացրել է պրոդուկտի մշակման ամբողջ գործընթացը, իսկ այս հաքաթոնը հիանալի փորձադաշտ դարձավ դրանց անհավասար հնարավորությունների սահմանները հասկանալու համար։ Այսպիսով, ինչպե՞ս օգտագործեցինք Codex-ը։

Լուծման պլանավորումը

Պարզապես բազմաթիվ պահանջներ գրելու փոխարեն՝ սկզբում որպես հարցում ներկայացրինք խնդրային դաշտի և Callombia-ի տեսլականի վերաբերյալ մեր ընդհանուր պատկերացումը։ Միտումնավոր խուսափելով մանրամասներից՝ աշխատանքը թողեցինք մոդելին և հնարավորություն տվեցինք ստեղծագործաբար մտածել։

Տասը րոպե շարունակ մտքեր փոխանակելուց հետո միացրինք Plan Mode-ը՝ պահանջները հստակեցնելու և մշակման տեխնիկական մասը նախապատրաստելու համար։ Plan Mode-ում այնպիսի զգացողություն է, ասես պատասխանում ես այն նյարդայնացնող ընկերոջ հարցերին, որը (բարեբախտաբար) նախապես դիտարկել է հնարավոր բոլոր սցենարները։ Տեսանյութերի քանակը, իմաստային կամ հիմնաբառային որոնման ընտրությունը և կիրառվող ճարտարապետությունը համաձայնեցնելուց հետո այն ստեղծեց markdown ֆայլ, որը դարձավ նախագծի հետագա աշխատանքի հիմքը։

Լուծման պլանավորումը պատկերող սքրինշոթ։

Հիմնական բաղադրիչների ստեղծումը

Պլանը պատրաստ լինելուց հետո հաջորդ քայլը Callombia-ի աշխատանքն ապահովող հիմնական բաղադրիչների ստեղծումն էր։ Դրա համար պետք էր ստեղծել ձայնագրված զանգերը որոնելի ռեսուրսների վերածող հոսքաշար․

  1. Տեսանյութերի և վերծանումների ներմուծում,

  2. Դրանց բաժանում իմաստալից պահերի,

  3. Դրանց հարստացում ամփոփումներով և պիտակներով,

  4. Դրանց հասանելի դարձնելը API-ների միջոցով, որոնք կարող էր օգտագործել ֆրոնտենդը։

Էդն առավելապես զբաղվում էր սկզբնական ձայնագրություններն ու վերծանված տվյալներն օգտագործելի ձևաչափի բերելով, իսկ Նիկոն՝ որոնման շերտով, որը թույլ կտար գտնել այդ պահերը։ Codex-ի օգնությամբ նրանք երկուսն էլ շատ ավելի արագ ստեղծեցին տվյալների մոդելները, արտահանման սկրիպտներն ու բեքենդի կապակցող ենթակառուցվածքը, քան դա հնարավոր կլիներ ձեռքով։ Արդյունքը շատ ավելին էր, քան տեսանյութին կցված վերծանումը։ Մենք ստացանք կոնկրետ պահեր՝ Tesco-ին նվիրված հատվածը, ռազմավարության թարմացումը, աշխատանքի ընդունման քննարկումը կամ զանգի հենց այն 90 վայրկյանը, որն ինչ-որ մեկն իրականում ցանկանում է դիտել։

Հենց որոնման այդ շերտում ամեն ինչ հատկապես հետաքրքիր դարձավ։ Ուզում էինք, որ օգտատերը կարողանա մուտքագրել, օրինակ, “financial performance,” “Tesco roadmap,” կամ “conversation evals” և անցնել ամենահամապատասխան հոլովակներին, նույնիսկ եթե այդ ճշգրիտ բառերը երբեք չեն հնչել։ Դրա համար ստեղծեցինք ժամանակային նշումներով, ամփոփումներով, վերծանված տեքստով և մետատվյալներով հատվածներ։ Հստակ ճարտարապետություն ունենալով և Codex-ի մեծ օգնությամբ՝ թեման, ամփոփումն ու վերծանված տեքստը միավորեցինք մեկ մուտքային տվյալում և յուրաքանչյուր հատվածի համար ներկառուցումներ ստեղծեցինք OpenAI-ի text-embedding-3-small մոդելով։ Այդ ներկառուցումները պահեցինք մեր տվյալների բազայում և կոսինուսային նմանությամբ օգտատիրոջ հարցումը համեմատեցինք յուրաքանչյուր հատվածի հետ։ Այդպես պարզ հիմնաբառային որոնման փոխարեն ստացանք իմաստային որոնման շերտ։

Այս մոտեցումն ապահովեց չափազանց բարձր ճշգրտություն և հաքաթոնի ցուցադրության ժամանակ պրոդուկտին հաղորդեց իր «կախարդական» զգացողությունը։ Միաժամանակ գիտեինք, որ տեսանյութերի քանակի շարունակական աճի դեպքում այս մոտեցումը հավերժ չի մասշտաբավորվի, քանի որ յուրաքանչյուր հարցումը բոլոր հատվածների հետ համեմատելը ժամանակի ընթացքում չափազանց թանկ կդառնա։ Հաջորդ բնական քայլը կլինի որոնման ավելի արդյունավետ ռազմավարությունների, օրինակ՝ Hierarchical Navigable Small World-ի ներդրումը, որպեսզի համեմատությունների քանակը կրճատվի, իսկ հավաքածուի աճին զուգահեռ ուշացումը ցածր մնա։ Երբ այս գործառույթն աշխատեց, Callombia-ն սկսեց ավելի քիչ նմանվել մեդիա գրադարանի և ավելի շատ՝ գիտելիքի համակարգի։

Ինչպես բոլոր լավ հաքաթոններում, այս մասը նույնպես կատարելագործման կարիք ուներ․ հատվածների սկզբնական սահմանները չափազանց կոպիտ էին, որոշ ժամանակային նշումներ պետք էր ճշգրտել, որոշ պիտակներ չափազանց լայն էին, իսկ վերծանման ու ձայնագրության ֆայլերը միշտ չէ, որ հստակ համընկնում էին։ Բայց հենց այստեղ էլ երևաց իրական արժեքը։ Codex-ը թույլ տվեց արագ կատարելագործել համակարգը՝ սկզբնական կարգավորումների ու վերամշակման մեջ խրվելու փոխարեն։ Վերջում ունեինք բեքենդ, որը կարող էր ապահովել հոլովակների, հատվածների և իսկապես օգտակար իմաստային որոնման աշխատանքը։ Հենց այդ պահին Callombia-ն սկսեց հաքաթոնային ցուցադրության փոխարեն իրական պրոդուկտ թվալ։

Ֆրոնտենդի մշակում և UI

Մինչ Էդն ու Նիկոն ստեղծում էին ներմուծման և խելացի մշակման շերտերը, ես զբաղվում էի ֆրոնտենդով։ Օգտագործելով մեր ամբողջական տեխնոլոգիական ստեկի ձևանմուշը՝ կարողացա արագ գործարկել կայքի առաջին տարբերակը՝ առանց կոդի որևէ տող գրելու։ Տեղային միջավայրում կայքը բրաուզերով բացելու հրահանգից հետո պարզ կետերով հետադարձ կապ էի տալիս՝ դիզայնը փուլ առ փուլ իմ ուզած տեսքին հասցնելու համար։

Մոտ մեկ ժամ մտքեր փոխանակելուց հետո ստացա մի արդյունք, որից բավական գոհ էի՝ ընդ որում չունենալով UI-ի կամ դիզայնի որևէ փորձ։ Թեև վերջնական պրոդուկտը հաստատ կատարյալ չէ, այն բավական լավ առաջին տարբերակ է, որն օգնում է մարդկանց հասկանալ պրոդուկտը։

Ֆրոնտենդի մշակումը և UI-ը պատկերող սքրինշոթ։

Ամբողջ կոդի միավորումը

Համոզվելու համար, որ օրվա վերջում պատրաստ արդյունք կունենանք, աշխատանքը բաժանել էինք միմյանց միջև։ Բնականաբար, մի քանի ժամ կիսանկախ աշխատելուց հետո յուրաքանչյուրս ուներ իր տեղային ճյուղը՝ բազմաթիվ հակասություններով։

Մեզ չունեցած ժամանակը հակասությունները մանրակրկիտ ուսումնասիրելու և լուծելու վրա ծախսելու փոխարեն՝ որոշեցինք Codex-ին ազատ գործելու հնարավորություն տալ պահոցներում, որպեսզի այն ինքնուրույն շտկի հակասությունները։ Թեև ներկայում սա չէինք խորհուրդ տա ձեռնարկատիրական մակարդակի ծրագրային ապահովում մշակելիս, ցածր ռիսկով միջավայրում դրա արդյունավետությունը տպավորիչ էր և մեզ բազմաթիվ ժամեր խնայեց։

Ամբողջ ցուցադրությունը

Հաքաթոնի վերջին մասը Callombia-ի ցուցադրությունը ժյուրիի համար ձայնագրելն էր։ Բնազդաբար ուզում էինք ձայնագրության համար բացել Loom-ը, սակայն մտածեցինք, որ սա կարող է իսկական փորձություն լինել Codex-ի համար և մի փոքր դուրս լինել նրա ներկայիս հնարավորությունների շրջանակից։ Ուստի… Մենք հարցում գրեցինք, տրամադրեցինք Callombia կայքի հղումը, ավելացրինք OpenAI-ի մշակողների հարթակում իմ ձայնի ձայնագրությունը և խնդրեցինք մնացածն ինքնուրույն անել։

Առաջին փորձը շատ տպավորիչ էր․ այն գրել էր ցուցադրության սցենարը, ձայնագրել էկրանը, ավելացրել իմ ձայնային ուղեկցումը և գրեթե ամբողջությամբ կատարել առաջադրանքը։ Միակ բանը, որից անմիջապես գոհ չէինք, ձայնային ուղեկցման և ցուցադրության ձայնագրության համաժամեցումն էր, ուստի խնդրեցինք․ “MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.”

Այդ խնդրանքին ի պատասխան՝ Codex-ը ձայնային ուղեկցումն ու ձայնագրությունը բաժանեց փոքր հատվածների և առաջադրանքը գրեթե անթերի ավարտեց ճիշտ ժամանակին՝ 17։30-ին, երբ արդեն կարելի էր գարեջրով ու պիցցայով տոնել։

Դառնալ ավելի AI-ակենտրոն

Մենք գիտենք, որ Callombia-ն լուծում է բիզնեսների մեծ մասի համար ընդհանուր մի խնդիր։ Արագ աճող ընկերությունում դժվար է մասնակցել յուրաքանչյուր զանգի, սակայն այդ զանգերի ընթացքում հնչող իմաստուն մտքերն անգնահատելի են։ Այժմ պարզապես պետք է այն ներդնենք արտադրական միջավայրում։

Սակայն այստեղ կա AI-ակենտրոն աշխատելակերպի մասին ավելի կարևոր դաս՝ ընդհանուր խնդիրների լուծման համար ինժեներական ու պրոդուկտային փորձը նպատակաուղղված կիրառելու օգուտը։ Դուրս գալով մեր սովորական աշխատանքային շրջափուլից, համագործակցելով տարբեր թիմերի հետ և աշխատելով թեթև մրցակցային միջավայրում՝ ի վերջո ստացանք մի շարք լուծումներ, որոնք որոշ շտկումներից հետո կարելի էր ներդնել արտադրական միջավայրում։ Պարբերաբար կրկնելով սա՝ կարող ենք ապահովել, որ մեր ներքին աշխատանքն էլ այնքան սահուն լինի, որքան հաճախորդների համար ստեղծվող լուծումները։

Հեղինակ

George Montagu, Ed Jeffery, Nicolas Franco Gonzalez