Các cuộc họp được ghi lại là một tài sản tri thức chưa được khai thác đúng mức. Chúng khó tìm kiếm, mất nhiều thời gian để xem lại và nằm rải rác trong các ổ đĩa riêng của từng nhóm, khiến nhiều thông tin chuyên sâu có giá trị thường bị bỏ sót.
Trong một cuộc thi hackathon kéo dài một ngày, nhóm ba người đã xây dựng Callombia. Đây là nền tảng nội bộ tự động chép lời, gắn thẻ, tóm tắt và cắt các cuộc gọi đã ghi thành clip, rồi đưa vào một kho lưu trữ có thể tìm kiếm theo phong cách YouTube mà mọi văn phòng trên toàn cầu đều truy cập được.
Được xây dựng hoàn toàn bằng Codex, giải pháp này dùng tính năng tìm kiếm ngữ nghĩa dựa trên embedding của OpenAI và độ tương đồng cosin để tìm ra những khoảnh khắc liên quan ngay cả khi không có từ khóa chính xác, đồng thời tích hợp thêm chatbot RAG và hệ thống thông báo.
Công việc vốn cần nhiều tuần đã được hoàn thành trong bảy giờ, cho thấy cách phát triển theo định hướng AI với các tác nhân lập trình như Codex có thể rút ngắn đáng kể vòng đời phát triển sản phẩm và tạo ra giá trị kinh doanh thực sự từ các cuộc thi hackathon nội bộ.
Nếu giống tôi, bạn hiếm khi có đủ thời gian (hoặc đủ khả năng tập trung) để nghe lại các cuộc họp đã ghi. Lý do thường là bạn phải lục tìm trong những ổ đĩa nhóm lộn xộn, tua qua những màn xã giao nhạt nhẽo và cố gắng thực sự lắng nghe trong lúc liên tục gửi email và tin nhắn.
Nhưng có lẽ mọi chuyện không nhất thiết phải như vậy? Liệu chúng ta có thể xây dựng một thứ làm thay đổi hoàn toàn cách sử dụng các cuộc họp đã ghi? Đó là ý tưởng đằng sau dự án Hackathon gần đây của chúng tôi.
Chỉ trong một ngày, 50 thành viên thuộc các nhóm kỹ thuật, triển khai và vận hành đã giải quyết hàng loạt bài toán từ nhiều bộ phận trong công ty, bao gồm mở rộng hoạt động tuyển dụng, tinh giản quy trình lập SoW, nắm bắt tình hình dự án, tạo nguyên mẫu trực tiếp và khai thác thông tin chuyên sâu từ các cuộc họp đã ghi.
Trong cuộc thi hackathon sử dụng Codex này, chúng tôi đã xây dựng Callombia. Callombia là YouTube của công ty chúng tôi, biến mọi cuộc gọi thành một tài sản sống có thể tìm kiếm. Mỗi cuộc gọi được tự động chép lời, gắn thẻ và tóm tắt trước khi được cắt thành các clip theo chủ đề rồi thêm vào kho lưu trữ, phân nhóm theo kênh (khách hàng) và chủ đề (lĩnh vực chuyên môn về AI). Nhờ đó, mọi thành viên trong nhóm ở London, Edinburgh, Singapore và Úc đều có thể truy cập ngay những khoảnh khắc họ quan tâm trong các cuộc gọi.
Giao diện quen thuộc, nhất quán với thương hiệu giúp người dùng khám phá nội dung một cách trực quan; tính năng tìm kiếm ngữ nghĩa (và tất nhiên cả chatbot AI dùng RAG) giúp họ tìm đúng thứ mình cần. Hệ thống thông báo còn cho phép đồng nghiệp đăng ký theo dõi các chủ đề nhất định và nhận thông báo khi có clip mới liên quan được phát hành.
Nhưng điểm thú vị ở Callombia không phải là sản phẩm hay giải thưởng 2.000 bảng khi thắng Hackathon (xin phép khoe nhẹ), mà là việc hai kỹ sư và một trưởng nhóm triển khai có thể xây dựng tất cả chỉ trong bảy giờ. Một năm trước, điều đó là không thể. Những cải tiến ở tác nhân lập trình đã tăng tốc vượt bậc toàn bộ quy trình phát triển sản phẩm, và cuộc thi Hackathon này là môi trường thử nghiệm tuyệt vời để tìm hiểu những ranh giới gập ghềnh của công nghệ. Vậy chúng tôi đã sử dụng Codex như thế nào?
Thay vì chỉ viết hàng loạt yêu cầu, trước tiên chúng tôi chia sẻ quan điểm chung (dưới dạng một câu lệnh) về bài toán và tầm nhìn dành cho Callombia. Bằng cách chủ ý mô tả khái quát, chúng tôi để mô hình đảm nhiệm công việc và tự do suy nghĩ sáng tạo:
Sau 10 phút trao đổi qua lại, chúng tôi bật Chế độ lập kế hoạch để thu hẹp phạm vi yêu cầu và định hướng phần kỹ thuật của quá trình xây dựng. Chế độ lập kế hoạch giống như việc trả lời câu hỏi của một người bạn phiền phức nhưng hữu ích, vì họ đã suy xét mọi tình huống có thể xảy ra. Sau khi thống nhất những yếu tố như số lượng video, tìm kiếm theo ngữ nghĩa hay từ khóa và kiến trúc sẽ sử dụng, Codex tạo một tệp Markdown làm nền tảng cho phần còn lại của dự án.
Sau khi có kế hoạch, bước tiếp theo là xây dựng các thành phần cốt lõi để Callombia thực sự hoạt động. Điều đó đồng nghĩa với việc tạo một quy trình biến các cuộc gọi đã ghi thành tài sản có thể tìm kiếm:
Nạp video và bản chép lời,
Chia chúng thành những khoảnh khắc có ý nghĩa,
Bổ sung bản tóm tắt và thẻ,
Cung cấp chúng qua các API để frontend sử dụng.
Ed tập trung hơn vào việc chuyển bản ghi thô và dữ liệu chép lời sang định dạng có thể sử dụng, còn Nico chú trọng lớp truy xuất giúp người dùng tìm thấy những khoảnh khắc đó. Nhờ Codex, cả hai có thể nhanh chóng thiết lập các mô hình dữ liệu, tập lệnh trích xuất và hệ thống kết nối backend, nhanh hơn nhiều so với làm thủ công. Nhờ vậy, chúng tôi có được nhiều hơn hẳn một bản chép lời đính kèm video. Chúng tôi có được những khoảnh khắc cụ thể: phần nói về Tesco, nội dung cập nhật chiến lược, cuộc thảo luận tuyển dụng hay đúng 90 giây trong cuộc gọi mà ai đó thực sự muốn xem.
Lớp truy xuất này chính là nơi mọi thứ trở nên đặc biệt thú vị. Chúng tôi muốn người dùng nhập những cụm như “financial performance”, “Tesco roadmap” hoặc “conversation evals” và được đưa đến các clip liên quan nhất, ngay cả khi những cụm từ chính xác đó chưa từng được nói ra. Để làm vậy, chúng tôi tạo các đoạn dữ liệu chứa mốc thời gian, bản tóm tắt, nội dung chép lời và siêu dữ liệu. Với kiến trúc rõ ràng cùng rất nhiều trợ giúp từ Codex, chúng tôi kết hợp chủ đề, bản tóm tắt và nội dung chép lời thành một đầu vào duy nhất, sau đó dùng mô hình text-embedding-3-small của OpenAI để tạo embedding cho từng đoạn. Chúng tôi lưu các embedding đó trong cơ sở dữ liệu và dùng độ tương đồng cosin để so sánh truy vấn của người dùng với từng đoạn, qua đó tạo ra lớp truy xuất ngữ nghĩa thay vì chỉ tìm kiếm từ khóa đơn giản.
Cách này cho độ chính xác rất cao và tạo nên cảm giác “kỳ diệu” cho sản phẩm trong buổi demo tại hackathon. Đồng thời, chúng tôi biết cách tiếp cận này sẽ không thể mở rộng mãi nếu số lượng video tiếp tục tăng, vì việc so sánh mọi truy vấn với mọi đoạn cuối cùng sẽ trở nên quá tốn kém. Bước tiếp theo hợp lý là áp dụng các chiến lược truy xuất hiệu quả hơn, chẳng hạn Hierarchical Navigable Small World, để giảm số lượt so sánh và duy trì độ trễ thấp khi kho dữ liệu mở rộng. Khi tính năng này hoạt động, Callombia bắt đầu giống một hệ thống tri thức hơn là một thư viện nội dung đa phương tiện.
Như mọi cuộc thi hackathon hiệu quả, phần này cũng cần được lặp lại và cải tiến: ranh giới giữa các đoạn ban đầu còn quá thô, một số mốc thời gian cần chính xác hơn, vài thẻ có phạm vi quá rộng, còn tệp chép lời và tệp ghi âm không phải lúc nào cũng khớp hoàn toàn. Nhưng đó cũng là lúc giá trị thực sự được thể hiện. Codex giúp chúng tôi nhanh chóng tinh chỉnh hệ thống thay vì mắc kẹt ở khâu thiết lập và làm lại. Đến cuối cùng, chúng tôi đã có một backend đủ sức hỗ trợ clip, đoạn trích và tính năng tìm kiếm ngữ nghĩa thực sự hữu ích. Đây là lúc Callombia bắt đầu mang dáng dấp một sản phẩm thực thụ thay vì chỉ là bản demo hackathon.
Trong khi Ed và Nico xây dựng quy trình nạp dữ liệu cùng lớp trí tuệ, tôi phụ trách frontend. Nhờ mẫu full-stack của công ty, tôi có thể nhanh chóng dựng phiên bản đầu tiên của trang web mà không cần viết một dòng mã nào. Sau khi yêu cầu Codex mở trang web cục bộ trong trình duyệt, tôi đưa ra những phản hồi đơn giản dạng gạch đầu dòng để lặp lại và điều chỉnh thiết kế theo ý mình.
Sau khoảng một giờ trao đổi qua lại, tôi đã có được kết quả khá ưng ý dù không hề có kinh nghiệm về giao diện người dùng hay thiết kế. Dù sản phẩm cuối chắc chắn chưa hoàn hảo, đây vẫn là một phiên bản đầu tiên khá tốt, giúp mọi người hiểu được sản phẩm.
Để bảo đảm có được thành quả vào cuối ngày, chúng tôi đã phân chia công việc cho nhau. Dĩ nhiên, sau vài giờ làm việc tương đối độc lập, mỗi người đều có nhánh cục bộ riêng với vô số xung đột.
Thay vì dành khoảng thời gian ít ỏi còn lại để cẩn thận xử lý từng xung đột, chúng tôi quyết định để Codex tự do xử lý các kho lưu trữ và tự giải quyết xung đột. Dù hiện tại chúng tôi không khuyến nghị cách này khi phát triển phần mềm cấp doanh nghiệp, hiệu quả của nó trong môi trường ít rủi ro thực sự đáng kinh ngạc và đã giúp chúng tôi tiết kiệm nhiều giờ.
Phần cuối của cuộc thi hackathon là ghi lại bản demo Callombia để trình bày với ban giám khảo. Theo bản năng, chúng tôi muốn mở Loom để quay, nhưng rồi nhận ra đây có thể là một phép thử thực sự cho Codex và hơi nằm ngoài những khả năng hiện tại của công cụ. Vì vậy... chúng tôi viết một câu lệnh, cung cấp liên kết đến trang web Callombia, đính kèm bản ghi giọng nói của tôi trên nền tảng dành cho nhà phát triển của OpenAI rồi yêu cầu Codex lo phần còn lại.
Lần thử đầu tiên rất ấn tượng: Codex đã viết kịch bản demo, quay màn hình, thêm lời thuyết minh bằng giọng của tôi và gần như đáp ứng hoàn toàn yêu cầu. Điều duy nhất khiến chúng tôi chưa hài lòng ngay là phần lời thuyết minh chưa đồng bộ với bản ghi demo, nên chúng tôi yêu cầu: “MANDATORY: align the voiceover exactly with what is being shown in the demo. There was misalignment (e.g. on the chat page). Triple check alignment of voiceover and the screen-recorded demo at the end. Match it up through whichever means possible.”
Để đáp lại yêu cầu đó, Codex chia lời thuyết minh và bản ghi thành các phần nhỏ hơn rồi hoàn thành nhiệm vụ gần như hoàn hảo, vừa kịp lúc 17:30 để mọi người ăn pizza, uống bia và ăn mừng.
Chúng tôi biết Callombia giải quyết một vấn đề mà hầu hết doanh nghiệp đều gặp phải. Thật khó để tham dự mọi cuộc gọi trong một công ty đang tăng trưởng nhanh, nhưng những kiến thức quý giá được chia sẻ trong đó là vô giá. Giờ chúng tôi chỉ cần đưa nó vào môi trường production.
Nhưng bài học lớn hơn ở đây nằm ở tư duy vận hành theo định hướng AI và lợi ích của việc dồn năng lực kỹ thuật cùng sự nhạy bén về sản phẩm vào giải quyết những vấn đề chung. Bằng cách thoát khỏi nhịp làm việc thường lệ, cộng tác giữa các nhóm trong một môi trường có tính cạnh tranh vừa phải, cuối cùng chúng tôi đã tạo ra nhiều giải pháp có thể đưa vào môi trường production sau một vài điều chỉnh. Nếu thực hiện thường xuyên, cách làm này sẽ giúp hoạt động nội bộ của chúng tôi cũng tinh gọn như những giải pháp dành cho khách hàng.