하지만 많은 사람이 온라인 정보를 검색하고 종합하는 개인적 용도로 심층 리서치를 활용해 온 반면, 기업 환경에서 그 혜택을 누린 경우는 드뭅니다. 유용하지 않아서가 아니라 오히려 그 반대입니다. 신뢰성, 분산된 데이터 소스, 대규모 컨텍스트(서로 다른 형식의 방대한 파일 등)를 처리하는 모델의 역량을 둘러싼 폭넓은 우려 때문입니다.
지난 12개월간 엔터프라이즈급 심층 리서치 도구를 구축한 경험을 통해, 세심한 엔지니어링으로 이러한 우려를 점점 더 완화할 수 있음을 확인했습니다. 이 글에서는 효과적인 엔터프라이즈 심층 리서치 애플리케이션을 가로막는 주요 장애물과 그 해결 방법, 그리고 2026년 이 분야의 발전 방향을 살펴봅니다.
실행 역량의 한계가 비약적으로 높아졌습니다. 2025년 8월 gpt-5의 등장은 엔터프라이즈 AI의 전환점이었습니다. 세계 최대 제약사 중 한 곳을 위해 구축한 신약 표적 발굴 플랫폼을 비롯한 프로덕션 시스템에서 출처 환각이 3~4%에서 사실상 0%로 떨어졌습니다. 이어 12월에는 gpt-5.2가 유효 컨텍스트 길이를 더욱 늘렸습니다. 그 결과 이제 신뢰성을 희생하지 않고도 리서치 실행 한 번에 다루는 출처를 수백 개에서 수천 개로 확장할 수 있습니다. 병목은 모델 역량에서 벗어나 원래 있어야 할 곳, 즉 데이터와 평가, 프로그램 설계로 돌아갔습니다.
데이터 전략: 통합보다 접근성이 중요합니다. 엔터프라이즈 AI를 데이터 통합 문제로 보는 것은 이해할 만하지만, 오히려 역효과를 내는 경우가 많습니다. 완전한 통합은 느리고 조직 내 이해관계에 얽히기 쉬우며, 어떤 질문이 정말 중요한지 알기도 전에 방향을 정하도록 강요합니다. 2026년의 실용적인 해법은 희소 연결입니다. 모든 데이터를 통합하느라 수년을 기다리는 대신 사양, 정책, SKU, 계약 조항 같은 신호가 강한 앵커를 통해 데이터에 접근할 수 있게 하세요. 이제 프런티어 모델은 추론 시점에 시스템 간 데이터를 ‘소프트 조인’하여 정식 매핑 없이도 서로 연결된 용어를 이어 줄 수 있습니다. 빠른 배포 속도를 유지하면서 나중에 출처를 추가할 유연성도 확보할 수 있습니다.
내비게이션은 시스템이 헤매지 않게 합니다. 기업 데이터는 웹과 다릅니다. 데이터가 드문드문 존재하고 조직 고유의 관행이 가득하며, 특정 사실에 맞는 출처가 단 하나뿐인 경우도 많습니다. 안내가 없으면 모델은 출처를 하나만 더 찾겠다며 끝없이 쿼리를 반복해 지연 시간을 늘리고 사용자의 인내심을 소진하는 경향이 있습니다. 가벼운 시맨틱 레이어(해시 맵, 엔터티 조회, 간소한 관계 그래프)는 시스템이 적절한 컨텍스트에 효율적으로 도달할 수 있도록 빠르고 비용이 적게 드는 경로를 제공합니다. 노련한 동료가 신입에게 “bookmark these sites, talk to Ross if you have AWS issues.”라고 조언하는 것과 같습니다. 복잡할 필요는 없습니다. 시스템이 필요한 것을 빠르게 찾도록 돕기만 하면 됩니다.
기계적 평가(모든 쿼리에서 실행): 인용 건전성, 도구 위생, 지연 시간, 비용. 평범해 보이지만 필수적인 안전장치입니다.
분석적 평가(주기적으로 실행): 시스템이 적절한 도구를 선택하고, 타당한 리서치 방향을 따르며, 권위 있는 출처를 고르고, 언제 멈춰야 하는지 아는가? 일반적으로 레이블이 지정된 예시를 기준으로 LLM-as-judge를 통해 점수를 매깁니다.
사용자 평가(상시): 작업 완료율, 파워 유저의 정성적 피드백, 사용 분석. 궁극적인 시험입니다. 사람들이 유용하다고 느끼는 것을 만들었는가?
ROI는 안전한 문제가 아니라 어려운 문제에서 나옵니다. 대부분의 엔터프라이즈 AI 프로젝트가 ROI 달성에 실패한다는 보고서가 나온 뒤, 실제 배포로 이어지지 않는 인상적인 데모에 대한 인내심은 사라졌습니다. 경영진은 증거를 원하며, 그것도 빠르게 원합니다. 역설적으로 이러한 압박은 팀이 잘못된 선택을 하게 만들 수 있습니다. 배포가 쉽고 반발을 살 가능성이 낮다는 이유로 중요도가 낮은 작업부터 시작하고 싶은 유혹이 생깁니다. 하지만 이런 사용 사례는 지속적인 투자를 정당화할 만큼 큰 변화를 만드는 경우가 드뭅니다. 엔터프라이즈 심층 리서치 시스템은 이미 비용이 많이 드는 업무, 즉 현행 방식의 비용이 뚜렷한 복잡하고 중대한 워크플로를 겨냥하므로 가치를 입증하기에 적합합니다. 가장 강력한 사용 사례는 RFP 및 입찰서 작성, 과학 기술 지형 분석, 투자 리서치 등입니다. 이들 분야에서는 단순한 시간 절감이 아니라 수주율, 임상시험까지 걸리는 시간 단축, 투자 확신에 이르는 속도로 효과를 측정합니다.
UX의 변화: 채팅에서 위임으로, 답변에서 결과물로. 이는 2026년을 규정할 사용자 경험 변화 중 하나라고 생각합니다. 최근 도입률이 가장 높았던 구축 사례를 살펴보면 몇 가지 특징이 두드러집니다. 이러한 시스템의 신뢰성이 높아지면서 사용자는 시스템을 질문을 던지는 챗봇보다 업무를 위임하는 분석가처럼 대하기 시작했습니다. 이를 가능하게 하는 요소는 두 가지입니다. 팀이 자체 워크플로에 맞게 템플릿과 중단 기준을 맞춤 설정할 수 있게 하는 것, 그리고 채팅 스레드에서 최종 결과물을 직접 취합하게 하는 대신 실제로 필요한 형식(메모, 슬라이드 자료, 브리핑 등)으로 바로 내보낼 수 있게 하는 것입니다. 이 두 가지가 갖춰지면 시스템은 참고 도구를 넘어 실제 업무 수행 방식이 됩니다.
지난해에는 기업에 심층 리서치를 도입하는 방법을 소개했습니다. 이를 통해 OpenAI가 처음 대중화한 웹 중심의 심층 리서치 패러다임을 출처 이력이나 통제력을 잃지 않으면서 기업의 독점 데이터 소스로 확장했습니다. 또한 심층 리서치 시스템은 기존 RAG 시스템과 단절된 것이 아니라 그 진화형으로 봐야 한다고 강조했습니다.
2026년을 맞아 달라진 것은 심층 리서치라는 개념보다 실행 가능한 역량의 한계입니다.
2025년 초 이러한 시스템을 구축하기 시작했을 때 프런티어 모델에는 o1, gpt-4o, claude-3.5-sonnet이 포함됐습니다. 짧은 12개월 동안 정말 큰 발전이 있었습니다. 그해 첫 몇 달에는 o3와 gemini-2.5-pro 같은 모델이 큰 도약을 이끌었습니다. 당시에는 훌륭한 모델이었고, 일정 범위까지는 충분히 견고한 심층 리서치 애플리케이션을 구축할 수 있었습니다. 그 한계는 대개 소스 수가 수백 개 초반에 이르렀을 때 나타났습니다. 이후에는 컨텍스트를 매우 과감하게 정리해야 했고, 그렇지 않으면 정보 손실이 있는 답변, 지시 이행 능력 저하, 명백한 환각을 감수해야 했습니다.
이러한 시스템을 구축해 봤다면 몇 가지 실패 양상이 익숙할 것입니다.
구체적인 사례를 들어 보겠습니다. 2025년 중반, 세계 최대 제약사 중 한 곳과 함께 신약 표적 발굴을 가속하는 엔터프라이즈 심층 리서치 솔루션을 구축하기 시작했습니다. 신약 표적 발굴은 연구자가 질환 치료의 표적으로 삼을 수 있는 유전자, 호르몬 또는 인체 내 다른 요소를 찾는 과정입니다. 당시 사용 가능한 가장 강력한 모델은 o3였습니다. 성능은 우수했지만 이 모델이 생성한 답변의 3~4%에는 고객의 독점 데이터 소스를 대상으로 한 도구 호출을 통해 모델에 제공되지 않은 출처가 포함됐습니다. 제공된 컨텍스트에서 뒷받침되지 않는 답변 구간을 표시하는 사후 인용 검사로 이를 완화했습니다. 프로젝트의 초기 PoC 단계에서 이 방법은 이해관계자가 도구를 신뢰하게 만드는 데 효과적이었고, 빠르게 진전을 이루는 데 도움이 됐습니다. 하지만 시스템에 더 많은 소스를 추가해 달라는 이해관계자의 요구를 충족하면서 모델의 한계를 완화하고 이러한 오류를 줄이려는 노력도 계속했습니다.
프런티어 심층 리서치 솔루션은 물론 전반적인 에이전트형 솔루션 구축의 핵심 전환점은 8월 gpt-5의 등장과 함께 찾아왔습니다. o3에서 gpt-5로 전환하자 평가에서 출처 환각률이 즉시 0%로 떨어졌습니다.
이 지표는 엄밀히 말해 모델이 검색된 컨텍스트에 없던 문서 ID나 URL을 인용했는지만 추적합니다. o3 시대와 그 이전에는 모델이 지식의 빈틈을 메우기 위해 그럴듯한 파일명이나 논문을 만들어 내기도 했습니다. gpt-5 덕분에 이 특정 문제를 사실상 없앨 수 있었습니다.
이는 올바른 문서를 인용했지만 텍스트를 잘못 해석하는 충실성 오류와는 다릅니다. 충실성 오류는 여전히 과제이며 앞서 언급한 사후 검사로 관리하고 있습니다.
이는 엄청난 돌파구였습니다. 이를 계기로 차세대 모델을 활용해 시스템의 한계를 어디까지 확장할 수 있는지 테스트하기 시작했습니다. 심층 리서치 실행에서 고려할 수 있는 소스 수를 약 10배인 3,000~5,000개까지 늘릴 수 있었습니다. 궁극적으로 맞닥뜨린 한계는 지시 이행 능력의 붕괴가 아니라 긴 컨텍스트 성능이었습니다. 모델의 유효 컨텍스트 길이는 알려진 수치보다 훨씬 짧은 경우가 많으며, 제약 분야의 고밀도 데이터에서는 특히 그렇습니다.
12월 중순 gpt-5.2가 출시되면서 이러한 제약이 일부 완화됐습니다. 내부 긴 컨텍스트 벤치마크에서는 유효 긴 컨텍스트 성능이 크게 향상된 것으로 나타났고, 프런티어 심층 리서치 시스템의 한계를 더욱 확장할 수 있었습니다. 사용자에게 보여 줄 결과를 생성하는 모델에 직접 전달할 수 있는 토큰 수를 늘려 더 풍부한 답변을 제공할 수 있다는 점에서 유용했습니다. 다만 2026년에도 프런티어 모델의 유효 컨텍스트 길이가 계속 늘어나기를 기대합니다.
이처럼 모델 자체의 역량이 발전하면서 유능한 심층 리서치 시스템 구축의 병목은 여러 면에서 원래 있어야 할 곳으로 돌아갔습니다. 바로 데이터, 평가, 그리고 기업 내 심층 리서치 프로그램의 설계 방식입니다. 각 단계에서는 심층 리서치 구축에 실질적인 변화를 가져올 요소가 무엇인지 실용적으로 판단해야 합니다.
이 글의 나머지 부분에서는 이러한 판단에 대한 저희의 접근 방식을 설명합니다.
엔터프라이즈 리서치 프로젝트를 데이터 통합 문제로 다루고 싶을 수 있습니다. 소스를 통합하고 스키마를 정규화한 뒤 그 위에서 모델이 자유롭게 작동하게 하는 방식입니다.
분명히 말해, 때로는 그것이 정확히 올바른 선택입니다. 핵심 엔터티가 안정적이고 쿼리가 반복 가능하며 궁극적으로 워크플로를 산업화하려는 분야라면 통합이 실질적인 효과를 낼 수 있습니다. 고객 데이터와 매출 데이터의 조인, 시장 가격 데이터, 안정적인 시스템 간 보고가 필요한 모든 사례가 대표적입니다.
하지만 오늘날 혁신을 이끄는 리더들은 실제로 엔터프라이즈 심층 리서치 시스템에서 다른 것을 기대합니다.
AI 지출의 ROI가 갈수록 중시되는 상황에서 의사결정권자의 핵심 목표는 비즈니스가 실제로 운영되는 복잡한 환경에서 신속하게 가치를 입증하는 것입니다. 모든 데이터 소스를 통합하는 것은 최초의 가치 증명에 이르는 가장 느린 방법 중 하나입니다. 부담이 큽니다. 조직 내 이해관계에도 얽히게 됩니다. 또 어떤 질문이 정말 중요한지 파악하기도 전에 방향을 정하도록 강요하는 경우가 많습니다.
따라서 2026년에 프런티어 심층 리서치 시스템을 구축할 때는 대개 다음과 같이 실용적으로 시작해야 합니다. 데이터를 완벽히 정돈하기 전에 먼저 접근할 수 있게 하세요.
시간이 지나며 소스를 더 추가할 가능성이 있다면(대부분의 기업이 그렇습니다) 희소 연결 방식의 가치는 과소평가되고 있습니다. 수십 개의 소스를 일관된 검색 인터페이스 뒤에 연결할 수 있습니다. 시스템은 여전히 작동하며, 무엇보다 신속하게 제공할 역량을 유지할 수 있습니다. 소스를 더 추가할 때 모든 것을 뜯어고칠 필요도 없습니다. 새 커넥터를 연결하고, 그것이 무엇이며 어떻게 사용하는지 핵심 시스템에 설명한 뒤 나머지는 모델에 맡기면 됩니다. 이 방식이 가능한 이유는 오늘날 프런티어 모델이 추론 시점에 두 개 이상의 데이터 소스를 소프트 조인해, 정식 매핑 없이도 한 시스템의 ‘Customer ID’를 다른 시스템의 ‘Client Reference’와 연결할 수 있기 때문입니다. 이렇게 생각하는 팀은 저희뿐만이 아닙니다. 이렇게 생각하는 팀은 저희뿐만이 아닙니다. OpenAI의 사내 데이터 에이전트는 사전에 완전히 통합하는 대신 쿼리 시점에 컨텍스트와 연결에 접근할 수 있게 하여, 모델이 서로 이질적인 70,000개 데이터 세트를 추론하도록 설계됐습니다.
여기서 분명히 해야 할 한 가지 미묘한 차이는 희소하다고 해서 얕을 필요는 없다는 것입니다.
희소 통합은 연결 자체가 의미 있고 시스템이 쉽게 활용할 수 있는 형태로 표현될 때 가장 효과적입니다. 이를 이해하는 좋은 방법은 사양, 정책, 제품 정의, SKU, 계약 조항 등의 특정 정보를 앵커로 보는 것입니다. 이러한 앵커를 강력하게 만들기 위해 모든 데이터 세트를 통합할 필요는 없습니다. 안정적인 식별자와 신호가 강한 에지 몇 개면 됩니다.
예를 들어 모델 또는 사용자가 사양을 조회한다고 가정해 보겠습니다. 단순한 시스템이라면 상호작용은 거기서 끝납니다. 사양을 가져와 요약하고, 어쩌면 인용도 표시합니다. 하지만 유용한 데이터 구조를 구축하려면 이러한 조회를 통제된 확장의 출발점으로 전환해야 합니다. 예를 들어 해당 사양의 레코드를 과거의 관련 결과물과 선택적으로 연결할 수 있습니다. 여기서 ‘관련’은 여러 의미가 있지만 일반적으로 시스템이 수행하는 작업에 따라 결정됩니다. 해당 사양을 참조한 RFP, 그 사양으로 입찰을 수주한 과거 답변, 법무팀이 해당 사양에 이의를 제기한 수정 협상 내역 등이 포함될 수 있습니다. 이 접근 방식은 쿼리 시점에 가장 중요한 인사이트를 심층 리서치 시스템에 빠르게 제공하여 답변 품질과 지연 시간을 크게 개선할 수 있습니다.
그러면 다음 질문이 이어집니다. 신호가 강한 에지 몇 개로 소스가 희소하게 연결된 환경에서, 심층 리서치 시스템이 사탕 가게의 아이처럼 헤매지 않고 노련한 분석가처럼 탐색하게 하려면 어떻게 해야 할까요?
기업 데이터 소스는 웹처럼 작동하지 않습니다. 데이터가 드문드문 존재하고 조직 고유의 관행이 가득하며, 특정 사실에 맞는 ‘올바른’ 출처가 단 하나뿐인 경우도 많습니다. 물론 그것을 찾을 수 있어야 합니다. 또한 오늘날 모델은 검색 질문에서 항상 재현율을 극대화하려는 경향이 있어, 출처를 하나만 더 찾겠다며 쿼리를 거듭하다가 지연 시간을 늘리고 사용자의 인내심을 소진하곤 합니다. 신중한 프롬프팅으로 어느 정도 완화할 수 있습니다.
가장 효과적인 해결책은 복잡한 기업 데이터 환경에서 모델이 방향을 잡도록 돕는 가벼운 도구입니다. 이를 온톨로지라고 부르는 팀도 있습니다. 시맨틱 레이어, 조회 서비스, 그래프, 개념 저장소라고 부르기도 합니다. 명칭은 중요하지 않습니다.
중요한 것은 시스템에 빠르고 비용이 적게 드는 경로를 제공하여, 모델이 끝없이 헤매지 않고 적절한 컨텍스트 사이를 효율적으로 이동하게 하는 것입니다.
간단히 비유하면 새 회사나 프로젝트에 합류했을 때 동료가 “You must bookmark these sites, you’ll use them all the time,” 또는 “any time you have an issue with AWS just speak to Ross, he’ll get you the info you need,”라고 알려 주는 것과 같습니다. 마찬가지로 여기서는 심층 리서치 시스템이 필요한 것을 빠르게 찾도록 도우려는 것입니다.
실제로 이 시스템은 복잡하거나 수동으로 유지 관리할 필요가 없습니다. 가장 효과적이었던 구현 방식은 수집 파이프라인에서 LLM이 엔터티를 추출해 그래프를 자동으로 채우도록 하거나, 기존 기록 시스템에 단순히 요청을 전달하는 방식입니다. 예를 들면 Salesforce API 조회가 있습니다. 일반적인 예는 다음과 같습니다.
해시 맵 조회(예: 제품명으로 쿼리하면 제품 설명 반환)
간소한 ‘공통’ 관계 조회(예: 인과 유전자 관계 그래프에서 이 유전자와 가장 흔히 연결되는 질환)
개체명 인식 모델(주로 제약처럼 엔터티 중의성 해소가 복잡한 분야에서 유용)
데이터 관계가 가장 복잡한 경우 가벼운 RDF 그래프가 온톨로지를 위한 확장성 높은 해결책이 될 수 있습니다.
… 그 밖의 다양한 방법
이 계층을 갖추면 시스템이 데이터 소스를 효율적으로 탐색할 수 있습니다. 다음 질문은 간단합니다. 실제 사용 환경에서 시스템이 일관되게 올바른 작업을 수행하는지 어떻게 알 수 있을까요?
이제 데이터에 접근할 수 있고 내비게이션 레이어가 지도를 제공하므로 시스템은 작업을 수행할 역량을 갖췄습니다. 하지만 기업 환경에서 신뢰성 없는 역량은 아무 의미가 없습니다.
수많은 AI 프로젝트가 바로 이 지점에서 좌초합니다. 많은 팀이 ‘느낌에 의존한’ 평가의 함정에 빠졌습니다. 쿼리를 실행하고 결과를 읽은 뒤 만족스럽게 고개를 끄덕이고 출시하는 식이었습니다. 수백만 달러 규모의 공급망 의사결정을 추천하기 위해 5,000개 문서를 자율적으로 탐색할 수 있는 심층 리서치 시스템을 구축할 때는 이 접근 방식이 통하지 않습니다.
여기서 중요한 변화는 더 이상 모델이 아니라 시스템을 평가한다는 점입니다. 질문 해석, 계획 수립, 도구 호출, 결과 해석, 컨텍스트 정리, 재순위화는 물론 타임스탬프처럼 사소해 보이는 커넥터의 세부 사항까지 모두 사용자 경험에 영향을 줍니다.
체계적이고 반복 가능한 평가는 이러한 문제를 해결하는 데 도움이 됩니다.
평가를 구축할 때는 기계적인 것부터 주관적인 것까지 크게 세 범주로 나눌 수 있습니다.
단위 테스트와 가장 유사한 부분이며, 팀이 초기에 가장 빠르게 진전을 이루는 경우가 많습니다. 대개 시간이 지나도 가장 안정적입니다. 한번 설정하면 프로젝트 수명 전반에 걸쳐 계속 효과를 냅니다.
‘기계적 평가’는 일반적으로 사람의 개입 없이 모든 쿼리에 실행할 수 있는 검사입니다. 이를 통해 실제 사용자 부하에서도 시스템이 예측 가능하고 안전하게 작동한다는 확신을 얻을 수 있습니다.
몇 가지 예는 다음과 같습니다.
인용 건전성: 모든 인용이 실제로 검색된 구간을 가리키는가? 인용되지 않은 주장이 있는가? 원문 자료에서 뒷받침되지 않는 주장이 있는가? 인용이 지나치게 포괄적인가(예: 한 가지 주장을 위해 문서 전체를 인용)?
도구 위생: 시스템이 사용했다고 밝힌 도구를 모두 실제로 사용했는가? 내비게이션 도구를 올바르게 사용했는가? 도구 요청의 형식을 잘못 지정한 경우가 있는가? 오류가 반환됐을 때 합리적으로 재시도했는가?
지연 시간 및 비용 예산: 목표 첫 토큰 생성 시간 이내에 처리했는가? 예상 도구 호출 횟수나 예산을 초과했는가? 미미한 성과를 위해 지연 시간과 컴퓨팅 자원을 과도하게 소모했는가?
평범하게 들리지만, 엔터프라이즈 시스템이 점차 망가지는 것을 막는 것은 바로 이런 테스트입니다.
실제 사례로 신약 표적 발굴을 위한 심층 리서치 프로젝트에서는 모든 쿼리에 실행되는 2단계 인용 검사를 활용했습니다. 첫째, 답변을 생성할 때 모델이 인라인 인용을 자주 표시하도록 지시합니다. LLM이 이를 안정적으로 수행할 수 있게 된 것도 비교적 최근인 2025년 상반기의 일입니다. 그전에 상당한 규모의 데이터로 이를 시도해 본 사람이라면 당시 얼마나 어려웠는지 알 것입니다. 이를 바탕으로 간단한 정규식 검사를 실행해 제공된 출처에 없던 문서 링크가 언급됐는지 등을 확인할 수 있습니다.
두 번째 검사는 답변 스트리밍이 끝난 뒤 사후에 수행합니다. 먼저 답변을 청크로 나눈 다음 각 청크를 평가하며, 그 안의 주장을 뒷받침하는 출처를 검색된 데이터에서 찾습니다. 뒷받침하는 근거를 찾지 못하면 잠재적 환각으로 표시합니다.
기계적 평가가 단위 테스트라면 분석적 평가는 코드 리뷰입니다.
여기서는 시스템이 작업을 제대로 수행하는지 파악하는 영역으로 들어갑니다. 시스템이 올바른 도구를 사용하고, 적절한 리서치 방향을 따르며, 가장 권위 있는 출처를 선택하고, 언제 멈춰야 하는지 아는지 등을 주로 확인합니다.
실제로는 대개 일련의 질문·답변(Q-A) 쌍으로 구성됩니다. 예를 들어 합리적인 도구 호출 순서를 알고 있거나, 첫 번째 도구에서 찾은 리서치 자료를 바탕으로 어떤 판단을 내려야 하는지 정해 둡니다. Q-A 쌍은 전체 심층 리서치 시스템의 입력과 출력에 일대일로 대응할 필요가 없으며, 이 방법으로 하위 프로세스도 테스트할 수 있습니다. 사람 또는 성능이 우수한 레이블링 모델이 만든 이러한 레이블을 활용해 LLM-as-judge 방식으로 리서치 실행에 점수를 매기고 성능을 평가할 수 있습니다. 여기서 ‘우수함’은 상대적인 개념입니다. 시간에 따른 점수 변화를 추적하면 변경 사항이 시스템을 올바른 방향으로 개선하는지, 아니면 성능 저하를 일으켰는지 파악할 수 있습니다.
이러한 실행은 시간과 비용이 더 많이 들기 때문에 일반적으로 일정한 주기에 맞추거나 버전 업데이트 전에 수행해야 합니다.
또 다른 유용한 부수 효과도 있습니다. 이러한 분석적 평가는 앞서 설명한 희소 연결을 개선하는 데 직접 활용할 수 있습니다. 현재 사람이 해당 결과물을 명시적으로 연결하지 않았는데도 모델이 ‘사양 → 과거의 관련 RFP 사례’처럼 동일한 고품질 연결을 반복해서 찾아낸다면 유용한 신호입니다. 이 연결을 정식 에지나 바로가기로 승격하면 이후 실행에서 지연 시간을 줄이고 일관성을 높일 수 있습니다.
이 단계에서는 심층 리서치 시스템에서 가장 비용이 많이 드는 문제 중 하나인 기본적으로 재현율을 극대화하려는 경향도 포착할 수 있습니다. 모델은 언제든 출처를 하나 더 찾을 수 있습니다. 문제는 그렇게 해야 하는가입니다. 추가 검색이 결론을 바꿀 가능성이 낮음을 시스템이 인식하고, 근거가 충실하면서 사용자의 질문에 답하는 결과를 제시하도록 합리적인 중단 행동을 강화할 수 있습니다.
기계적 평가는 시스템이 안전한지 알려 줍니다. 분석적 평가는 시스템이 유능한지 알려 줍니다. 사용자 평가는 시스템이 실제로 유용한지 알려 줍니다.
많은 팀이 어려움을 겪는 또 다른 영역입니다. 기술적으로는 인상적이지만 아무도 두 번 쓰고 싶어 하지 않는 것을 만듭니다. 기업 환경에서는 이것이 성공적인 배포와 값비싼 연구 프로젝트를 가르는 차이입니다.
사용자 평가는 근본적으로 시스템이 올바른 문제를 올바른 방식으로 해결하는지 파악하는 과정입니다. 즉, “답을 맞혔는가?”를 넘어 “실제로 실행에 옮길 수 있는 결과를 제공했는가?”라고 물어야 합니다.
실제로 사용자 평가는 대개 다음과 같은 형태로 이루어집니다.
작업 완료 연구: 사용자가 시스템을 통해 실제 업무를 더 빠르게 또는 더 잘 완료할 수 있는가? 모델이 질문에 답할 수 있었는지가 아니라 실제 사용자가 현업 워크플로에서 필요한 결과를 얻었는지가 중요합니다.
정성적 피드백 루프: 파워 유저와 정기적으로 진행하는 체계적인 대화. 어떤 쿼리를 반복해서 실행하는가? 어디에서 신뢰를 잃는가? 언제 포기하고 기존 방식으로 돌아가는가? 이러한 세션에서는 테스트 세트에 전혀 나타나지 않는 실패 양상이 드러나곤 합니다. 사용자가 예상하지 못한 방식으로 질문하거나, 존재하는지조차 몰랐던 암묵적인 품질 기준을 갖고 있기 때문입니다.
사용 분석: 어떤 쿼리를 다시 실행하는가? 어떤 답변을 복사해 다른 곳에서 사용하는가? 사용자가 어디에서 ‘싫어요’를 클릭하는가? 사용량 감소가 항상 실패를 의미하지는 않습니다. 답을 얻고 떠나는 경우도 있습니다. 하지만 사용자가 언제 어떻게 쿼리를 포기하는지 살펴보면 시스템이 기대를 충족하지 못하는 지점을 많이 알 수 있습니다.
이러한 요소를 종합하면 추측 없이 유용성을 측정하고, 문제가 사용자 신뢰를 훼손하기 전에 발견할 수 있습니다.
하지만 기계적 정확성에서 만점을 받고 초기 사용자를 만족시킨 시스템도 궁극적인 시험, 즉 기업의 매출 성장을 이끄는 데 실패할 수 있습니다. 신뢰성과 사용자 만족은 이를 위한 전제 조건일 뿐입니다. 성공적인 파일럿에서 기업을 혁신하는 자산으로 도약하려면 시스템이 어떻게 작동하는지를 넘어 어디에 적용할지에 집중해야 합니다.
지금까지 데이터가 시스템을 뒷받침하게 하는 방법과 시스템이 사용자를 지원하게 하는 방법을 살펴봤습니다. 이제 이 시스템이 비즈니스 성과를 내게 하는 방법을 이야기해야 합니다.
최근 기업 리더들이 이 문제에 큰 관심을 보이고 있으며, 그럴 만한 이유가 있습니다. 엔터프라이즈 AI 프로젝트의 95%가 ROI 달성에 실패한다는 MIT의 주장 같은 보고서가 나온 뒤, 실제 배포로 이어지지 않는 인상적인 데모에 대한 인내심은 사라졌습니다. 모델은 준비됐습니다. 아키텍처도 검증됐습니다. 이제 남은 질문은 이것입니다. 실제로 비즈니스 가치를 창출하는 방식으로 배포할 수 있는가?
다행히 앞서 설명한 원칙을 바탕으로 구축한 프런티어 심층 리서치 시스템은 이 기준을 충족하기에 유리합니다. 모든 것을 자동화하거나 직무 전체를 대체하려는 것이 아닙니다. 최고의 인재가 이미 수행 중인 고부가가치 업무에서 훨씬 큰 성과를 내도록 돕는 것이 목표입니다.
하지만 ‘기술적으로 작동하는 상태’에서 ‘ROI를 창출하는 상태’로 나아가려면 몇 가지 추가 조건이 필요합니다. 이 시스템이 일상적인 도구가 될지 잊힌 브라우저 탭이 될지를 결정하는 조직, 사용자 경험(UX), 측정 방식에 관한 선택입니다.
저희 경험으로는 두 가지가 있습니다.
흔히 “summarise this meeting.” 같은 중요도가 낮은 내부 작업부터 시작하고 싶어집니다. 안전하기는 하지만 이런 사용 사례로는 비용을 정당화할 만큼 충분한 가치를 입증하기 어렵습니다.
심층 리서치 시스템은 크고 어려운 작업에 적용할 때 가장 효과적입니다. 품질이나 속도를 개선하면 매출 증가나 전략적 우위로 명확히 이어지는 고비용 문제를 말합니다.
다음과 같은 시작점을 선택한 기업에서 가장 높은 ROI를 확인했습니다.
복잡한 입찰서 & RFP 작성: 심층 리서치 시스템은 과거의 가장 유사한 수주 및 실패 사례를 자동으로 불러오고, 늘 수정 협상을 유발하는 핵심 조항을 추출하며, 특정 요구 사항에 가장 강력한 근거를 찾을 수 있습니다. 그런 다음 이 모든 내용을 일관되고 설득력 있는 입찰 전략으로 구성합니다. 여기서 지표는 절약한 시간이 아니라 수주율, 마진 유지, 막바지 법무·영업상 돌발 상황의 감소입니다.
과학 기술 지형 분석: 제약, 바이오, 반도체처럼 R&D 비중이 높은 조직에서는 수주간의 문헌과 내부 지식을 실행 가능한 연구 방향으로 압축하는 것이 시작점입니다. 심층 리서치 시스템은 수천 편의 논문과 특허, 내부 보고서, 실험실 노트, 과거 프로그램 검토 자료를 두루 읽고, 이미 밝혀진 내용과 논쟁 중인 내용을 파악해 근거 중심의 지형도를 만들 수 있습니다. 이를 통해 반복 주기를 단축하고 실패 가능성이 큰 시도를 줄이며, 무엇보다 최초 인체 임상시험까지 걸리는 시간을 단축할 수 있습니다.
시장 인사이트: 은행과 헤지펀드에서는 분산된 내부 리서치(노트, 모델, 녹취록, 브로커 의견)와 외부 신호(공시, 실적, 거시경제 지표, 뉴스)를 의사결정에 활용할 수 있는 거래 지원 자료로 전환하는 데 가치가 있습니다. 심층 리서치 시스템은 기업, 테마, 거시경제 질문에 대한 관점을 지속적으로 구축하고 갱신할 수 있습니다. 지난주 이후의 핵심 변화를 찾아내고, 상충하는 출처를 조정하며, 전체 출처 이력이 담긴 투자 메모나 거래 자료를 만들 수 있습니다.
이들 사례의 공통점은 채팅이 아니라는 것입니다. 대개 고가의 외부 컨설턴트나 고위급 직원이 수주간 투입되어야 하는 복잡한 워크플로입니다. 심층 리서치 시스템을 이러한 문제에 적용하면 그 가치는 분명해집니다.
이는 2026년을 규정할 사용자 경험 변화 중 하나입니다.
심층 리서치 시스템이 사용자가 정보를 찾기 위해 질문하는 단순한 챗봇에 그치면 이내 간헐적으로만 쓰이게 될 수 있습니다. 결국 참고 도구에 머물고, 사용자가 직접 결과를 취합해 원하는 최종 결과물을 만들어야 합니다. 반면 언제든 업무를 맡길 수 있는 분석가처럼 느껴진다면 팀의 운영 방식 자체를 완전히 바꿀 수 있습니다.
‘채팅’(짧은 대화를 주고받는 방식)에서 ‘위임’(범위, 템플릿, 목표를 정한 뒤 시스템이 실행하게 하는 방식)으로 변화하고 있습니다.
이를 가능하게 하는 구체적인 변화는 세 가지입니다.
결과물을 완성된 산출물로 제공: 가치가 높은 업무의 결과는 채팅창이 아니라 문서, 메모, 슬라이드 자료에 담깁니다. 현대적인 심층 리서치 시스템은 채팅 단계를 건너뛰고 최종 업무 결과물을 직접 생성해야 합니다. 사용자가 “3-page investment memo in our corporate format”이라고 요청해 텍스트 스트림 대신 다운로드 가능한 파일을 받는다면 가치 실현까지 걸리는 시간이 크게 줄어듭니다. 이를 예약 생성으로 확장하는 경우도 많습니다. 새로운 데이터가 들어올 때마다 새로운 인사이트를 담은 이메일이나 보고서를 자동으로 생성해 관련자에게 배포하도록 요청할 수 있습니다.
맞춤 템플릿을 통한 현업 최적화: 이제 모델이 충분히 견고해져, 사업부나 개별 사용자가 시스템을 망가뜨리지 않고 자체 프롬프트와 동작 방식을 설계할 수 있습니다. 위험 보고서의 형태는 런던과 뉴욕에서 서로 다릅니다. 팀이 자체 구조 템플릿을 업로드하거나 설계하고, “always check these three specific internal databases” 같은 중단 기준이나 출력 형식을 직접 정할 수 있게 하면 사용자는 시스템에서 훨씬 큰 가치를 얻고 계속 사용하고 싶은 도구를 만들 수 있습니다.
인터페이스로 구현되는 신뢰: 실행에 20분 이상 걸리는 작업을 위임할 때 신뢰는 최우선 과제가 됩니다. 블랙박스를 제시해서는 안 됩니다. 인터페이스는 시스템의 사고 과정과 선택을 드러내고, 어떤 도구를 사용하는지 보여 주며, 인용 등을 생성해야 합니다. 일반적으로 가장 좋은 UX는 기본 화면에서 리서치 진행 상황에 관한 핵심 인사이트를 보여 주고, 사용자가 사이드바 등을 펼쳐 더 자세한 정보를 살펴볼 수 있게 합니다.
모든 선도 기업의 핵심 워크플로 뒤에서 맞춤형 심층 리서치 시스템이 작동하는 미래를 그리고 있습니다. 수천 개의 내부 결과물을 안정적으로 탐색하고 사람들이 실행에 옮길 수 있는 의사결정과 결과물을 만드는 상시 분석가들이 그 역할을 하게 될 것입니다. 프런티어 모델이 실행 역량의 한계를 높일수록 차별화 요소는 기본으로 이동합니다. 데이터에 접근할 수 있게 하고, 시스템에 지도를 제공하며, 평가를 통해 신뢰성을 운영에 정착시키는 것입니다.
지난 1년간 확인한 모델 역량의 향상은 앞으로의 방향을 보여 주는 가장 분명한 신호입니다. 2026년 리더에게 주어진 기회는 남보다 일찍 움직이는 것입니다. 가치를 명확히 입증할 수 있는 시작점을 선택하고, 출처 이력과 안전장치로 신뢰를 얻으며, 엔터프라이즈 심층 리서치 솔루션을 파일럿에서 벗어나 기업이 매일 사용하고 가치가 누적되는 역량으로 전환하세요.