영상 링크: Enterprise Deep Research: The Next Killer App for Enterprise AI — Ofer Mendelevitch, Vectara
채널명: AI Engineer
엔터프라이즈 AI를 위한 차세대 킬러앱: 엔터프라이즈 딥 리서치 핵심 요약
- 본 영상은 Ofer Mendelevitch(Vectara)가 자사 에이전트 운영체제와 ‘Enterprise Deep Research’(엔터프라이즈 딥 리서치)란 개념을 소개함
- Vectara의 에이전트 운영체제는 SaaS, VPC, 온프레미스 등 다양한 환경에서 실행 가능함
- 주요 기능에는 멀티모달 인덱싱(이미지, 표 등 포함), 하이브리드 검색, 메타데이터 기반 리랭킹, 환각(할루시네이션) 감지 및 수정 기능이 있음
- 할루시네이션 감지 모델(HHM)은 누적 550만 건 이상 다운로드됨(2024년 기준)
- 엔터프라이즈 환경에 꼭 필요한 보안, 역할기반 접근제어, 커스텀 프롬프트, 관측 및 모니터링 등 기능이 포함됨
- 생성형 AI 적용 기업의 73%가 데이터 정확도(팩트성) 부족을 최대 과제로 꼽고, 이를 해결하는 데 초점을 맞춤
- ‘Deep Research’는 AI 에이전트가 멀티스텝 웹 탐색·검색·종합 리포트 생성까지 자동 수행하는 방식임(구글 Gemini, ChatGPT, Perplexity 등 예시)
- ‘Enterprise Deep Research’는 위 방식이 사내 비공개 데이터에 적용되어, 고도화된 문서 분석·응답·리포트 자동화 등 다양한 기업용 활용이 가능해짐
- 실제 효과적인 활용 예시로 RFP(견적서) 작성 지원, 자동 직원 온보딩 매뉴얼 생성, 산업별 전문 리포트 자동화(금융, 헬스케어, 보험 등)가 언급됨
- 영상은 Vectara에 대한 추가 문의 및 데모 시연 요청 안내로 마무리됨
세부 요약 - 주제별 정리
Vectara의 에이전트 운영체제는 다양한 환경에서 동작하며 기업용 AI의 핵심 기능을 제공함
- Vectara는 신뢰성 높은 에이전트 운영체제(OS)를 개발한 AI 기업임
- 이 OS는 SaaS(서비스형 소프트웨어) 플랫폼 형태로 제공되며, 고객사의 자체 VPC(가상 사설 클라우드)나 온프레미스(사내서버)에서도 실행할 수 있음
- 보안, 역할 기반 접근 제어(RBAC), 자신만의 모델 사용(bring your own model), 커스텀 프롬프트, 관측·모니터링 등 엔터프라이즈 운영에 필수적인 기능 내장
- “엔터프라이즈 그레이드(Enterprise grade)” 배포를 위한 환경과 요구조건 충족
멀티모달 인덱싱, 하이브리드 검색 등 첨단 검색 및 문서처리 기능을 탑재함
- 다양한 유형의 데이터(이미지, 표 등)까지 인덱싱하고 탐색할 수 있는 멀티모달 기능이 강점임
- 이 멀티모달 인덱싱은 images, tables 등 복잡한 구조도 의미 있게 탐색·검색이 가능하게 함
- 하이브리드 검색(hybrid retrieval), 메타데이터 기반 리랭킹 등 고성능 탐색 옵션 포함
- RAG(Retrieval Augmented Generation), GenAI RAG 워크플로우에 최적화됨
Vectara는 환각 문제 완화를 위한 최첨단 기술에 초점을 맞추고 있음
- 생성형 AI 적용에서 여전히 가장 큰 문제 중 하나인 ‘할루시네이션(환각)’ 이슈에 집중함
- Vectara는 환각 감지 및 수정(Hallucination mitigation)에서 업계적으로 높은 평가를 받음
- ‘HHM(Hallucination detection model)‘라는 독자적 환각 감지 모델을 보유함
- HHM은 5개월 전(2024년 기준 5.5M 다운로드 돌파) 누적 550만 건 이상 다운로드됨
- 감지(detecion) 뿐 아니라 자동 수정(correction) 기능까지 포함
생성형 AI(GenAI) 기업 도입에서 ‘팩트성’ 문제가 가장 큰 과제로 부각되고 있음
- 최근 73%의 생성형 AI(LLM) 고객이 “팩트 정확성(factual accuracy)” 부족을 최고의 과제로 꼽음
- 잘못된 정보, 환각 문제, 신뢰 부족이 현장의 실제 장애 요인임
- Vectara는 환각 완화 기술을 통해 이러한 문제를 적극적으로 해결한다는 비전을 제시함
Deep Research는 AI가 멀티스텝 탐색·종합·리포트 생성까지 자동화함을 의미함
- Deep Research는 AI 에이전트가 여러 단계에 걸쳐 정보를 조사, 탐구(browse/search), 종합(synthesize)하여 포괄적인 답변 또는 리포트를 산출하는 자동화 방식을 의미
- 주요 특징은 자율적 웹 검색→다수 결과 통합→인용 포함한 종합 리포트 출력
- Gemini(구글), ChatGPT(OpenAI), Anthropic, Perplexity 등 서비스에서 이미 웹 기반 딥 리서치 형태 일부 구현
- 실제 실행에는 20~30분 소요되는 복수 에이전트 기반 워크플로우로 동작
엔터프라이즈 딥 리서치는 사내 비공개 데이터를 대상으로 심층적 자동 리서치를 실현함
- 엔터프라이즈 딥 리서치는 웹이 아닌 기업 내부 데이터(사내 문서, 위키, 업무 시스템 등)를 대상으로 동일한 딥 리서치 워크플로우 적용
- 복수 에이전트가 병렬(parallel)로 협력하며, 계획(planning), 데이터 집합(corpus) 이해, 멀티스텝 질의 및 결과 종합을 자동화
- Vectara의 고정확도 검색, 환각 완화, 문서 종합 기능을 활용하여 신뢰성 높은 결과 제공
엔터프라이즈 딥 리서치의 실질적인 비즈니스 활용 예시는 다양함
- RFP(입찰 제안서) 답변 자동화: 150개 이상 질문에 답해야 하는 복잡한 입찰에도 활용 가능
- 엔터프라이즈 데이터를 탐색, 적절한 문서 선별→자동 답변 및 요약 결과 생성
- 직원 온보딩 프로세스 자동화: 새로운 입사자/부서원이 사내 정보, 협업 방법, 업무 매뉴얼을 신속하게 파악할 수 있도록 온디맨드(On-demand) 온보딩 가이드 생성
- 기존 온보딩 문서가 오래되거나 부족한 경우, Jira, Notion, 구글 드라이브, SharePoint 등 분산된 자료를 통합해 최신 온보딩 안내를 제공
산업별로 맞춤화된 딥 리서치 활용법이 대두되고 있음
- 금융 서비스: 투자 메모 자동 작성이 가능, 방대한 금융 데이터에서 핵심 정보를 구조화·요약해 제시
- 헬스케어, 보험 등 전문성이 요구되는 산업에서도 정확한 데이터 기반 리포트 생성 및 분석 자동화에 활용 가능
- 케이스별로 맞춤형 워크플로우 설계 가능
Vectara는 엔터프라이즈 딥 리서치 플랫폼으로 기업 맞춤형 데모 및 상담을 제공함
- Vectara, 엔터프라이즈 딥 리서치 활용에 관심 있는 기업에 추가 설명과 데모 시연을 적극 지원
- 영상 마지막 부분에 링크·문의 안내 및 추가 네트워킹 권유