AI 기반 투자 리서치의 혁신: JP모건 'Ask David' 프로젝트의 모든 것

글을 시작하며..

이 아티클은 JP모건 프라이빗뱅크가 자체 개발한 AI 기반 투자 리서치 시스템 ‘Ask David’ 프로젝트를 소개하고자 한다. 해당 프로젝트는 2024년 Interrupt 컨퍼런스에서 발표된 내용을 바탕으로 구성되었으며, 단순 기술 개요를 넘어 실전에서의 운영 방식과 전략적 시사점까지 아우르고 있다.

‘Ask David’는 단순한 챗봇이 아닌, 수천 개의 금융 상품을 대상으로 정형·비정형 데이터를 동시에 분석하고, 여기에 인간 전문가의 판단까지 결합하여 리서치 자동화를 실현한 사례이다. 특히 단일 에이전트가 아닌 멀티에이전트 기반으로 구성되어 있어, 질의 유형에 따라 서로 다른 판단 흐름을 구현하는 점에서 기술적 완성도와 실용성을 모두 갖추고 있다.

이 아티클은 다음과 같은 독자에게 유용할 수 있다:

AI 기반 투자 분석 자동화에 관심 있는 금융 업계 종사자
RAG, LLM, Human-in-the-loop 구조를 실무에 적용하고자 하는 데이터 기획자 및 개발자
구조화·비정형 데이터 통합 운영 및 AI 활용 전략을 고민하는 엔터프라이즈 실무자

단순한 기술 도입 사례를 넘어, 복잡한 실무 환경에서 AI 시스템이 어떤 방식으로 녹아들 수 있는지를 고민하는 독자라면 본문을 통해 충분한 실마리와 전략적 통찰을 얻을 수 있을 것이다.

1. 반복에서 혁신으로: Ask David의 출발점

JP모건 프라이빗뱅크의 투자 리서치팀은 매일 수천 개의 투자 상품을 다루며, 고객의 질문에 응답하고 상품을 큐레이션하는 역할을 수행해왔다. 이들은 단순히 표면적인 정보만 제공하는 것이 아니라, 상품의 과거 성과부터 리스크 요인, 경쟁 상품 비교까지 다각적인 분석을 통해 고객 맞춤형 솔루션을 제시해왔다. 그러나 이 모든 과정은 상당 부분이 수작업에 의존하고 있었고, 특히 데이터 탐색과 문서 정리에 많은 시간이 소요되었다.

이러한 비효율성은 점점 커져가는 고객 니즈와 데이터 볼륨 앞에서 큰 병목이 되었다. 팀원들은 각각의 질문에 대해 매번 새로운 분석과 문서 검토를 반복해야 했고, 이는 업무 과중과 병렬 처리의 어려움으로 이어졌다. 결과적으로 서비스 품질의 일관성도 확보하기 어려웠고, 분석에 들이는 노력에 비해 정작 인사이트 제공은 제한적인 경우도 많았다.

이를 해결하기 위해 팀은 본격적으로 자동화 기술을 도입하기 시작했고, 그 결실이 바로 ‘Ask David’라는 AI 기반 QA 시스템이다. 이 시스템은 단순 질의응답을 넘어서, 문맥 파악과 사용자 맞춤형 응답을 지원하는 인텔리전트 에이전트로 설계됐다. 단순한 자동 응답기가 아닌, ‘리서처’를 보조하는 동료로서 기능하기 위해 설계된 것이다. 이는 곧 팀의 작업 효율성과 대응 속도를 획기적으로 끌어올리는 기반이 되었다.

2. Ask David의 작동 방식: 핵심 기술 통합

구성 요소	주요 기능	적용 기술 또는 방식
Supervisor Agent	질문 의도 분석, 작업 분배, 사용자 맥락 유지	Context 추론 + Task Routing + Memory
구조화 데이터 처리	SQL 또는 API를 통한 정보 호출 및 요약	NL → SQL/API 변환 + LLM 기반 Summarization
비정형 데이터 처리	문서, 이메일, 회의록 등에서 정보 추출 및 검색	RAG (Retrieval-Augmented Generation)
분석 및 시각화	리스크 분석, 유사 상품 비교, 시뮬레이션 등 고급 분석	API 호출, Text-to-Code, 시각화 도구

Ask David는 질문의 유형과 맥락에 따라 데이터를 분석하고 응답을 구성하는 고도화된 멀티에이전트 시스템이다. 예를 들어 “이 펀드가 왜 종료됐나요?”라는 질문이 들어오면, 시스템은 문서 검색 에이전트를 통해 관련 펀드 리포트와 성과 데이터를 검색하고, 분석 에이전트를 통해 성과 저조, 규제 변경 등 다양한 요인을 분석한 뒤, 사용자 유형(예: 일반 투자자, 고급 어드바이저 등)에 맞춰 응답을 최적화한다.

핵심은 Supervisor Agent로, 이 에이전트는 사용자의 질문 의도를 파악해 각기 다른 기능을 수행하는 서브에이전트에게 작업을 분배한다. 구조화된 데이터는 SQL 쿼리나 API 호출로 처리되고, 비정형 데이터는 벡터 검색을 기반으로 한 RAG(Retrieval-Augmented Generation) 방식으로 검색된다. 이 모든 과정은 실시간으로 이루어지며, 사용자에게는 하나의 통합된 응답으로 제시된다. Supervisor Agent는 질문자가 이전에 했던 질문, 자주 사용하는 키워드, 전문성 수준 등을 반영하여 경험을 더욱 개인화한다.

뿐만 아니라, Ask David는 시각화 기능도 내장하고 있어 복잡한 데이터셋을 차트나 그래프로 변환해 이해도를 높인다. 내부 분석 모델은 수익률 예측, 리스크 스코어링, 유사 펀드 추천 등의 기능을 담당하며, 필요 시 API 호출 또는 텍스트-코드 변환으로 동작한다. 이로 인해 사용자는 복잡한 분석 없이도 전문가 수준의 인사이트를 받아볼 수 있다. 특히 복잡한 포트폴리오 리밸런싱 시나리오나 시뮬레이션까지 포함한 실시간 의사결정을 가능하게 하는 점에서, 기존의 수동 리서치와 차별화된 경쟁력을 보여준다.

3. 운영 전략과 교훈: 빠르게 만들고, 조기에 평가하라

Ask David는 처음부터 완성형으로 만들어진 것이 아니다. 초기에는 간단한 React Agent로 출발했으며, 이후 특정 목적에 특화된 RAG 에이전트, 분석 에이전트를 추가하며 점차 구조가 확장되었다. 이러한 발전 과정에서 JP모건 팀은 빠른 반복과 평가 중심의 개발 철학을 유지하며 시스템을 고도화해왔다.

특히 성능 평가에는 LLM 기반 판단 시스템과 SME(Subject Matter Expert)의 수동 리뷰가 병행된다. 이를 통해 시스템은 단순 정확도 측정을 넘어, 답변의 타당성, 논리적 일관성, 사용자 만족도까지 측정할 수 있다. 또한, 평가 지표는 요약 응답의 간결성, 도구 호출의 정확성 등 세부적으로 구분되어 있으며, 서브에이전트 단위로도 평가가 이루어진다. 이는 약점 식별과 개선에 효과적이다. 예컨대, 비정형 데이터 검색 정확도는 향후 에이전트 보완의 우선순위를 정하는 기준이 되며, 요약 응답의 평가 결과는 LLM 파인튜닝 여부를 판단하는 데에도 활용된다.

팀은 다음과 같은 전략을 강조한다:

작게 시작하라: 처음부터 완벽을 목표로 하지 않는다. 가장 단순한 시나리오부터 시작해 시스템을 빠르게 검증할 수 있도록 한다.
빨리 평가하라: 명확한 메트릭과 평가 기준을 세워야 한다. 이는 개발 속도보다 중요한 전략적 의사결정 기준이다.
사람을 함께 두어라: AI가 완전하지 않다는 전제를 수용하라. SME의 개입은 단순 보완이 아니라, 정확도 90% 이상을 위한 필수 요소다.

이러한 방식은 금융과 같은 고위험 산업에서 특히 효과적이며, Ask David는 자동화와 신뢰성의 균형이라는 어려운 과제를 풀어낸 대표 사례로 주목받고 있다.

4. 미래를 위한 시사점: AI와 사람의 최적 공존

Ask David 프로젝트는 단순한 기술 도입을 넘어, AI가 실제 금융 현장에 어떻게 적용될 수 있는지를 보여주는 중요한 사례다. 많은 기업들이 AI 도입을 이야기하지만, 실제로 신뢰성과 복잡성이 중요한 분야에서는 성공적인 적용 사례가 드물다. JP모건은 이 프로젝트를 통해 AI의 자동화 능력과 사람의 판단력을 결합한 하이브리드 구조가 현실적인 해답이 될 수 있음을 증명했다.

또한 Ask David는 단순한 툴이 아닌, ‘지속적으로 발전하는 시스템’이다. 데이터가 쌓일수록 더 정교해지고, 평가 기준이 정립될수록 더 정확해진다. 이러한 점에서 이 시스템은 단순한 비용 절감 수단을 넘어, 조직 전체의 의사결정 방식과 업무 문화를 변화시키는 촉매제가 된다. 나아가 JP모건은 이 시스템을 내부 운영 효율화뿐 아니라, 고객 경험의 차별화를 위한 핵심 무기로 활용하고 있다. 고객 상담 시 실시간 분석 결과를 보여주고, 질문의 뉘앙스에 따라 설명 수준을 조절함으로써 더욱 정제된 커뮤니케이션이 가능해졌다.

향후 Ask David와 같은 시스템은 금융 외에도 의료, 법률, 정책 분석 등 다양한 고신뢰 도메인으로 확산될 가능성이 높다. 기술만으로 완성되지 않는 ‘마지막 10%’를 메우기 위해 사람의 개입은 필수적이며, 이를 전제로 설계된 AI 시스템만이 진정한 의미의 ‘현장 적용’을 실현할 수 있다. 특히 비정형 데이터가 주요 자산이 되는 산업일수록 이와 같은 QA 기반 멀티에이전트 시스템은 필수적 인프라로 자리잡게 될 것이다.

마무리하며: Ask David가 남긴 세 가지 메시지

이 프로젝트는 단순한 기술 도입 사례가 아니라, 실제 고위험 산업에서 AI를 신뢰 기반 의사결정 체계에 통합하는 실용적 전략의 전형을 보여주는 사례이다. 특히 ‘완전 자동화’를 지양하고, 사람과 AI가 상호 보완하며 정밀도를 높이는 구조는 향후 AI 도입을 고려하는 많은 기업들에게 실질적인 참고가 될 수 있다.

무엇보다 이 시스템은 투자 리서치에 국한되지 않으며, ‘복잡한 정보 큐레이션’과 ‘의사결정 지원’이 필요한 다양한 산업군에 적용 가능하다는 점에서 확장성이 높다. 의료, 법률, 정책, 기술영업 등 사람의 전문성과 문맥 이해력이 동시에 요구되는 분야에서 Ask David와 같은 접근 방식은 현실적인 대안이 될 수 있다.

또한 JP모건 팀이 강조한 ‘빠르게, 자주, 사람이 개입된 상태에서 평가하며 발전하는 전략’은 기술 구현뿐만 아니라 조직 문화적 측면에서도 시사점을 제공한다. 반복과 평가가 내재화된 팀 문화는 AI 프로젝트의 안정적 추진과 장기적 성장을 가능하게 만드는 핵심 기반이 되기 때문이다.

나아가 Ask David의 시스템 구조는 단일 서비스를 넘어, 멀티에이전트 기반 자동화 시스템을 어떻게 구축하고 확장해 나갈 수 있는지를 보여주는 훌륭한 사례이다. RAG, LLM, API 호출, 메모리 기반 퍼스널라이징, 인간 심사자(SME) 병렬 구조까지—모든 구성요소가 유기적으로 결합된 사례는 흔치 않다.

이 아티클이 AI 시스템을 현업에 도입하고자 하는 실무자, 혹은 조직 차원에서 AI 전략을 수립하고 있는 이들에게 명확한 비전과 실행 전략을 제시하는 데 도움이 되기를 바란다. 기술과 사람의 공존 전략이 점점 더 중요해지는 시점에서, Ask David는 하나의 실천 사례이자 참조 모델로 충분한 가치를 지닌다.

요약하자면, Ask David 프로젝트는 다음 세 가지 메시지를 전달한다.