아마존웹서비스(AWS) 구태훈 엔터프라이즈 테크놀로지 파트너
[컴퓨터월드] 금융 서비스가 필요할 때, 사람보다 뛰어난 전문가의 도움을 받을 수 있다면 우리 일상이 얼마나 편리할지 상상해 본 적 있을 것이다. 차를 살 때, 병원에서 큰 수술을 받을 때, 소득 신고를 하고 세금을 낼 때, 쇼핑을 하면서 어떤 카드를 사용할지 어떤 주식을 매수할지 등등 다양한 생활 금융 서비스 분야에서 이러한 상상은 곧 현실화될 수 있을 것이다.
최근 거대 언어 모델(LLM, Large Language Model)을 기반으로 불고 있는 생성형 인공지능(AI) 혁명은 모든 금융 서비스를 변화시킬 것으로 예상된다. 특히 금융 소비자 관점에서 언제든 최고의 금융 전문가 서비스를 비서로 채용하는 것과 같은 혜택을 받을 수 있을 것이다. 국내에서는 작년부터 금융서비스를 변화시킬 AI 혁명에 많은 관심을 보이고 있지만, 아직 생성형 AI 기술을 적용한 혁신적인 AI 금융비서 서비스는 출시되지 못하고 있다.
지난 AWS 리인벤트 2023(AWS re:Invent 2023) 기조연설에서 소개된 글로벌 사례 중 ‘인투이트 어시스트(Intuit Assist)’ 케이스에 대해 알아보면서 국내 금융사에서 AI 금융 비서를 만들고자 할 때 고려해야 할 핵심 기술 요소와 기타 사항을 면밀히 살펴보고자 한다. 또한 이와 같은 생성형 AI 서비스를 만들 때 고려해야 할 사항과 성공적인 금융 혁신 서비스를 위한 노하우를 짚어본다.
인투이트 어시스트
개인 또는 소규모 기업 및 자영업자에게 금융 서비스가 필요할 때 필요한 서비스를 추천하고 의사결정을 조언하는 인투이트 어시스트는 생성형 AI의 가장 혁신적인 금융 서비스라 할 수 있다.
특히 인투이트 어시스트는 공통 사용자 인터페이스를 통해 기존 운영 중인 인투이트(Intuit) 플랫폼에 내장돼 각각의 앱 서비스를 생성형 AI로 강화하고 지원하는 기능을 제공한다. 사용자를 위해 직관적으로 정보를 제공하고 안내하며 도움을 주고 추천하는 기능을 갖추고 있다. 인투이트 어시스트가 지원하는 신용카드, 기업회계, 세금관리, 마케팅 등 4개의 금융 앱에서 어떻게 생성형 AI 서비스를 적용했는지 살펴보겠다.
● 크레딧카르마(CreditKarma): 신용관리, 금융 상품 추천과 소비 의사결정 지원을 지원
● 터보택스(TurboTax): 개인 및 소기업의 세금 신고와 환급에 대한 전체 추적과 검토 제공
● 퀵북(QuickBooks): 소기업과 중소기업의 회계 및 재무관리를 통한 장부 관리 서비스
● 메일침프(MailChimp): 신상품 출시 안내 메일 마케팅과 같은 기업의 마케팅 수행과 분석 제공
크레딧카르마
생성형 AI를 기반으로 한 크레딧카르마는 금전 관련 질문에 대한 맞춤형 대화와 답변을 제공하고 있다. 고객이 개인의 금전 관리를 위한 질문을 할 때 각각의 재무 데이터를 기반으로 개인화된 답변과 서비스를 제공한다. 적시에 적절한 추천을 제공함으로써 더 나은 금융 상품을 활용, 지출을 최적화할 수 있도록 돕는다.
고객은 인투이트 어시스트와 양방향 대화를 통해 자신의 재정 상황에 대한 분석된 정보를 받아 최상의 의사결정을 할 수 있다. 또한 고객은 은행 계정을 연결해 저축과 소비 상태에 대해서도 조언을 받게 된다. 특히 예상치 못한 비용이 지출돼야 하는 자동차 고장과 같은 상황에서 현금 부족을 예측하고 이를 해결할 수 있는 계획을 수립하는 데도 도움을 준다. 이를 통해 고객은 개인화된 금융 옵션을 탐색하고 장단점을 평가해 가장 적합한 금융 상품을 합리적으로 소비할 수 있다.
터보택스
인투이트의 수십 년간 축적된 세금 관련 데이터와 전문 지식을 기반으로, 인투이트 어시스트는 세금 신고와 환급에 걸친 모든 활동을 대화형 서비스로 지원한다. 고객은 개별 세금 상황을 파악하고 관련 데이터와 전문 지식을 적용해 최신 변경 사항을 지원받으면서 세금 관련 코드를 정리할 수 있다.
이를 통해 세금 관련 처리 시간을 줄이는 것은 물론 세금 문제를 정확하게 처리할 수 있다. 특히 적절한 절차와 환급에 있어 전문가 관점의 조언을 화상 상담을 통해 제공받을 수 있다. 인투이트 어시스트는 고객이 공유하는 데이터를 기반으로 개인화된 세금 점검 목록을 생성하고, 빠르고 정확한 답변 및 개인화된 통찰력을 제공한다.
퀵북
소기업과 중소기업은 퀵북 서비스를 통해 회계와 재무관리 업무를 수행하고 데이터 기반으로 다양한 의사결정 사항에 대해 조언을 받는다. 특히 인투이트 어시스트를 통해 현금 흐름을 파악하고 가장 많이 팔리는 제품을 분석하며 이상 지출 등의 문제에 대한 조사 등과 같은 조언을 종합적으로 받을 수 있다.
예를 들어 인투이트 어시스트는 “지난달 내 손익을 보여주고 분석해 줘” 또는 “연체된 청구서가 몇 개 있지?”와 같은 간단한 요청이나 질문에 데이터에 기반한 심층 분석을 통해 기업에 최적화된 조언을 수행한다. 그리고 후속 질문 후보나 실행안에 대해서도 자연스러운 언어로 소통한다. 따라서 소기업과 중소기업의 사용자는 어려운 현금 흐름 문제에 대한 사전 대처 등과 같은 회계와 재무관리에 있어 도움을 받을 수 있다.
메일침프
소기업과 중소기업의 이메일 마케팅 플랫폼인 메일침프는 인투이트 어시스트를 통해 더 많은 수의 개인화된 마케팅을 보다 효과적으로 수행할 수 있도록 지원한다.
마케팅에 필요한 이메일 문안과 이미지 등 콘텐츠를 대상 고객에 따라 개인화해서 생성할 수 있다. 대상 고객의 타깃 그룹을 선정할 때도 ‘뉴욕에 사는 우수고객 중 상위 10%’와 같이 일상적인 언어를 기반으로 특정 그룹을 생성하고 선정해서 마케팅을 실행할 수 있다. 또한 마케팅을 실행한 후의 결과 분석도 자연어를 기반으로 보고서를 생성해 마케터가 쉽게 결과를 이해하고 개선할 수 있도록 지원한다.
이러한 기능을 통해 마케팅을 대규모로 개인화하고 데이터 기반으로 캠페인의 효과를 최적화하는 데 큰 도움을 줄 수 있다. 몇 번의 클릭으로 전체 마케팅 콘텐츠의 톤을 결정하고 마케팅 메시지 문구를 수정하고 보완하며 이미지와 디자인을 풍부하게 개인화해서 제공하는 기능들을 제공한다. 마케팅 효과 분석에 있어서도 리드에서 판매까지 수명주기를 쉽게 추적할 수 있고 최적화할 수 있다.
이와 같이 개인의 현금 흐름과 중소기업의 세금, 회계, 마케팅 등 각종 금융 문제를 해결할 수 있도록 생성형 AI를 기반으로 만들어진 인투이트 어시스트는 진정한 맞춤형 AI 금융비서 서비스라 할 수 있다. 그 핵심 엔진은 인투이트의 축적된 데이터로 학습한 금융 거대 언어 모델(Financial Large Language Model)이며, 이를 탑재한 인투이트의 생성형 AI 플랫폼 ‘젠OS(GenOS)’가 AI 금융비서 개발에 있어 중요한 역할을 한다. 이러한 젠OS가 어떻게 만들어졌고 어떤 구조를 갖고 있는지 살펴보겠다.
인투이트 어시스트의 핵심 엔진 ‘젠OS’
젠OS는 수천 명의 인투이트 엔지니어가 생성형 AI를 통해 고객 문제를 해결하고 지원하는 기능을 보다 잘 개발하고 동시에 수백 개의 프로젝트를 수행할 수 있도록 고안됐다. 특히 금융 거대 언어 모델에 책임감 있게 접근해서 개발할 수 있는 샌드박스(Sandbox)와 같은 개발자 환경을 제공한다.
따라서 개인정보 이슈나 추천과 조언 등의 서비스 편향(bias)이 발생하지 않도록 거버넌스 기능을 제공하고, 도메인 지식의 한계를 극복할 수 있는 검색 증강 생성(RAG, Retrieval-Augmented Generation)과 같은 구조를 제공해 신속한 실험을 수행하고 서비스를 개발하도록 지원한다. 이와 같은 기능을 제공하는 젠OS의 4가지 핵심 구성 요소를 살펴보면 다음과 같다.
● 젠스튜디오(GenStudio): 인투이트의 개발팀이 고객을 위한 생성 AI 경험을 신속하게 실험하고 개선할 수 있도록 특별하게 만들어진 개발 환경
○ 개발팀이 프롬프트와 에이전트를 평가하고 최적화할 수 있는 프레임워크를 제공해 관련성, 사실성 및 정확성을 측정하는 기능을 제공
○ 통합 제어 기능을 통해서 잠재적인 문제를 테스트하고 감지하는 동시에 개발팀이 프롬프트를 신속하게 반복 실험하도록 지원
○ 개발팀이 솔루션을 개발하는 동안 비용과 성능을 절충할 수 있는 가상 환경을 제공
● 젠런타임(GenRuntime): 실시간으로 적절한 대규모 언어 모델을 선택하고 데이터 액세스 포인트를 호출해 사용자가 특정 요구 사항과 상황에 따라 정확하고 완전한 응답을 받을 수 있도록 하는 지능형 계층 환경
○ 젠오케스트레이터(GenOrchestrator)
▶ 플래너(Planner): 먼저 요청의 의도를 이해한 다음 이를 실행하는 데 필요한 에이전트와 도구를 식별하고, 들어오는 요청을 처리하기 위한 계획을 생성해서 에이전트와 도구를 통해 실제 계획을 실행
▶ 메모리 및 지식 서치(Memory & Knowledge Search): 계획 및 실행 프로세스를 강화하고 사실적 정확성을 보장하기 위한 관련 컨텍스트를 제공
▶ 에이전트 및 툴(Agent & Tools): 상용 또는 오픈 소스 언어 모델에는 인투이트의 도메인 지식이 없기 때문에 젠OS는 에이전트 및 도구를 통해 인투이트 관련 데이터를 기반으로 하는 플러그인과 학습 메커니즘을 제공
○ LLM 및 책임 있는 AI (LLMs & Responsible AI)
▶ 세금, 회계, 마케팅, 현금 흐름 및 개인 금융 문제 해결을 전문으로 하는 맞춤형으로 학습된 금융 전용 거대 언어 모델
▶ 개인정보보호, 공정성, 안정성, 포용성, 투명성 등 책임 있는 AI 구현을 위한 통제 수단 제공
● 젠UX(GenUX): LLM과의 상호 작용을 위한 명확하면서 쉬운 고객 경험을 보장하는 사용자 인터페이스 구성 요소 및 일관된 사용자 흐름의 라이브러리를 제공
인투이트의 강력한 데이터 자산과 생성형 AI 기능은 개인 소비자와 중소기업 고객을 위한 금융 기술 분야에서 성공할 수 있는 경쟁 요소가 됐다. 현재 40만 개의 고객 특징 정보와 5만 5,000개의 세금 및 재무 속성을 보유하고 있으며, 2만 4,000개가 넘는 금융 기관과 연결돼 있다. 인투이트는 10페타바이트의 빅데이터를 기반으로 매일 65억 건의 기계 학습 추론을 제공하고 있다.
이러한 생성형 AI 경쟁 우위를 확보할 수 있었던 이유는 AWS와 전략적 협력이 있었기 때문이다. 특히 ‘아마존 베드록(Amazon Bedrock)’과 ‘아마존 세이지메이커(Amazon SageMaker)’ 서비스를 통해 미래 금융의 플랫폼을 구축할 수 있다. 앞서 언급한 금융 거대 언어 모델은 아마존 베드록의 미세조정(fine-tuning)과 연속적 사전학습(continued pre-training) 기술이 적용된 최초로 금융에 특화된 서비스다.
성공적인 생성형 AI 추진 전략
마지막으로 인투이트 어시스트와 같이 성공적인 생성형 AI 서비스를 개발하기 위해서는 다음과 같은 중요한 3가지 전략적 접근이 필요하다.
● 거꾸로 생각하기: 만들고자 하는 생성형 AI 서비스 개발에 대한 기획은 고객 중심으로부터 출발해야 한다. 모든 기능 개발은 고객의 어려움을 해결하고 보다 생산적인 금융 서비스 혁신을 가져다줄 수 있는 부분에 초점을 맞춰야 한다. 이를 위해 아마존의 ‘고객 관점에서 거꾸로 일하기(Working Backward)’와 같은 방법을 통해 치열하게 고민하고 토론해야 한다.
● 데이터 재료가 중요: 품질 높은 데이터는 전체 서비스 품질을 좌우한다. 특히 기업 내부의 데이터를 잘 정제해서 미세조정을 위한 학습 데이터로 준비하고, 지식을 제공할 수 있는 데이터를 정리해야 한다. 최근 조사에 따르면 기업의 90% 이상이 문서, 이미지, 동영상 등 비구조화된 데이터(unstructured data)를 보유하고 있으며, 이를 위한 데이터 거버넌스와 품질관리가 수반되어야 생성형 AI 서비스 품질을 확보할 수 있다.
● 지속적인 개선: 모든 서비스는 한 번에 완성될 수 없으며, 사용자인 고객의 피드백을 통해 지속적으로 개선되고 진화돼야 한다. 따라서 생성형 AI 서비스 개발에도 애자일 방법론에 따라 계속해서 기능과 가치를 추가하고 개선할 수 있는 작업 방식과 조직 문화가 뒷받침돼야 한다.
인투이트 어시스트도 이러한 고객 중심 기획, 데이터 품질 확보, 지속적인 서비스 개발을 통해 완성될 수 있었으며, 앞으로의 생성형 AI 서비스 개발에도 이러한 전략이 핵심 성공 요소가 될 것이다.