“자체 개발 AI 솔루션 ‘사피에이아이’ 중심으로 생성형 AI 사업 확대 박차”
[컴퓨터월드]
클라우드 매니지드 서비스 넘어 생성형 AI 사업 확장
솔트웨어는 아마존웹서비스(AWS) 클라우드 MSP 전문 기술 역량을 갖춘 코스닥 상장 기업이다. 최근에는 클라우드 매니지드 서비스를 넘어 다양한 생성형 AI 솔루션과 서비스를 출시하며 사업 영역을 확장해 가고 있다. 이를 뒷받침하기 위해 올해 AI서비스본부를 신설하며 생성형 AI 기술 역량 강화와 사업 확대에 박차를 가하고 있다.
AI 챗봇 솔루션 ‘사피AI’ 출시…AI 서비스 확대
솔트웨어는 최근 출시한 ‘사피에이아이(SapieAI)’와 ‘핏클라우드 AI(FitCloud AI)’ 등의 솔루션을 기반으로 생성형 AI 사업을 키워가고 있다. 사피에이아이는 솔트웨어의 대표 AI 챗봇 솔루션으로, LLM을 활용해 기업과 기관의 문서 분석, 요약, 질의응답(Q&A) 등을 지원한다. 사피에이아이는 클라우드뿐만 아니라 온프레미스 환경에서도 제공되며, 각 기업과 기관의 요구에 맞춰 LLM 모델을 파인튜닝한 맞춤형 솔루션을 제공한다.
일례로 솔트웨어는 연성대학교의 입시전형 문의를 사피에이아이를 통해 처리하는 서비스를 구축하고 있다. 이를 통해 수험생과 학부모가 보다 효율적으로 대학 입시 정보를 얻을 수 있도록 지원한다는 목표다.
핏클라우드 AI는 기업이 생성형 AI를 도입·활용할 수 있도록 단계별 컨설팅을 제공하는 서비스다. 아마존 베드록(Amazon Bedrock)을 기반으로 다양한 오픈소스 AI 모델을 테스트하고, 비즈니스에 맞는 모델을 선택해 기존 시스템과 통합할 수 있도록 지원하고 있다. 핏클라우드 AI를 통해 기업들은 추가적인 코드 변경 없이 AI 모델을 도입하고 활용할 수 있다. 솔트웨어는 AI 도입 과정 전반에 걸친 컨설팅 및 교육을 제공해 기업이 AI 전환을 원활하게 할 수 있도록 지원한다는 방침이다.
솔트웨어는 AI 기반 데이터 분석 및 자동화에도 힘 쏟고 있다. AI를 활용해 기업들이 빅데이터 분석과 업무 자동화를 통해 운영 효율성을 극대화할 수 있도록 함으로써, 고객들이 방대한 데이터를 분석하고 중요한 비즈니스 인사이트를 얻을 수 있도록 돕는다는 계획이다. 솔트웨어가 제공하는 AI 기반 맞춤형 솔루션은 고객의 비즈니스 요구에 맞게 조정할 수 있다.
또한 솔트웨어는 AI와 클라우드 기술을 결합한 클라우드 기반 AI 솔루션을 제공한다. 클라우드 인프라에서 AI 모델을 쉽게 배포하고 관리할 수 있는 확장 가능하고 유연한 AI 환경 구축을 지원하고 있다. 특히 데브옵스(DevOps) 환경을 기반으로 한 AI 통합을 지원해 빠른 배포와 유지보수를 돕는다.
이외에도 솔트웨어는 보안성과 신뢰성을 강화하는 데 중점을 두고 있습니다. 생성형 AI 영역에서의 보안 및 윤리적 문제에 대응해 RAG 기술을 활용, AI의 할루시네이션을 최소화하고 기업 내부 데이터를 안전하게 관리할 수 있는 AI 솔루션을 지원한다. 클라우드와 온프레미스 환경 모두에서 AI 서비스를 제공함으로써, 데이터 보안이 중요한 기업 및 기관이 AI 기술을 안전하게 활용할 수 있도록 돕고 있다.
오픈소스 모델 분야 1위 기록…프라이빗형 LLM 시장 공략 박차
특히 솔트웨어가 자체 개발한 LLM ‘사피(Sapie)’는 미국 웨이츠 & 비아시스(Weights & Biases) 사에서 운영하는 한국어 평가 리더보드인 ‘호랑이 리더보드’에서 오픈소스 모델 분야 1위를 기록하기도 했다. 이를 계기로 솔트웨어는 점차 시장이 활성화 되고 있는 프라이빗형 LLM 시장 공략에도 속도를 낸다는 계획이다.
아울러 솔트웨어는 엔뷰(enview) 포털 서비스에 사피 챗봇을 탑재해 기업들이 사내 챗봇으로 내부 업무에 관한 질의응답을 처리할 수 있는 기능을 출시할 예정이다. 이를 통해 고객들은 사내 지식 관리, 일정 관리, 문서 처리 등의 다양한 업무를 AI를 활용해 처리할 수 있게 된다. 솔트웨어는 고객 내부 시스템과 솔루션을 통합해 내부 직원들이 AI 챗봇을 활용해 업무를 보다 효율적으로 수행할 수 있도록 돕겠다는 방침이다. 이외에도 솔트웨어는 AWS 고객들을 위한 빌링툴에도 사피 챗봇을 적용할 예정이다. 자사의 제품 전반에 다양한 방식으로 AI 기술을 적용한다는 전략이다.
이 같은 자체 개발 AI 솔루션과 주요 사업 전략을 토대로 솔트웨어는 단순 기술 제공자가 아닌, 고객의 비즈니스 목표를 달성할 수 있는 맞춤형 AI 솔루션 파트너로 거듭난다는 목표다.
솔트웨어 AI서비스본부장 박창우 이사
Q. 사피에이아이에 대해 소개해 달라.
사피에이아이는 솔트웨어가 자체 개발한 LLM 기반 기업용 AI 챗봇 솔루션이다. 사피에이아이는 문서 요약과 데이터 분석, 그리고 내부지식 기반 질의응답 등 고객과 산업별 도메인에 맞춰 최적화된 서비스를 제공한다. 개발은 아마존 베드록 플랫폼 내 앤스로픽의 ‘클로드 3.5 소넷’을 기반으로 수행했다. 또한 사피에이아이는 클라우드용과 온프레미스용으로 구분해 고객이 어떤 유형을 사용할지 선택할 수 있게 제공하고 있다.
Q. 지원하는 주요 기술과 강점은 무엇인가.
우선 별도의 모델 학습 없이도 정확한 정보를 제공한다. 또 고객 네부 데이터를 활용할 때의 데이터 유출 위험과 할루시네이션 현상을 최소화할 수 있는 RAG 기술을 적용했다. 이를 위한 벡터DB도 지원한다. 벡터DB를 통해 기업 내부 문서를 자동 저장하고 원활한 검색 및 분석이 이뤄지도록 개발했다.
추가적으로 할루시네이션을 더욱 방지하고자 생성된 답변을 다시 한번 더 체크해 부정확한 답변이 있는지 다시 수집해 검증하는 기능도 갖췄다. 또 멀티모달 기능도 지원한다. 무엇보다 사피에이아이는 도메인별 최적화 서비스를 제공할 수 있도록 고객 내부 데이터를 활용해 정확도와 맞춤화 지원을 강화했다는 점을 강조하고 싶다.
또한 비용적인 측면에도 역점을 둬 사피에이아이를 개발했다. 통상적으로 시나리오 기반 챗봇은 상당히 긴 구축 기간과 많은 연간 유지보수 비용이 소모된다. 사피에이아이는 주요 대형 사업자들의 AI 프로젝트 대비 구축 기간과 유지보수 비용은 절반 이하이며, 이용 또한 주로 클라우드상에서의 호출을 통해 이뤄지므로 편의성이 높다.
Q. 향후 생성형 AI 사업 확장 전략은.
최근 사피 챗봇을 연성대학교의 입시전형 문의 시스템에 구축하고 있다. 올해를 시작으로 향후 교육·제조·금융·유통 등 다양한 산업군의 고객 레퍼런스를 확보해 나갈 계획이다. 공공사업 참여도 장차 고려하고 있다. 사피에이아이는 도메인별 맞춤화와 높은 비용효율성이 강점이기에 AI 사업 확대에 속도를 낼 수 있을 것으로 전망하고 있다.
국내에서 쌓은 레퍼런스를 토대로 AI 사업 매출을 높이고 AI서비스본부를 더욱 확장해 글로벌 시장에도 진출할 계획이다. 클라우드 마켓플레이스 등록을 통해 사피에이아이를 누구나 자유롭게 이용할 수 있도록 기반을 마련할 예정이다.
뿐만 아니라 기존에 우리가 영위해 온 클라우드, 스마트팜 등의 사업들과 생성형 AI 사업영역을 원활하게 통합해 회사 전반의 역량을 향상시킬 수 있을 것으로 기대하고 있다. 특히 클라우드 사업에서 많은 고객을 확보하고 있어, 해당 고객 대부분이 사피에이아이를 도입할 수 있도록 제안 및 지원할 방침이다.