연평균 50% 고속성장, API 형태 AI 서비스 및 서비스형 머신러닝 엔진 제공

[컴퓨터월드] AI에도 클라우드 바람이 불고 있다. AIaaS를 이용할 경우 AI를 모르는 개발자도 API 형태로 제공되는 AI를 이용해 쉽게 AI서비스를 제공할 수 있다.한 시장조사 기관에 따르면 2018년 15.2억 달러(1.82조 원) 규모였던 AIaaS 시장은 연 평균 48.2% 성장해 2023년에는 108.8억 달러(13.05조 원)에 도달, AI가 퍼블릭 클라우드 서비스 전체 매출의 약 50%를 차지할 것으로 보인다. AIaaS서비스 시장 현황과 AIaaS를 제공하는 업체들의 솔루션과 시장 공략 전략 등에 대해 알아봤다.


빠르고 안정적인 AI 도입 가능

AIaaS(AI as a Service)가 주목받고 있다. AIaaS는 특히 빠르고 안정적이며, 비교적 저렴하게 AI 기술을 도입할 수 있다는 점에서 자체적으로 AI 기술을 개발할 역량이 부족한 기업들에게 인기를 끌고 있다.

많은 기업들이 AI가 새로운 비즈니스를 창출하고 경쟁에 여러 이점을 제공하고 있다는 사실을 인식하고 있음에도 비용, 기술력 부족 등의 문제로 실제 도입은 아직 저조한 편이다. 가트너의 2019년 자료에 의하면 75%의 기업이 AI가 새로운 비즈니스 창출에 기여하고, 84%의 기업이 경쟁력 강화에 도움을 주고 있다고 응답했음에도 실제 AI를 적용한 기업은 14%, 12개월 내에 도입할 계획인 기업은 23%에 불과했다. AIaaS는 필요성에도 불구하고 AI를 도입하지 못하는 기업들의 이런 불균형을 바로잡아 줄 것으로 기대된다.

▲ AI에 대한 높은 기대에도 실제 도입은 저조(출처: MS)

AI는 머신러닝 모델을 개발하는 것이 전부가 아니다. 머신러닝 모델을 개발해 서비스 형태로 배포하고 실제 데이터를 이용해 예측을 수행, 자동화하는 것도 포함된다.

기업들은 갖고 있는 데이터를 이용해 머신러닝 모델을 직접 개발하기도 하지만 타사에서 개발한 오픈소스 또는 서비스 형태로 제공하는 머신러닝 모델을 그대로 이용할 수도 있다. 이 경우 빠르게 자사 업무에 AI를 적용할 수 있는데, 이것이 바로 AIaaS로 최근 들어 시장에서 큰 주목을 받고 있다.

AIaaS가 주목받는 이유는 4가지이다. 첫 번째는 구현성이다. 클라우드 서비스는 크게 서비스형 인프라(IaaS), 서비스형 플랫폼(PaaS), 서비스형 소프트웨어(SaaS)로 구분된다. IaaS는 HW 환경을 제공하는 클라우드 서비스이다. PaaS는 IaaS에 더해 플랫폼도 함께 제공한다. SaaS는 PaaS에서 구현된 SW를 제공하는 클라우드 서비스다.

AIaaS도 마찬가지다. IaaS에서는 AI 구현에 필요한 HW를 제공하고, PaaS에서는 HW뿐만 아니라 AI 개발에 필요한 개발 툴을 함께 지원하며, SaaS에서는 AI 서비스가 API (Application Programming Interface) 형태로 제공된다.

AIaaS 사용자는 AI 개발 및 서비스를 쉽게 구현할 수 있도록 클라우드로부터 AI 개발에 필요한 서비스를 받을 수 있다. AI 서비스를 개발하지 못하거나 AI 개발 역량이 부족한 기업은 이미 구현된 API형태의 AI 서비스를 제공받을 수 있는 것이다.

한석진 마이크로소프트 부장은 “클라우드 사업자는 이미 API 형태의 다양한 서비스들을 공급하고 있다”며 “MS의 경우 8,000명의 AI 개발자가 API 형태의 다양한 서비스들을 개발해 제공하고 있다”고 말했다.

두 번째는 편의성이다. 사용자는 클라우드 플랫폼에 담겨 있는 AI 서비스를 이용하기만 하면 된다. 만약 AI 개발 환경이 필요하다면 PaaS 형태의 AI 개발 툴 및 환경을 서비스 형태로 받으면 된다.

세 번째는 운영 효율성이다. 클라우드 서비스의 장점 중 하나는 사용한 만큼 비용을 지불한다는 점이다. 비용 낭비를 최소화 할 수 있는 것이다. 기업이 AI 서비스를 위해 직접 HW를 구축한다면 AI 서비스 안전성을 위해 AI 개발에 사용되는 고사양의 HW를 구축해야 한다. 당연히 유휴 HW가 존재하게 되고, 이는 비용의 낭비로 이어진다. 그러나 AIaaS를 이용할 경우에는 AI를 개발, 학습 할 때 투입되는 많은 컴퓨팅 자원들을 개발, 학습이 끝나면 자동으로 축소할 수 있다.

네 번째는 접근성이다. 클라우드는 사용자의 단말기가 아닌 중앙 서버에서 서비스를 제공한다. 이런 이유로 사용자는 단말기 성능에 관계없이 클라우드 서비스를 이용할 수 있다. 높은 사양을 필요로 하는 AI 서비스에서는 이 같은 장점이 특히 부각된다. 사물인터넷(IoT)이 대표적인 사례다. 단말기에서 AI를 구현할 수 있기 때문이다.

AIaaS의 IoT 대표 사례로 AI 스피커를 들 수 있다. 일반적으로 AI 기반 음성인식 기술은 고사양의 HW를 요구한다. 그러나 스피커 안에 고사양의 HW를 구현하기는 힘들다. 따라서 AI 스피커 제조 기업은 클라우드 서버에 구현된 음성인식을 서비스한다. 네이버의 ‘클로바’도 자체적으로 음성인식 등의 AI 서비스를 네이버 클라우드 플랫폼(NCP)을 통해 제공받는다.


AI 플랫폼과 AI 서비스 제공

AIaaS는 크게 두 가지 형태로 구분된다. 먼저 AI 플랫폼(AI 엔진)을 제공하는 것이다. 이는 머신러닝 모델, 혹은 플랫폼을 제공해 고객이 직접 머신러닝 모델을 개발할 수 있도록 하는 것이다. 다른 하나는 AI 서비스를 제공하는 것이다. 클라우드 서비스를 제공하는 업체들이 AI 서비스를 상품으로 내놓은 것으로 데이터만 적용하면 결과를 도출할 수 있다.

AIaaS의 구현 방법 역시 두 가지다. 우선 클라우드 사업자가 개발한 API 형태의 AI 솔루션을 활용할 수 있다. 목적에 맞는 서비스가 있다면, 가장 빠르게 도입할 수 있는 방식으로 개발도구를 이용해 머신러닝 모델을 직접 개발하고 튜닝하는 대신 웹 화면이나 API/SDK(Software Develope Kit) 등을 이용해 서비스를 사용할 수 있는 키(Key)를 생성, 연계하고자 하는 시스템에서 직접 API를 호출할 수 있다.

키는 두 가지 목적으로 사용된다. 기업 솔루션에서 해당 서비스 호출하는데 사용되고 클라우드 관리화면에서 사용자데이터 전달 및 학습·배포 후 기업 솔루션에서 해당 서비스 호출하는 경우에 사용된다.

API를 호출해 AI 서비스를 제공하는 경우 기업 데이터를 이용해 맞춤형 머신러닝 모델을 만들 수 있다. 이 때 코딩을 직접 하지 않고 웹 화면 등에서 AI 서비스를 제공할 수 있다.

가령, 얼굴인식 서비스를 위해 얼굴데이터를 제공하거나, 맞춤형 이미지 인식 서비스를 위해 웹 화면에서 이미지를 업로드하고 분류해주는 작업을 수행하면, 학습된 모델을 API 형태로 제공할 수 있다. 대표적인 솔루션은 마인즈랩의 ‘마음.ai’와 AWS의 ‘레코그니션’, MS의 ‘코그너티브’ 등이다.

다음으로 자사의 데이터로 맞춤형 머신러닝 모델을 생성하고, 서비스 형태로 배포한 후 타 시스템/데이터와 연계하는 방식이다. PaaS 형식의 AI 서비스 제공이라고 말할 수 있다. 이 방식은 ▲데이터 이동/연계 ▲다양한 데이터 통합, 정형정보 추출, 피처 엔지니어링(Feature Engineering) ▲모델 학습 ▲모델 검증 ▲모델 패키징 및 배포(테스트, 운영환경) ▲서비스 모니터링 ▲복잡한 머신러닝 실험 과정/결과물의 체계적인 관리 ▲재학습/재배포 자동화 등 8개의 단계를 거친다.


AIaaS, 비즈니스 전략에 맞게 채택해야

이처럼 AIaaS는 이미 개발된 API 형태의 AI 서비스를 호출해 활용하는 형태와 자사 데이터로 맞춤형 머신러닝 모델을 생성하고, 서비스 형태로 배포한 후 타 시스템/데이터와 연계하는 두 가지 서비스 방법이 있다. 고객들은 이 두 형태의 AIaaS를 각 사의 비즈니스 전략에 맞게 채택해야 한다.

두 서비스 방법의 특징을 살펴보면, 전자의 경우 전문지식과 경험을 가진 훈련된 데이터엔지니어와 데이터 사이언티스트가 없어도 된다. 머신러닝 모델을 개발하고 최적화할 필요가 없이 바로 사용할 수 있기 때문이다. 특히 직접 R&D 투자와 양질의 데이터를 확보할 필요 없이 이미 제공되는 서비스를 자유롭게 구성/연계해 빠르게 비즈니스에 적용할 수 있다. 다만 이러한 서비스는 음성인식, 얼굴인식 등 그 범위가 아직 한정적이다.

후자의 경우 위에서 얘기한 8개의 단계를 거치게 된다. 먼저 ‘데이터 이동/연계’ 단계로, 클라우드에서 실시간 및 배치 형태로 다양한 유형의 데이터를 다루는 GUI나 코딩 형태로 활용하는 다양한 서비스가 제공되며, 비정형 데이터나 빅데이터와 같이 대규모의 데이터를 다루는데 전문화된 서비스가 존재한다. 때로는 데이터 이동 없이 기업 전산망 내 데이터를 직접 연계해 일부 컴퓨팅이 자체 전산망에서 수행되도록 하는 데, 이 경우에도 클라우드에서 통합 관리가 가능하다.

‘데이터 가공’ 단계의 특징은 확장성(Scalability)을 확보할 수 있다는 점이다. 이 단계에서는 데이터의 크기를 변경 없이 적용할 수 있는 다양한 기술이 제공된다. 데이터의 용량이 크면 컴퓨팅 자원을 많이 소모해 그만큼 비용이 많이 든다. 하지만 빅데이터 클러스터가 사용량에 따라 자동으로 오토 스케일 돼 최적의 비용으로 수요에 최적화된 서비스를 제공할 수 있다.

‘모델 학습’ 단계에서는 기존의 방식과 같이 코딩을 통해 직접 CPU/GPU를 다루며 학습을 하는 과정이 지원된다. MS의 ‘오토메이티드(Automated) ML’과 같은 서비스를 사용하면 별도의 코딩없이 모델을 학습시킬 수 있다. 또한 최적의 데이터 전처리, 알고리즘, 하이퍼 파라미터를 선택해 모델을 학습시킬 수 있다. 이 때 클라우드의 자원관리 효율성이 더해져, 최소 예산으로 최적의 환경(GPU 기반 분산클러스터 등)을 이용할 수 있다.

‘모델 검증’ 단계에서는 일반적인 모델 성능 비교 외에, 모델에 대한 설명(explainability)을 도와줄 수 있다. 예를 들어 어떠한 데이터 속성(feature)이 예측 결과에 어떤 영향을 주는지를 설명할 수 있어야 하는 것이다. 설명은 알고리즘 모델에 데이터를 집어 넣었을 때 어떠한 과정에서 결과가 나왔고 왜 이런 결과가 도출됐는지에 대한 것들이다.

최근 금융 분야에서도 AIaaS 도입과 관련돼 모델을 설명할 수 있어야 한다는 이슈가 발생하고 있다. 업계에서는 특히 보안의 중요성이 높은 산업 분야에서는 모델을 설명할 수 있어야 한다고 주장한다.

다음은 ‘모델 패키징 및 배포(테스트환경, 운영환경)’ 단계다. 머신러닝 모델을 개발할 때 사용되는 다양한 SW 환경은 각 모델마다 상이할 수 있지만, 체계적으로 관리하고 서비스 배포 시에도 활용될 수 있도록 클라우드 기반의 AI 서비스를 제공한다. 또한, 컨테이너 기술로 모델을 패키징해 웹 API 형태로 자동 배포하고, 운영환경에 적합한 수준으로(오토스케일, 보안, 모니터링, 데이터 수집 등) 서비스화 하는데, 클라우드 기반의 AI 서비스가 도움을 준다.

‘서비스 모니터링’ 단계에서는 기본적인 서비스 모니터링뿐만 아니라, 해당 서비스로 전달되는 입력 데이터와 예측 결과를 체계적으로 수집하고 관리할 수 있다. 입력데이터의 패턴이 학습에 활용된 데이터의 패턴과 다를 경우 머신러닝 모델의 예측 성능이 떨어질 수 있다. 또 이를 모니터링해 머신러닝 재학습 시점을 판단할 수 있다.

‘복잡한 머신러닝 실험 과정 및 결과물 관리’ 단계에서는 특정 모델을 생성해낸 실험과 연계된 모든 산출물을 체계적으로 관리하고 접근할 수 있도록 해야 한다. 특정 머신러닝 실험의 내용에서 어떤 데이터 세트과 코드가 활용됐고, 그 결과로 어떤 성능을 보이는 모델이 생성됐는지에 대한 접근이 가능해야 한다는 것을 대표적인 예로 들 수 있다. 이후 이 모델이 패키징돼 어떤 서비스로 배포됐는지의 리니지(데이터의 흐름을 시각화해 관리하기 위한 거버넌스)가 확인돼야 한다. 모델이나 서비스는 버전별로 관리돼 과거 모델과 현재 모델의 비교가 가능해야 하며, 이러한 과정이 클라우드 AI에서 체계적으로 관리될 수 있다.

‘재학습/재배포 자동화’ 단계에서는 위에 제시된 각 단계들 모두 SDK 형태로 관리돼 데브옵스 관점에서 전체가 통합·관리된다. 또한, 머신러닝 관련 코드(학습용 코드, 서비스용 코드)에 변동이 있거나, 정기적으로 머신러닝 모델 재학습을 해야 할 때에도 자동화가 가능하다. 특히 모델의 성능이 기존 모델보다 개선된 경우에만 실험 환경으로 재배포를 하고, 각종 통합테스트 결과까지 자동으로 도출된 이후, 담당자의 승인을 거쳐 운영환경에 배포하는 것도 자동화할 수 있다.


AI 클라우드, 숨은 비용 따져봐야

AIaaS는 클라우드 기반의 AI 서비스를 제공받아 AI를 쉽게 구축할 수 있도록 한다. 클라우드는 사용한 만큼의 비용을 지불한다. 하지만 AI 서비스는 일반적으로 엄청난 클라우드 컴퓨팅 파워를 사용한다.

한석진 MS 부장은 “SW 업그레이드, 이슈관리, 가용성 등만 고려할 경우 AIaaS가 직접 구축하는 것에 대해 비용 면에서 유리한 점이 별로 없어 보이지만 클라우드는 숨어있는 비용이 훨씬 저렴하다”고 말했다. AI를 개발할 경우 AI를 구축하기 위한 인프라외에 엔지니어 고용비용, 데이터 구입비용, 컴퓨팅 자원 등의 비용을 모두 감안해야 한다는 것이다. 또한 지속적으로 이슈가 발생할 경우 이를 계속 관리해야 한다는 점도 생각해야 하며 이러한 관리비용을 고려하면 AIaaS가 직접 구축하는 것보다 비용 등의 면에서 유리한 점이 많다.

AIaaS는 이외에도 최신 모델 업그레이드면에서도 유용하다. AIaaS와는 달리 온프레미스는 한 번 투자 후 지속적으로 신규 투자를 해야 한다.

AWS는 AIaaS 제공으로 비용 투자를 최소화하고 고객이 업무에 집중할 수 있도록 하고 있다. 비용절감을 위해 AWS가 제시하는 머신러닝 서비스방법은 최적화된 고성능 기계 학습 추론 칩(AWS Inferentia)을 사용하는 것이다. 기계 학습 알고리즘을 실행하도록 최적화된 인프라의 이점을 활용하는 이 방법은 딥 러닝을 상용화하고 종량 요금제 사용 모델로 HW를 사용할 수 있게 한다. AWS는 기계 학습 추론 칩을 통해 클라우드에서 비용을 최소화 하면서 뛰어난 추론 성능을 제공하고 표준 애플리케이션 기능의 일부로 기계 학습을 쉽게 통합할 수 있도록 설계했다.

한편 구글 클라우드 관계자는 “모든 기업이 데이터의 가치를 실현할 수 있도록 머신러닝 서비스와 이를 위한 도구를 클라우드 형태로 제공할 것”이라며 “비용 또한 고객 맞춤형 경험을 제공해 절감할 수 있도록 지원할 것”이라고 설명했다.


AIaaS 시장 고속 성장, 2023년에는 108.8억 달러 규모 예상

시장조사 기관인 트라티카(Tratica)와 마켓 앤 마켓에 따르면 AIaaS 시장은 2018년 15.2억 달러(1.82조 원) 규모를 형성했다. 이 시장은 연 평균 48.2%가량 성장해 2023년에는 108.8억 달러(13.05조 원)에 이를 것이며, AI가 퍼블릭 클라우드 서비스 전체 매출의 최대 50%를 차지할 것으로 전망된다.

▲ 마켓앤마켓이 예측한 AIaaS의 시장전망(출처: 마켓앤마켓)

모든 산업군에서 다양한 용도로 AI 서비스가 활용됨에 따라 AI는 보다 고도화될 것이다. 한 예로 미디어 업계에서는 동영상에서 많은 양의 메타데이터(인물, 배경음악, 유해 콘텐츠 필터링 등)를 추출해 미디어 서비스의 고객 경험을 향상시키고 있다. 또한 유통 및 제조업체들은 수요예측 및 불량품 탐지에 AI 서비스를 활용하고 있다. 특히, 가장 보수적인 금융 분야에서는 개인 및 기업의 신용평가 모델 및 보험 상품의 가입 및 지급 심사, 콜센터 업무 등에 활용하고 있으며, 전자상거래 및 모바일 서비스를 제공 기업들 역시 개인화에 AI 서비스를 활용하고 있다.

이에 대해 한석진 MS 부장은 “정확하게 밝힐 수는 없지만 모 금융사가 인터넷 서비스와 관련된 부분을 MS 애저로 마이그레이션을 진행할 예정이다. 특히, 이 금융사는 클라우드를 기반으로 한 AI 서비스를 적용시킬 것”이라고 밝혔다.

AIaaS로 인해 AI 고도화뿐만 아니라 AI 저변도 확대될 것이 확실시 된다. AIaaS는 단순 AI 서비스보다 다양한 서비스를 제공해줄 수 있다. 특히 AI와 에지가 결합된 AI에지클라우드는 최근 정부에서 다양한 방법으로 지원하고 있는 스마트팩토리 부분과 맞물려 큰 폭으로 확대되고 있다.

업계에서도 AI에지클라우드를 올해 클라우드 부문 트렌드로 꼽고 있다. 이와 관련, MS는 ‘인텔리전트 에지’, AWS는 ‘아마존 세이지메이커 네오 AI AND 그린그래스’, 구글에서는 ‘클라우드 IoT 에지’ 등을 서비스로 제공하고 있다.

AI 저변화에 대해 한석진 부장은 “MS에는 스타트업을 위한 프로그램이 있다. 이 프로그램은 스타트업들이 AI 기술을 다양하게 활용할 수 있도록 지원하는 것”이라며 “이를 통해 국내 AIaaS를 저렴하고 편리하게 사용할 수 있도록 전사적으로 지원하고 있다”고 말했다.

AWS, ‘2019 리인벤트’ 통해 ‘세이지 메이커’ 신기능 대거 추가

AWS는 기업들이 직접 모든 학습 모델들을 만들지 않고 인공지능 서비스를 사용하면서 기존의 머신러닝 과정을 획기적으로 줄일 수 있는 관리형 플랫폼 환경을 제공하고 있다. AWS는 기업의 비즈니스 특성과 상태에 따라 ‘AIaaS’, ‘MLaaS’, ML프레임워크서비스‘ 3가지 형태의 인공지능, 머신러닝 서비스를 제공하고 있다.

AWS는 복잡한 머신러닝 알고리즘이나 모델의 생성, 구성을 통한 사용 등을 고민할 필요 없이 다양한 AI 애플리케이션을 개발하도록 10여종의 서비스를 제공한다. ▲텍스트를 음성으로 변환하는 ‘아마존 폴리’ ▲애플리케이션에 이미지와 비디오 분석 기능을 추가할 수 있는 ‘아마존 레코그니션’ ▲음성 및 텍스트 이용해 대화형 인터페이스 구축하는 ‘아마존 렉스’ ▲음성을 텍스트로 바꿔주는 ‘아마존 트랜스크라이브’ ▲단순 API 호출로 맞춤 추천 서비스를 구축할 수 있는 ‘아마존 펄스널라이즈’ 등이 그것이다.

AWS는 지난해 12월 미국에서 개최된 ‘AWS 리:인벤트 2019’를 통해 업무의 혁신과 개선을 위한 서비스 형태로 데이터를 넣기만 하면 되는 머신러닝 솔루션 5가지와 플랫폼을 받아 모델을 만들고 학습시킬 수 있는 머신러닝 플랫폼 ‘세이지 메이커’의 6가지 신기능을 대거 발표했다.

이번에 공개된 서비스들은 머신러닝 경험이 없는 개발자와 엔드 유저들도 충분히 사용할 수 있다는 것이 AWS 측의 주장이다. AWS가 출시한 머신러닝 서비스는 최신 검색, 코드 리뷰, 프로파일링, 이상 거래 탐지, 의료기록, AI 예측에 대한 리뷰 등이다.

AWS가 ‘2019 리인벤트’를 통해 공개한 서비스 형태의 AI 솔루션은 ▲검색 기능을 위한 ‘아마존 켄드라’ ▲코드 리뷰 자동화 및 애플리케이션 고비용 코드 라인 식별하는 ‘아마존 코드구루’ ▲머신러닝 기반 자동 이상 거래 탐지 기능을 제공하는 ‘아마존 프로드 디텍터’ ▲의료 제공자의 치료 집중을 위한 음성 텍스트 변환 기능을 제공하는 ‘아마존 트랜스크라이브 메디컬’ ▲개발자가 리뷰 통해 머신러닝 예측 검증하도록 지원하는 ‘아마존 A2I’ 등이다.

머신러닝을 위한 플랫폼인 ‘아마존 세이지 메이커’는 기존의 많은 사용자들이 머신러닝 모델 구현을 위해 구축, 학습, 배포별로 다양한 환경을 직접 관리하고 최적화해야하는 어렵고 번거로운 과정들을 자동화했다. ‘세이지 메이커’는 각 과정을 세 단계로 모듈화 해 간편하고 효율적으로 작업할 수 있도록 지원하고 있다. ‘세이지 메이커’는 전체 머신러닝 워크플로우를 포괄해 데이터를 분류 및 준비하고, 알고리즘 선택, 모델 학습, 배포를 위한 조정 및 최적화, 예측 수행 및 작업을 수행하는 완전 관리형 서비스이다.

새롭게 추가된 기능 6가지는 ▲전체 머신러닝 워크플로우를 위한 단일 인터페이스를 제공하는 ‘세이지 메이커 스튜디오 IDE’ ▲엘라스틱 주피터 노트북을 제공해 컴퓨팅 파워의 양을 백그라운드에서 자동으로 조절할 수 있게 지원하는 ‘세이지 메이커 노트북’ ▲모델의 이터레이션을 구성, 추적하도록 지원하는 ‘세이지 메이커 엑스페리먼트’ ▲모델 훈련을 디버깅, 프로파일링해 정확도를 높이고 훈련시간을 단축하도록 지원하는 ‘세이지 메이커 디버거’ ▲최초의 자동화 머신러닝 기능인 ‘세이지 메이커 오토파일럿’ ▲개념 변화를 감지하고 교정할 수 있는 ‘세이지 메이커 모델 모니터’ 등이 있다.

▲ 아마존 레코그니션 예시(출처: AWS)

 

MS “윤리적인 AI 기업 위해 AI 역량 결집할 것”

마이크로소프트(MS)는 AI 서비스를 직접 제공해 데이터만 삽입하면 바로 사용할 수 있는 서비스와 맞춤형 머신러닝 모델을 생성, 서비스 형태로 배포 후 타 시스템, 데이터와 연계할 수 있는 AI 플랫폼 등 두 형태 모두 지원하고 있다.

마이크로소프트의 AI에 대한 방향성은 ‘기술 혁신’, ‘개인과 기업의 AI를 통한 가치창출 지원’, ‘책임감 있는 AI에 대한 리더십’ 등 세 가지로 나뉜다. ‘기술 혁신’ 부문에서는 ‘AI 그리고 연구 팀’ 아래 AI 역량을 결집시켜 인프라, 서비스, 애플리케이션, 검색 등의 분야에 걸쳐 AI 혁신과 미래지향적 연구개발을 수행하고 있다. 예시로 시각, 청각, 언어 이해 등 다양한 분야의 인지적 모델을 개발하고 개발자가 활용할 수 있는 API 형태, 오픈소스로 제공하는 모델, 라이브러리 및 데이터, 일상에서 활용되는 워드, 파워포인트에 포함된 AI 기능 등의 다양한 형태로 제공하고 있다.

▲ 연도별 AI 혁신을 위한 개발(출처: MS)

MS는 API 형태로 호출해 사용하는 서비스뿐만 아니라 머신러닝도 서비스 형태로 제공해 빠르게 모델을 빌드하고 배포할 수 있게 지원한다. 솔루션은 ‘애저 머신러닝(Azure ML)’으로 데브옵스 형태의 머신러닝(MLOps)을 사용할 수 있다.

‘애저 머신러닝’은 ▲생산성 향상 및 ML 액세스 ▲대규모 운영 ▲책임 있는 AI 솔루션 빌드 ▲개방형 플랫폼 기반 혁신 등 네 가지 특징이 있다. 먼저 기술 수준과 관계없이 요구 사항을 충족하는 도구를 사용해 머신러닝 모델을 빠르게 빌드하고 배포할 수 있다. 이는 코드 없는 디자이너를 사용해 시작하거나, 코드 중심 환경에는 주피터 노트북(Jupyter Notebook)을 사용할 수 있다. 특히, 자동화된 머신러닝 UI를 사용해 빠르게 모델을 만들고 엔지니어링 알고리즘 선택 및 하이퍼 파라미터 변수 비우기 등에 액세스해 정확도가 높은 모델을 개발할 수 있다.

▲ 데브옵스 형태의 머신러닝을 위한 애저 머신러닝 서비스(출처: MS)

대규모 운영 측면에서 머신러닝을 위한 MLOps는 모델 빌드에서 배포 및 관리에 이르는 수명 주기를 간소화할 수 있다. 또 ML 파이프라인을 사용해 반복 가능한 워크플로우를 빌드하고, 풍부한 모델 레지스트리를 사용할 수 있다. 아울러, 고급 경고 및 기계 학습 자동화 기능도 사용해 워크플로를 대규모로 관리한다. 클라우드에서 에지까지 머신러닝 모델을 프로파일링, 유효성 검사 및 배포해 대규모의 ML 워크플로우를 관리할 수 있다.

이외에 머신러닝 모델 학습 및 추론을 위한 오픈소스 도구 및 프레임워크를 지원할 수 있다. 파이토치(PyTorch), 텐서플로우(TensorFlow) 및 스키킷-런(scikit-learn)과 같은 프레임워크나 상호 운용 가능한 개방형 오닉스(ONNX) 형식을 사용할 수 있다. 특히, 많이 사용되는 IDE, 주피터 노트북 및 CLI를 포함해 요구 사항에 가장 적합한 개발 도구나 파이썬 및 R과 같은 언어를 선택할 수 있다. 또한 오닉스 런타임(ONNX Runtime)을 사용해 전체 클라우드 및 에지 디바이스에서 추론을 최적화하고 가속화할 수 있다.

▲ 애저 코그너티브 서비스

 

구글 클라우드 “모든 기업이 데이터 가치 실현 하도록 지원할 것”

구글 클라우드는 모든 기업이 데이터의 가치를 실현할 수 있도록 클라우드 기반의 머신러닝 솔루션을 지원한다. 또한, 구글 클라우드는 이를 활용해 고객 맞춤형 경험을 제공함으로써 비용을 절감하는 동시에 매출을 증대하고, 더 나은 비즈니스 결정을 내리기 위해 필요한 인사이트를 도출할 수 있도록 지원한다.

▲ 구글 클라우드의 오토ML 작동방식(출처: 구글 클라우드)

구글의 클라우드 솔루션 ‘클라우드 오토ML’은 머신러닝에 대한 전문 지식이 부족한 개발자도 고품질의 맞춤형 모델을 구축해 자사 제품이나 서비스의 가치를 향상할 수 있도록 지원한다. ‘클라우드 오토ML’은 개발자가 시각, 언어 및 정형데이터를 위한 머신러닝 모델을 구축할 수 있도록 해준다.

‘클라우드 오토ML’은 ▲클라우드 및 에지의 이미지에서 유용한 정보를 도출하는 ‘오토ML 비전’ ▲동영상 콘텐츠를 탐색하고 머신러닝 모델을 학습할 수 있는 ‘오토ML 비디오 인텔리전스’ ▲머신러닝으로 텍스트의 구조와 의미를 파악할 수 있는 ‘오토ML 자연어 처리 ▲언어를 동적으로 감지하고 번역하는 ’오토ML 번역기‘ ▲정형 데이터에 대한 머신러닝 모델을 자동으로 구축하고 배포하는 ’오토ML 테이블‘ 등의 기능을 제공한다. ‘

구글 클라우드는 ‘오토ML’ 외에도 ‘컨텍센터 AI’, ‘도큐먼트 언더스탠딩 AI’, ‘추천 AI’, ‘AI 플랫폼(AI Platform)’ ‘클라우드 ML’, ‘클라우드 머신러닝 APIs’, 등도 공급하고 있다.

‘AI 플랫폼(AI Platform)’은 고객이 신경망과 알고리즘 모델을 생성하고, 모든 규모의 데이터 세트에서 예측을 수행할 수 있는 완전한 관리형 서비스다.

‘클라우드 ML’ 엔진은 빅쿼리, 클라우드 데이터플로우, 클라우드 데이터랩 등의 강력한 기능을 활용해 데이터 사이언티스트가 첫 번째 모델을 만드는 시간을 크게 단축시켜준다.

또한, API 형태로 머신러닝을 지원하는 ‘클라우드 머신러닝 APIs(Cloud Machine Learning APIs)’는 구글이 만든 사전 학습된 머신러닝 모델에 기반을 둬 직관적이고 사용이 간편하다는 특징을 갖고 있다. 개발자는 클라우드 머신러닝 API를 사용해 누구나 머신러닝 기반 인지 서비스를 이용할 수 있다.

머신러닝 기반 인지서비스는 ▲오디오를 텍스트로 변환하고 110개의 언어를 인식할 수 있는 ‘클라우드 스피치 API(Cloud Speech API)’ ▲AI를 통해 물체를 식별하는 ‘클라우드 비전 API(Cloud Vision API)’ ▲번역 API ‘자연어 API(Natural Language API)’ 등을 포함하고 있다.

NBP, ‘클로바’ 등 풍부한 데이터 기반 AI 서비스 구축 지원

네이버 비즈니스 플랫폼(NBP)이 제공하고 있는 클라우드 서비스인 네이버 클라우드 플랫폼(NCP)에서는 ‘클로바(Clova)’, ‘파파고(papago)’ 등 네이버의 다양한 인공지능 서비스를 API 형태로 제공하고 있다. NBP는 이 같은 AI 솔루션을 안정적이고 쉽게 제공하는 데 초점을 맞추고 있다.

▲ NBP의 AIaaS 서비스별 인프라 및 플랫폼 구성(출처: NBP)

NBP 관계자는 “NCP에서 제공하는 AI 서비스는 네이버에서 수집된 데이터를 기반으로 스스로 학습하며, 대량의 데이터 학습을 통해 AI 서비스 품질이 향상돼 비즈니스에 다양한 기회를 제공할 것”이라고 밝혔다. 특히, NBP는 방대한 양의 데이터를 처리해야 하는 AI 서비스를 빠르고 안정적으로 운영하기 위해 NCP의 컴퓨팅 자원을 사용한다. 또한 서비스 제공이 연속적으로 이뤄질 수 있도록 이중화 구성과 24시간 365일 모니터링도 NBP 측에서 제공한다.

▲ NBP가 제공하고 있는 AIaaS(출처: NBP)

NBP가 제공하고 있는 AIaaS 가운데, ‘클로바 플랫폼’은 ‘클로바’ 사용자의 음성이나 이미지를 인식하고 이를 분석해 원하는 정보나 서비스를 제공한다. 특히, 클라이언트 개발자와 익스텐션(Extension) 개발자를 위한 ‘클로바 인터페이스 커넥션(CIC)’와 ‘클로바 익스텐션 킷(CEK)’를 제공하고 있다.

‘클로바 플랫폼’의 특징은 다양한 디바이스나 모바일 앱에 ‘클로바’를 연결해 음성 기반의 서비스를 제공할 수 있고, 간단한 설정 및 코드 작성만으로 짧은 시간 내에 ‘클로바’에 추가할 수 있다는 점이다. 아울러, 다양한 분야에서 사용자가 다양한 경험을 제공받을 수 있도록 ‘클로바’에게 확장된 기능을 제공하기도 한다.

▲ 클로바 플랫폼의 서비스 기능(출처: NBP)

 

마인즈랩 “바로 쓰고 쉽게 쓰도록 AI 플랫폼 지원”

마인즈랩의 AI 플랫폼 ‘마음.에이아이(maum.ai)’는 음성, 언어, 사고, 시각 등 인공지능 각 영역에서 핵심 기술을 모듈화 해 고객이 원하는 분야에 맞춤형으로 적용할 수 있는 플랫폼이다. 특히, AI 음성생성, 기계독해(MRC), 설명할 수 있는 인공지능(XDC) 등 최신 기술을 지속적으로 개발, 개발 지식이 없어도 누구나 쉽고 빠르게 AI 서비스를 비즈니스에 접목할 수 있다.

현재 ‘마음.ai’에 공개된 AI 인공음성(AI Voice generation)은 최소한의 목소리 데이터만 있으면 실제 목소리와 가장 유사한 음성을 생성해 누구든 자신의 비즈니스에 활용할 수 있다. 특히, AI 인공음성이 적용된 음성봇(완전판매모니터링, 주문봇, 서베이봇 등)은 반복적인 전화업무의 자동화를 실현하고, 의사소통이 어려운 노인들을 위한 맞춤형 AI 음성생성 서비스와 시각장애인을 위한 더빙음성 서비스 제공 등 공공 목적으로도 활용이 가능하다.

아울러, ‘마음.ai’는 기업 고객뿐만 아니라 소상공인, 일반 사용자까지도 원하는 곳에 ‘바로쓰는 AI, 쉽게 쓰는 AI’를 지향해 월 99,000원의 구독료로 음성생성, 이미지 생성, 자연어처리 등 AI 기술을 사용할 수 있다.

▲ 마인즈랩의 에코마인즈 프로젝트(출처: 마인즈랩)

마인즈랩은 누구나 쉽게 AI을 도입하고 활용할 수 있는 총체적 AI 서비스를 제공할 뿐만 아니라 AI를 도입하고자 하는 다양한 분야의 스타트업과 함께 AI 플랫폼 생태계를 만들어 가고자 ‘에코마인즈 프로젝트’를 진행하고 있다. 이 밖에도 AI 개발 역량을 갖추기 위해 캐나다 3대 연구기관인 AMII와 파트너십을 체결, 세계 최고 수준의 AI 연구원들과 함께 강화학습 분야도 연구하고 있다.

최근 마인즈랩은 금융, 통신, 교육, 유통, 제조 등 산업에 AI를 적용하는 등 사업 영역을 확장하고 있다. 대표적으로 KEB 하나은행의 AI 뱅킹 시스템 하이뱅킹, 포스코 철강 제조 산업에 적용된 스마트팩토리 프로젝트를 통해 데이터 정제와 딥러닝에 대한 기술력과 노하우를 확보하고 있다.

▲ API로 호출해 이용할 수 있는 API 솔루션(출처: 마인즈랩)

 

 

저작권자 © 컴퓨터월드 무단전재 및 재배포 금지