[컴퓨터월드] 생성형 AI의 수요는 지난 한 해 폭발적으로 증가했다. ‘2023 가트너 기업 내 생성형 AI 설문조사(2023 Gartner AI in the Enterprise Survey)’에 따르면 생성형 AI는 가장 많이 도입된 AI 기술 중 하나로, 산업 분야에 상관없이 기업들이 다양한 업무에 생성형 AI를 활용하고 있는 것으로 나타났다.

생성형 AI의 빠른 도입은 다양한 이점을 제공하지만, 다른 한편으로는 더 많은 AI 기술에 대해 간과하게 만드는 측면도 있다. 다수의 조직이나 사업 부서에서 생성형 AI를 통해 AI 기술을 처음 접하기 때문에 생성형 AI와 AI의 개념을 혼동한다는 것이다. 실제 생성형 AI는 AI 기술의 일부에 불과하다.

업무 특성에 따라 각기 다른 AI 기술이 요구되기 때문에 이를 구별하는 것은 매우 중요하다. 생성형 AI는 모든 업무의 만병통치약이 될 수 없으며, 실제 AI가 관련 업무에 적합하지 않게 사용된 사례를 심심찮게 찾아 볼 수 있다. 각종 비즈니스 문제를 해결하기 위해서는 서로 다른 AI 기술을 조합해야 하는데, 생성형 AI에만 집중할 경우 이를 놓치게 될 가능성이 높다.

또한 AI에 대한 과도한 기대는 잘못된 목표 설정으로 이어질 수 있다. 오늘날 생성형 AI 기술은 부풀려진 기대치의 정점(Peak of Inflated Expectations)에 위치하고 있다. 기대치가 높을 경우, IT 리더는 생성형 AI를 적합하지 않은 업무에 도입할 위험이 있다. 생성형 AI가 비즈니스 리더들로 하여금 AI의 영향력은 과대평가하고 복잡성은 과소평가하도록 만들기 때문이다.

IT 리더는 생성형 AI가 업무에 적합한지, 대체 AI 기술을 고려해야 하는지, 생성형 AI와 다른 AI 기술을 결합해야 하는지 등을 평가해야 AI 기술 도입 실패를 막을 수 있다.

생성형 AI가 업무에 적합한지 평가해야

생성형 AI 모델 도입 여부는 업무에 따라 다르게 결정해야 한다. 우선 고려하고 있는 특정 AI 기술과 상관없이 업무 자체가 AI를 활용할 가치가 있고 실현 가능한지 판단해야 한다. 이 단계에서 AI 활용에 적합하지 않은 업무를 걸러낼 수 있다. 업무 우선순위를 정한 이후에는 관련 사례 군을 확인해 해당 사례에 있어 생성형 AI 모델이 유용하게 활용될지 파악한다.

생성형 AI 모델이 조직에서 일반적으로 오용되는 몇 가지 사용 사례를 소개한다.

● 예측 및 관측: 수요, 판매, 도착 시간, 날씨, 공급망 등을 예측하는 업무에 LLM(대규모 언어 모델)을 비롯한 기타 생성형 AI 모델을 직접적으로 사용하는 것은 최근 자주 발생하는 실수중 하나이다. LLM은 입력값을 통해 연속 변수를 예측하는 수치 예측 및 통계 모델링(회귀 작업)을 수행하도록 설계된 것이 아니기 때문에, 예측 작업에 유용한 특징을 생성하기 위해 LLM을 간접적으로 사용할 수 있지만 예측과 관측 자체는 다른 AI 기술을 통해 수행해야 한다.

● 계획: 생성형 AI 모델은 계획과 최적화라는 일부 핵심 요소가 구현되지 않아 재고 최적화, 현장 인력 일정 관리, 경로 최적화, 재무 포트폴리오 최적화, 소매 가격 책정 최적화, 리소스 할당과 같은 중요한 사용 사례에서 생성형 AI 활용이 제한된다. 현재의 생성형 AI 모델로는 정확한 계산이 필요한 업무처리에 어려움이 있다. 계획을 수립할 수 있는 더 광범위한 시스템에 LLM을 설치해 이를 보강하려는 시도가 있었으나 다른 기존 AI 접근 방식으로 이미 실행 가능한 최적화, 검색 및 계획과는 거리가 멀다.

● 의사결정 지능: 의사결정 지능은 AI 기술을 활용해 조직의 의사결정 능력을 강화한다. 이는 목표 결과를 달성하기 위해 행동 방침을 모델링하고 선택하는 능력을 기반으로 하는 복잡한 활동 체계를 갖고 있다. 현재의 생성형 AI 모델은 의사결정을 위해 구축된 것이 아니므로, 그 결과물은 설득력이 없으며 결과를 달성하기 위한 명시적인 방식으로 의사결정을 모델링 할 수 없기에 신뢰성 또한 떨어진다.

이런 이유로 조직이 채용 및 HR 관련 결정, 예산 및 재무 계획, 공급망 관리, 마케팅 비용 할당, 전략적 의사결정과 같은 중요한 결정을 내릴 때 생성형 AI의 결과에 의존하는 것은 위험하다. 마찬가지로 LLM도 분석에 직접적으로 활용돼서는 안 되고, 데이터 분석이 가능한 시스템에 대한 대화형 인터페이스로만 활용돼야 한다.

● 자율 시스템: 생성형 AI는 충분한 자율성을 갖고 있지 않다. 현재의 모델은 자율적으로 작동할 만큼 강력하지 않으며, 부정확성과 환각을 면밀하게 감독할 인력을 필요로 한다. 개발자들은 외부 데이터와 툴로 보강한 LLM 기반 에이전트를 구축함으로써 마이크로소프트 365 코파일럿(Microsoft 365 Copilot)과 같은 초기 어시스턴트를 개발하기 위해 노력하고 있다. 하지만 현재로서는 자율 시스템에 LLM을 비롯한 생성형 AI 모델을 적용하는 것에는 상당한 제한이 따르며 기본적으로 ‘사람의 조작’이 필요하다. 따라서 산업용 로봇, 배송 드론, 스마트 공장, 알고리즘 트레이딩, 자율 주행 차량과 같은 사용 사례에서도 생성형 AI의 활용이 제한된다.

생성형 AI가 각종 업무에 적합하지 않을 수 있는 결정적인 이유는 생성형 AI에 수반되는 위험성이 높은 것에 비해, 이를 완화하기가 어렵다는 데 있다. 생성형 AI와 관련된 위험에는 출력의 불안정성, 데이터 프라이버시, 지적 재산, 책임, 사이버 보안, 규정 준수 등이 포함되며, 각 업무에 따라 개별적인 확인이 요구된다.

시간이 지남에 따라 생성형 AI 기술이 개선되고 다른 AI 기술과 결합됨에 따라 업무 유형별 생성형 AI의 유용성은 높아질 것이다. 그러나 앞서 언급된 업무에서는 적용 가능한 대체 AI 기술을 모색해야 한다.

생성형 AI의 대체 AI 기술 고려

생성형 AI는 기존의 검증된 AI 기술에 대한 관심을 독차지해 왔다. 하지만 특정 업무를 지원하는 데 있어서는 다른 AI 기술이나 이들을 조합하는 것이 가장 적합할 수 있다. 생성형 AI를 대체할 수 있는 주요 AI 기술은 다음과 같다.

● 비생성형 ML(Nongenerative ML): ‘예측형 ML(Predictive ML)’로도 알려진 비생성형 ML은 과거 데이터로 학습된 ML 모델을 사용해 예측을 수행하는 일련의 기술이다. 이미지 객체 분류 예측과 같은 범주 예측, 고객의 생애 가치 예측과 같은 연속 변수 예측(회귀 작업)이 이에 해당한다.

생성형 AI가 2023년에 두각을 드러내기 전까지, 이 기술은 지난 10년간 지배적인 AI 패러다임이었다. 비생성형 ML은 고객 세분화, 이상 징후 감지, 추천 시스템, 고객 이탈 예측, 예측 유지보수와 더불어 모든 유형의 고가치 예측 사용 사례에서 생성형 AI보다 더 높은 적합성을 가진다.

● 최적화: 일반적으로 운영 연구 조직에서 사용해 온 최적화 기술은 여러 가지 제약 조건이주어질 때 지정된 시간 내에 최적의 리소스 조합을 찾아내 서로 다른 비즈니스 목표 간의 균형을 맞춰 이익을 극대화한다. 이는 재고 관리, 차량 및 인력 일정 스케줄링, 마케팅 예산 할당, 경로 계획, 재무 포트폴리오 최적화, 가격 책정 전략 등의 업무에 있어 핵심적인 기술이다. 또한 최적화와 계획 기술은 자율 시스템과 더불어 의사결정 지능이 다양한 행동 방침을 평가하도록 지원하는 역할을 한다. 위와 같은 업무에서 최적화는 현재의 생성형 AI보다 유리한 위치에 있다.

● 시뮬레이션: 시뮬레이션은 실제 세계를 모방하는 계산 모델로, 다양한 시나리오나 변경 사항을 가상으로 실행함으로써 의사결정에 도움을 준다. 이는 재무 모델링, 전략적 시나리오 분석, 건축 및 건물 설계, 인력 계획, 공급망 구축, 제조 과정을 시뮬레이션할 때 응용할 수 있다. 추가로, 시뮬레이션 엔진을 사용해 자율 주행 차량을 훈련하는 등 합성 데이터(Synthetic data)를 생성하고 다른 AI 모델을 훈련하는 사례에서도 사용할 수 있다. 이와 같이 시뮬레이션은 예측 및 의사결정 지능 사용 사례외에 보다 자세한 통제와 설명을 통해 콘텐츠를 생성하는 데 있어 생성형 AI의 훌륭한 대안이 될 수 있다.

● 규칙 및 휴리스틱(Heuristics): ‘전문가 시스템’으로도 불리는 규칙 기반 시스템은 구조화된 방식 또는 규칙에 따라 전문 지식을 수집하고 이를 의사결정에 사용하는 것을 목표로 한다. 이는 사기 거래 탐지, 대출 승인, 위험 평가, 의료 진단, 품질 관리, 지식 탐구, 이상 징후 감지 등 여러 업무에 적용된다. 특히 규칙 기반 시스템은 생성형 AI 모델과 달리 해석이 용이해 설명 가능한 의사결정을 필요로 하는 민감한 업무에 사용하는 것이 좋다.

● 그래프: 지식 그래프는 노드와 링크로 형성된 네트워크를 통해 고객, 제품, 위치와 같은 개별 개체와 개체 간의 관계를 나타낸다. 추천 시스템, 검색 엔진, 사기 거래 탐지, 데이터 관리, 계획, 최적화 등 정확한 답변을 생성하기 위해 설명 가능성과 정확한 데이터 검색이 필요한 업무에 있어 그래프는 LLM보다 더 높은 적합성을 갖고 있다. 또한 결과물 신뢰가 가능하며 검증된 사실을 추가하기 위해서는 그래프와 생성형 AI의 결합을 고려할 수 있다.

생성형 AI 모델과 다른 AI 기술의 결합

AI 기술은 상호 배타적이지 않으며, 결합을 통해 전체적으로 더욱 강력한 시스템을 구축할 수 있다. 일반적으로 가장 정교한 AI 시스템은 기술을 보완하기 위해 균형 잡힌 AI 툴 구성을 활용하고, 이로써 보다 개선된 정확성, 투명성, 성능을 제공하는 동시에 비용과 데이터 의존도를 낮춘다.

생성형 AI 모델과 다른 AI 기술의 조합은 개별 기술이 갖춘 것보다 더 강력한 성능을 이끌어낼 수 있다. 우선, 강력한 기술과의 결합을 통해 생성형 AI 모델이 가진 한계인 낮은 견고성, 부정확성, 환각 등을 완화할 수 있다. 예를 들어 지식 그래프는 LLM으로 인해 발생하는 환각 효과를 줄이는 데 도움을 준다. 반대로 생성형 AI 모델도 기존 기술의 약점을 보완한다.

예를 들어 LLM은 지식 그래프의 구축과 접근성 향상에 도움을 줄 수 있다. 또한, 생성형 AI 모델을 유용하게 사용하기 위해서는 다른 AI 또는 소프트웨어 시스템의 자연어 인터페이스로 활용하거나 비생성형 ML 모델의 기능 개발에 활용할 수 있다.

AI 기술의 잠재력은 무한하다. 그러나 앞서 설명한 것과 같이 생성형 AI 모델과 대체 AI 기법의 결합에는 일반적으로 통용되는 방법들이 존재한다. AI 기술을 적절하게 결합할 수 있는 조직은 정확성, 투명성, 성과를 제고하는 동시에 비용과 데이터의 의존도를 줄임으로써 강력한 AI 시스템을 구축해 시장에서 독보적인 위치에 설 수 있을 것이다.