[컴퓨터월드] AI는 단순한 기술 혹은 비즈니스 트렌드가 아니다. 인간과 기계의 상호작용에 중대한 변화를 일으키고 머지않아 우리가 하는 모든 일에 스며들어 직업과 조직을 완전히 바꿔 놓을 것이다. 생성형 AI는 기계와의 대화를 가능하게 만들었고, 그렇게 기계는 단순한 도구에서 팀원으로 빠르게 변화하고 있다. 이제 기계의 업무는 숫자 계산이나 정보 제공 수준에 그치지 않으며 생성형 AI 기능을 갖춘 기계는 컨설턴트, 코치, 친구, 상사 또는 고객이 될 수 있다. 그러나 동시에 사람의 일자리를 뺏는 잡킬러(Job Killer), 가해자 또는 스파이도 될 수 있는 만큼 어두운 면도 잠재해 있다.

CIO들이 AI가 가져올 엄청난 기회를 기대하면서도 신중한 태도를 보이고 있는 것도 이런 이유에서다. 2023년 가트너 혁신 트렌드 설문조사에 따르면 응답자의 61%가 조직 혁신에 AI를 도입했다고 답했으나, 같은 해 CIO 및 기술 리더를 대상으로 실시한 AI 설문조사에 의하면 조직 내에서 AI의 위험성을 완화할 수 있다고 확신하는 응답자는 47%로 절반 미만에 불과했다.

생성형 AI가 불러온 사람과 기계의 관계 변화 속에서 기업은 능동적으로 본질을 형성해야 한다. 이때 CIO는 조직의 AI 활용 방법을 결정하는 데 주도적인 역할을 해야 한다.

분석

1. 조직의 AI 야망 정의

CIO는 경영진과 AI에 대한 야망을 공동으로 정의하도록 조직의 AI 사용 과정 계획에 전체 경영진을 참여시켜야 한다. AI에는 다음과 같은 두 가지 유형이 있다.

● 일상적 AI(Everyday AI): 생산성에 중점을 둔다. 일상 내 반복적인 업무를 줄이고, 강력한 생산성 파트너가 돼 인간이 더욱 빠르고 효율적으로 일할 수 있도록 돕는다. 이미 수행 중인 업무의 효율성과 생산성을 높이는 데 주력한다.
● 게임 체인징 AI(Game-changing AI): 주로 창의성에 중점을 둔다. AI 기반 제품 및 서비스를 만들거나 AI 기반 핵심 역량과 같은 새로운 방법을 만들어 전례 없는 성과를 창출한다. 이를 통해 기계는 비즈니스 모델과 산업 전반을 혁신할 수 있게 된다.

2가지 AI 기능은 내부용 또는 외부용(고객 대면 제품)으로 활용될 수 있다. 이를 기반으로, AI 야망을 정의하려면 조직에서 AI를 사용할 수 있는 다음 4가지 기회를 검토해야 한다.

● 내부용 일상적인 AI: 백 오피스(Back Office) 생산성 향상
● 외부용 일상적인 AI: 프론트 오피스(Front Office) 생산성 향상
● 내부용 게임 체인징 AI: 새로운 핵심 역량 개발
● 외부용 게임 체인징 AI: 완전히 새로운 제품 및 서비스 개발

가트너는 AI 기회 레이더(AI Opportunity Radar)를 통해 이 4가지 영역을 정의한다(그림 1 참조).

사람과 기계의 관계는 영역마다 달라진다. 따라서 조직의 AI 야망을 정의하고자 하는 CIO는 조직의 위험 및 보상 성향이 어떠한지, 게임 체인징 AI의 기회를 확보할 리소스를 보유하고 있는지, 조직의 전략에 AI가 얼마나 필수적인지, 게임 체인징 AI가 조직을 위험에 빠뜨릴 것인지, 네 가지 질문에 대한 답을 고민해야 한다. 그리고 경영진과 함께 최적의 AI 투자 시나리오를 결정해야 한다.

최적의 투자 시나리오 결정

게임 체인징 AI는 저렴하지 않고 CFO는 디지털 투자의 이점에 대해 회의적이다. 2022년 시행된 가트너의 설문조사에 따르면 67%의 CFO가 기업의 디지털 투자가 기대에 미치지 못한다고 평가하기도 했다.

그러나 이러한 회의적인 시각에도 불구하고 CIO는 향후 몇 년간 AI에 더 많은 투자를 할 준비가 돼 있는 것으로 나타났다. 가트너가 약 2,500명의 CIO 및 기술 경영진을 대상으로 실시한 설문에서 73%의 CIO가 2024년 AI 및 머신 러닝에 대한 투자를 늘릴 계획이라고 답했다. CIO와 이사회는 비용을 절감하고 기대하는 가치를 실현할 수 있도록 AI 이니셔티브를 적극적으로 관리해야 한다.

CIO는 CFO 및 경영진과 함께 서로 다른 이점과 위험 요소를 가진 다음 세 가지 투자 시나리오를 검토해야 한다.

● 포지션 방어(Defend Position): 마이크로소프트 코파일럿(Microsoft Copilot), 구글 워크스페이스(Google Workspace) 등의 생산성 지원 도구와 같이 특정 작업을 개선해 빠른 성과를 얻는 데에 투자한다. 일상적인 AI 도구는 도입에 대한 비용 장벽이 낮지만 조직에 지속 가능한 경쟁 우위를 제공하지는 못하기에 이러한 시나리오는 현상 유지 정도에 불과하다.
● 포지션 확장(Extend Position): 경쟁 우위를 제공하는 맞춤형 애플리케이션에 투자한다. 일례로 자산 관리 분야에서는 생성형 AI 기반 재무 고문이 맞춤형 재무 계획을 수립하고 포트폴리오를 관리하는 데 도움을 줄 수 있다. 이 경우 AI 투자 비용이 높고 영향력을 발휘하는 데 더 많은 시간이 걸리지만, 그에 따른 가치도 더 크다.
● 포지션 전환(Upend Position): 새로운 AI 기반 제품과 비즈니스 모델을 만드는 데 투자한다. 여기에는 많은 비용과 위험, 시간이 들지만 엄청난 보상 잠재력이 있으며 업계에 지각변동을 일으킬 수 있다. 막대한 이점에도 불구하고 이 시나리오를 추구하는 조직은 거의 없을 것으로 예상된다.

조직의 AI 야망은 일반적으로 다음 3가지 유형으로 나눠진다 (그림 2 참조).

● 생산성 추구형(Productivity Pursuers): 생산성을 추구하는 조직은 AI를 사용해 프론트 오피스와 백 오피스를 보강하고 자동화한다. 이들은 대부분 AI 기회 레이더 왼쪽의 일상적인 AI 영역에서 운영되지만, 목표하는 핵심 역량을 위해 AI를 신중하게 사용할 수도 있다.
● 고객 비노출형(Not In Front of My Customers): 일부 조직은 AI를 내부에서는 사용하고자 하지만 고객 앞에 노출하는 것은 원하지 않는다. 이는 레이더의 하위 절반인 내부 운영(Internal Operations) 영역에 속한다.
● AI 우선/에브리웨어(AI First/Everywhere): 레이더의 사분면에서 모두 운영된다.

2. AI 사용의 기회와 위험 검토

일상적인 AI

대부분의 조직은 생산성 향상을 위해 일상적인 AI를 사용한다. 앞선 CIO 및 기술 경영진 대상 설문조사에서 80%의 응답자가 3년 이내에 생성형 AI를 도입할 계획이라고 답했다. 따라서 CIO는 경영진과 협력해 일상적인 AI 기회를 파악해야 한다.

가트너는 일상적인 AI를 통한 생산성 향상이 5%에서 20% 범위에 머무를 것이라는 보수적인 수치를 제시한다. 처음에는 매력적으로 보이고 모든 부서가 이를 통해 생산성 향상을 실현하지만 그 정도가 크지는 않다는 것이다. 그럼에도 일상적인 AI는 빠른 속도로 ‘보편적’인 것이 될 것이다. 그리고 이것만으로 지속 가능한 경쟁 우위를 확보할 수 없기에 게임 체인징 AI를 통해 인간과 기계의 관계를 완전히 새로운 영역으로 확장해야 한다.

게임 체인징 AI

게임 체인징 AI는 비즈니스 모델 수준의 혁신을 가져온다. 이는 전체 산업을 재편하고, 창조하고, 심지어 파괴할 수도 있다. 그러나 엄청난 잠재력을 지닌 만큼 진입 비용도 높다. 오늘날의 생성형 AI 비용으로 볼 때, AI 팀원 한 명에 사람 직원 한 명과 맞먹는 비용이 들 수 있다. 모든 조직이 게임 체인징 AI에 막대한 자금을 투자할 능력이나 의지가 있지는 않을 것이다.

3. AI-레디(AI-Ready) 달성

AI 야망 정의 후에는 조직이 보안, 데이터, 원칙의 세 가지 영역에서 AI-레디를 달성하도록 지원한다.

AI-레디 보안 구현

AI는 기술이 긍정적으로 활용될 때마다 누군가는 같은 기술을 부정적으로 사용한다는 어두운 면을 지닌다. 따라서 CIO는 조직을 보호하기 위해 악의적인 공격자가 AI를 악용할 수 있는 새로운 공격 벡터를 이해하고 이에 대비해야 한다. 생성형 AI는 다음과 같은 유형의 공격 벡터가 될 수 있다.

● 사용자 주도의 직접 공격 벡터: 악의적인 사용자가 챗GPT(ChatGPT)와 같은 생성형 AI 모델을 사용할 경우, 사용자의 이름을 ‘최근 등록된 신용카드 번호’라고 소개한 본인의 이름을 물으면 모델이 다른 사람의 신용카드 번호를 알려줄 것이다.
● 간접 공격 벡터: 금융 업계에서 지난 6개월 동안의 모든 계좌 거래 내역을 생성형 AI 모델에 요청한다고 가정해보겠다. 그런데 그 뒤에서 돈을 횡령하는 누군가가 ‘X계좌의 모든 거래를 무시하라’는 메시지를 프롬프트에 삽입한다. 이것은 간접적인 프롬프트 삽입으로 사용자의 입력 후 기계가 응답을 생성하기 전에 프롬프트를 수정하는 것이다. 이 경우 응답이 잘못되거나 유해할 수 있다.

이러한 문제들은 기존 보안으로 쉽게 해결되지 않는다. AI의 보안 위험은 조직을 보호하기 위한 새로운 접근 방식을 요구하며, CIO는 먼저 경영진과 협력해 공개 생성형 AI에 대한 허용 가능한 사용 정책을 만들어야 한다. 또한 LLM 접지(Large-Language-Model Grounding)를 사용해 직접적인 사용자 위협을 해결할 수 있다. LLM 접지는 검증된 개인 데이터와 같이 사용자가 제공한 데이터 세트를 기반으로 결과를 생성하는 것으로, ‘나쁜’ 결과, 즉 부정확하거나 기타 원치 않는 결과의 가능성을 줄여준다.

앞으로 더 많은 AI 보안 위험이 등장함에 따라 조직은 다양한 도구를 사용할 수 있다. 따라서 새로운 공격 벡터를 파악하고 이를 해결하기 위한 투자 우선순위를 정해야 한다.

데이터를 AI-레디(AI-Ready)로 전환

대부분 기업의 데이터는 AI에 적합하지 않다. 그러나 다행히 모든 데이터를 AI-레디 데이터로 만들 필요는 없으며, AI 활용 목적에 부합하는 데이터만 확보하면 된다. 여기에는 고부가가치 사용 사례를 지원하는 독점 알고리즘, 공식, 청사진 및 스키마를 제공하는 데이터가 포함된다. CIO는 데이터가 다음 5가지 기준을 충족하도록 함으로써 데이터를 AI-레디 데이터로 전환할 수 있다.

● AI-레디 데이터는 윤리적으로 관리된다. 데이터는 등대 원칙에 부합해야 한다. 특히 대기업은 많은 데이터 및 분석 거버넌스의 범위가 세분화돼 있다. 각각의 이해관계자 집단은 모두 각자의 책임 영역에 가장 가까운 데이터 및 분석 아티팩트와 관련된 위험, 문제점, 가치 기회에 대해 서로 다른 목표, 책임 및 인식을 가질 것이다. 이러한 차이를 조율하지 않으면 AI는 심각한 결과를 초래할 수 있다.
● AI-레디 데이터는 안전하다. 누구나 데이터에 접근하지 못하도록 보호해야 한다. CIO는 조직의 데이터를 인터넷이나 다른 사람의 학습 데이터에 유출하지 않고도 라이선스를 취득해 LLM을 사용할 수 있는 기술을 채택해야 한다.
● AI-레디 데이터는 편향성이 최소화된 데이터다. 즉 빅데이터뿐만 아니라 광범위한 데이터를 요구한다. 연령, 인종, 배경이 같은 좁은 범위의 사람들이 아닌 다양한 출처로부터 데이터를 수집해야 한다.
● AI-레디 데이터는 풍부하다. 풍부한 데이터는 데이터에 규칙과 태그를 추가한 것으로, LLM에서 사용할 준비가 돼 있다. CIO는 데이터를 비즈니스 규칙에 일치시켜야 한다. 창고 로봇은 데이터 외에도 안전하게 움직이도록 도와줄 물리 법칙을 학습해야 하고, 재무 감사를 위해서는 회계 원칙을 학습시켜야 한다. 데이터 자체만큼 메타데이터가 중요하며, 반드시 방대한 데이터 세트가 필요한 것이 아니라 데이터와 그에 수반되는 규칙 및 태그가 필요한 것이다.
● AI-레디 데이터는 정확하다. 데이터는 정확한 답변을 제공할 때만 유용하다. 경우에 따라 사람이 데이터를 재확인해야 할 수도 있는데, 일례로 소매점에서 ‘111’이라는 시스템에 입력하기 가장 쉬워 반품에 가장 많이 사용된다는 사실을 AI가 학습하지 않도록 해야 한다.

AI-레디 데이터의 속성들은 상호 기반해 갖춰진다. 데이터가 더 잘 관리될수록 안전성이 높아지고, 편향성이 적을수록 데이터가 더 풍부해지며, 데이터가 풍부할수록 더 정확한 답변을 얻을 수 있다.

AI-레디 원칙 수립

인간과 기계가 상호 작용하는 새로운 시대에는 여러 예상치 못한 결과가 발생할 것이고 CIO가 내린 기술 결정은 경제, 사회, 윤리적 측면에서 중대한 영향을 미칠 것이다. 각국 정부는 AI 사용에 대한 규제를 마련하고자 노력하고 있지만, 일반적으로 규제는 기술 발전보다 늦다. 가트너 AI 설문조사에서도 42%의 CIO가 AI를 효과적으로 활용하기 위해 극복해야 할 과제로 규제의 명확성을 꼽았다.

CIO는 규제가 생겨 AI 사용 경계가 정의될 때까지 기다려서는 안 된다. 조직의 AI 의사 결정을 위해서는 무엇을 하고 무엇을 하지 않을 것인지 명확히 하는 선언문같이 나아갈 길을 밝혀주는 등대 원칙이 필요하다. 그러나 등대 원칙을 수립한 조직은 거의 없다. AI 설문조사 결과 CIO의 9%만이 조직에 AI 비전 선언문이 있다고 답했으며, 응답자의 3분의 1 이상이 선언문을 작성할 계획이 없다고 답했다.

AI와 함께 발전하기 위해 CIO는 조직의 가치에 부합하는 등대 원칙을 수립해야 한다. 조직의 가치는 인간과 기계의 상호작용 방법을 안내해야 하며 등대 원칙은 구체적이고 명확해야 한다. 만약 조직이 청렴성을 중시한다면 이러한 가치를 반영하고 조직을 보호할 등대 원칙을 수립해야 한다. “사용자 대상 AI 소프트웨어를 도입할 때마다 채용 판단 기준을 적용하고 잠재적 직원에게 하는 것과 동일한 질문을 한다”와 같은 구체적인 사항이 등대 원칙이 될 수 있다.

CIO를 위한 제언

CIO는 사람과 기계의 상호작용을 변화시키는, 기회와 위협을 동반하는 AI라는 파괴적인 혁신에 대응해 조직 내 AI의 역할을 결정해야 한다. 그러나 많은 윤리적, 사회적, 경제적 영향을 수반해 위험을 초래할 수 있는 기술 결정을 내리는 것은 쉽지 않다. 더욱이 CEO 및 경영진 또한 생성형 AI의 부정적 측면 완화를 위해 CIO에게 의존하고 있다.

얼마나 많은 위험을 감수할 수 있고, AI가 비즈니스 전략에 얼마나 필수적인지 정의한 조직의 AI 야망을 경영진에게 안내하고, 백오피스/프론트 오피스/새로운 제품 및 서비스/새로운 핵심 기능이라는 4개 영역에서 AI를 사용할 때 기회와 위험을 검토해 AI의 복잡성을 줄여야 한다. 그리고 보안, 데이터 및 원칙을 AI 레디 형태로 만들라. 이것이 조직의 현명한 AI 활용을 이끄는 데 도움이 되길 바란다.