[컴퓨터월드] 생성형 AI 출현 이후 기업들은 상당 시간을 AI 프로젝트에 투자해왔다. AI가 비즈니스 운영을 개선하고 새로운 수익을 만들 수 있을 것이란 기대는 시간이 지남에 따라 구체적인 AI 이니셔티브를 실행해 실질적인 비즈니스 가치를 창출해야 한다는 압박으로 바뀌기 시작했다.

그러나 AI 이니셔티브를 실행하는 과정에서 많은 기업이 어려움을 겪고 있다. 성공적인 실행을 위해서는 AI의 기술적 역량과 더불어 전략, 워크플로우, 의사 결정 프로세스를 재고하려는 전사적인 노력이 필요하다. 운영 모델을 구축함으로써 기업은 AI 이니셔티브를 개발하고 구현하는 데 일관되고 확장 가능한 접근 방식을 취할 수 있다.

이를 위해 기업은 조직 구조, 데이터, 리터러시, 거버넌스, 기술, AI 엔지니어링의 6가지 핵심 요소에 기반한 강력한 AI 운영 모델을 구축해야 한다.

1. 조직 구조

AI를 지원하기 위해 구성된 여러 분야의 전문가로 이루어진 팀(Multidisciplinary Team)에서, 구성원들 간의 효과적인 협업은 반드시 필요하다. 또한 기업 전체의 조율과 각 개별 부서의 유연성 그리고 부서간 균형을 맞추는 AI 조직 구조가 필요하다. 이는 종종 다른 사업부와 협력하는 AI 우수센터(Center of Excellence, CoE)를 통해 이루어진다.

기업의 AI 역량을 강화하는 것이 AI 구현의 핵심이다. 가트너 조사에 따르면, 성숙한 AI 기업의 87%가 AI 전담 팀을 보유하고 있는 것으로 나타났다. 이러한 AI 전담 팀은 분산형 모델에서 AI CoE를 갖춘 하이브리드 또는 통합 모델로 전환되고 있다.

2. 데이터

데이터는 AI 모델을 생성하고 학습시키며 특정 맥락에 맞게 활용하는 등 모든 과정에 빠지지 않는 필수 요소다. 그렇기 때문에 데이터 관리는 성공적인 AI 개발의 핵심이라 할 수 있다. 정형 데이터뿐만 아니라 비정형 텍스트, 시각적 데이터, 기타 내부 및 외부 데이터 소스에 모두 적용된다.

AI 기반 시스템을 통해 기업들이 경쟁력을 갖추기 위해서는 데이터와 데이터 관리의 준비 상태를 반드시 파악해야 한다. 가트너 조사에 따르면, AI 기반의 데이터를 보유하고 있는 기업은 그렇지 않은 기업보다 30%~50%의 이익을 더 창출하는 것으로 나타났다.

3. 리터러시

모든 AI 이니셔티브에는 기술 전문가, 리스크 관리자부터 비즈니스 관리자, AI 사용자에 이르기까지 다양한 역할을 담당하는 인재와 기술이 필요하다. AI 리터러시 프로그램은 교육, 지식 공유, 지침을 통해 이러한 역할과 기술 발전을 가속화하는 것을 목표로 한다. 또한, 문화, 준비성, 일반 교육에 대한 팀의 역량을 강화해 모든 직원들이 AI 분야에 대한 이해를 공유하도록 지원한다.

4. 거버넌스

AI를 책임감 있고 공정하며 윤리적인 방식으로 활용하려면 AI 거버넌스를 갖춰야 한다. 이와 더불어, 신뢰성, 보안, 안전, 지속가능성 및 기타 영역과 관련된 위험도 효과적으로 완화할 수 있어야 한다. 보다 많은 국가와 지역에서 새로운 AI 법률 및 규제를 도입하고 있는 만큼 거버넌스의 중요성은 더욱 커지고 있는 상황이다.

AI 거버넌스 활동으로는 정책 수립, 의사결정 권한 부여, 조직의 규제 준수 보장 등이 있으며, AI 기반 시스템의 위험과 투자 결정에 대한 책임도 보장한다. 성숙한 AI 기업에서는 AI 개인정보 보호, 보안 및 위험 관리 프로그램 구현에 다양한 부서가 관여한다.

5. 기술

AI는 그 자체로 존재하지 않는다. 사용 사례에 따라 수많은 기술, 도구, 프레임워크, 플랫폼, 인프라가 필요하다. 이는 클라우드 전략, 플랫폼 아키텍처, 도구 및 방법 표준화, 확장성, 비용 및 기타 기술적 측면과도 관련 있다.

얼마나 빨리 AI가 구현되는지는 어떤 기술을 선택하느냐에 따라 결정된다. 가트너 조사에 따르면, 응답자의 70% 이상이 기업에서 AI 개인정보 보호, 보안 및 리스크 관리 도구를 도입했다고 답했으며, 이러한 도구에 투자한 기업은 규제 준수, 수익 증대, 비용 최적화 측면에서 보다 괄목할 만한 성과를 달성한 것으로 나타났다.

6. AI 엔지니어링

AI 엔지니어링은 데이터옵스(DataOps), 모델옵스(ModelOps), 데브옵스(DevOps)와 같은 분야를 통합해 AI 솔루션이 혁신적이고 확장 가능하며 유지 보수가 용이하도록 만든다. 전사적으로 AI 엔지니어링 관행을 표준화하면 워크플로우의 효율성 향상, AI 솔루션의 시장 출시 소요 시간 단축, 성공적인 AI 구현 가능성 증가의 효과를 얻을 수 있다.

AI를 실험하는 단계에서 이니셔티브 실행 단계로 나아가는 시도는 단순한 기술 혁신 이상의 복잡한 여정이다. 성공적인 AI 구현을 위해서는 조직 구조, 데이터, 리터러시, 거버넌스, 기술, AI 엔지니어링의 기본 요소를 아우르는 전략적이고 포괄적인 접근 방식이 필요하다. AI 전략을 성공적으로 구현하는 기업은 AI 시대에서 시장 경쟁에서 앞서 나갈 뿐 아니라, 미래의 AI 기반 기업이 어떤 비즈니스 혁신을 전개할지 기준을 정립할 수 있다. 이를 주도하기 위해서는 지금 바로 행동에 나서야 한다.