IBM 컨설팅이 생성형 AI를 위한 엑설런스 센터(Center of Excellence)를 구축했다. 지금까지 40,000여 건의 엔터프라이즈 고객 프로젝트를 수행해 온 2만 1,000여 명의 데이터/AI 컨설턴트를 보유한 IBM 컨설팅의 기존 글로벌 AI/자동화 서비스와 함께 운영된다. 

이미 생성형 AI 전문 컨설턴트 1,000여 명이 글로벌 고객들의 인사관리(HR), 마케팅 등과 같은 핵심 비즈니스 프로세스와 IT 운영 부문의 생산성을 높이고, 고객 경험을 개선하고 새로운 비즈니스 모델을 창출할 수 있도록 지원하고 있다.

생성형 AI는 실험 단계를 지나 빠르게 발전하고 있다. 기업에서 고객 서비스 개선, 신규 시장 기회 발굴 등의 목적으로 이 기술을 도입하기 시작했다. IDC는 AI 서비스 시장의 규모가 2023년 기준 약 360억 달러(USD)에서 2026년에는 약 650억 달러 수준에 이를 것으로 예상한다. 그와 동시에 편향을 줄이고 데이터 보안을 관리하고 정확성과 리스크를 반영하는 방법에 관한 논의가 계속되고 있다. 

IBM은 수년간 쌓은 AI 분야에서의 전문성을 토대로 확장 가능한 엔터프라이즈급 AI를 구현하기 위해서는 자유로운 구성이 가능한 다중 모델 전략, 그리고 인간 중심적이고 원칙에 입각한 접근 방식이 필요하다고 보고 있다.

IBM기업가치연구소(IBV)가 기업 임원을 대상으로 실시한 최근 설문 조사 에 의하면, 생성형 AI는 기업의 재무(34%), HR(41%), 공급망(45%), 마케팅 및 영업(40%), 고객 서비스(57%), IT 서비스 및 기술(63%) 등의 분야에 쓰이고 있다. 생성형 AI는 일상적인 작업을 자동화하는 데 기여하고 이로 인해 직원은 더 큰 가치를 창출할 활동에 집중할 수 있게 된다. 

창의적인 콘텐츠나 코드 개발, 콘텐츠 요약 및 검색 등의 혁신적인 기능으로 직원 역량도 강화할 수 있다. 이번 조사에서 임원들은 내년에 조직 구성원의 절반 가까이가(48%) 각자의 일상 업무에 생성형 AI를 활용할 것으로 예상했다.

엑설런스 센터는 파운데이션 모델 및 50여 개의 분야별 기존 머신 러닝 액셀러레이터를 포함한 생성형 AI 기술 스택의 전 범위를 활용하면서 고객의 생산성 향상 및 혁신을 지원한다. IBM 컨설팅의 고유 서비스인 AI 어드바이저 툴킷도 내부 운영 및 고객 서비스 개선에 활용될 예정이다. 마지막으로, 고객 및 파트너와 함께 새로운 솔루션과 자산 개발에 IBM 리서치(IBM Research)에서 지금까지 개발하거나 개발할 예정인 생성형 AI 혁신 기술이 활용된다.

새롭게 구축된 엑설런스 센터는 빠르게 순항 중이다. IBM 컨설팅은 2023년에만 100여 개 고객과 협력하면서 기존 머신 러닝 AI 전략에 생성형 AI를 접목하는 프로젝트 수십 건을 완료했다. 

대표적으로는 미국 골프 대회인 ‘마스터스(The Masters)’에서 수백만 명의 팬에게 AI에서 생성한 음성 스포츠 해설을 제공하고, 미쓰이 케미칼(Mitsui Chemicals)에서 생성형 AI와 IBM 왓슨(IBM Watson)을 결합해 제품의 새로운 활용 분야를 탐색하고 있으며, 브이그 텔레콤(Bouygues Telecom)이 고객 관계 관리 프로세스에 생성형 AI 적용하는 프로젝트에 협업했다. 몇몇 고객들은 IBM의 파운데이션 모델을 적용하는 초기 단계에서 가치 창출 시간을 기존 AI 모델 대비 최대 70% 단축하는 성과를 거둔 것으로 나타났다.