IT 시장분석 및 컨설팅 기관인 인터내셔날데이터코퍼레이션코리아)가 'IDC 서베이 스포트라이트(Survey Spotlight): 아시아 태평양 지역 조직의 생성형 AI도입 및 적용 동향‘ 리포트를 발간했다.

보고서에 따르면, 아시아 태평양 지역 조직의 32%는 생성형 AI 기술에 적극적으로 투자할 것이라고 답했으며, 38%는 생성형 AI 적용을 위해 다양한 사용 사례를 참고할 것이라고 응답한 것으로 나타났다. 앞으로 디지털 퍼스트 조직은 엔터프라이즈 인텔리전스를 향상시키기 위해 생성형 AI를 핵심 요소로 적용하고 마케팅, 영업, 고객 지원, 리서치 및 개발, 디자인, 제조, 공급망 그리고 금융 등 다양한 산업의 업무 분야에서 적극적으로 활용할 것으로 보인다.

생성형 AI 기술의 소프트웨어 활용 사례를 살펴보면, 아시아 태평양 지역에서 가장 많이 활용되는 사례는 지식 관리(Knowledge management)인 것으로 나타났다. 기업은 AI기반 지식 관리를 통해 다양한 유형의 이미지, 문서, 음성 및 기타 형식의 대규모 정보 저장소에 접근하고 검색에 활용한다. 코드 생성이 두 번째로 많이 활용되는 사용 사례로 꼽혔다. 이는 애플리케이션 프로그래머가 코드의 생성, 최적화, 완료, 테스트 및 디버그하는 과정에 이용되며, 프로그래머의 생산성과 코드의 품질을 향상시키는 이점이 있다. 이 밖에도 생성형 AI는 마케팅 자동화 및 대화형 애플리케이션과 같은 고객 대면 서비스에 활용되며 마케터가 고도로 맞춤화된 마케팅 콘텐츠와 검색 엔진에 최적화된 콘텐츠를 만들 수 있도록 지원한다.  

AI 기술에 대한 관심이 고조되며 MaaS(Model As A Service) 오퍼링을 제공하는 하이퍼스케일러 및 클라우드 서비스 공급업체, 포인트 솔루션을 제공하는 AI 엔지니어링 업체, 이러한 솔루션을 호스팅할 수 있는 인프라를 판매하고자 하는 전문 스토리지 업체 등 다양한 기술 공급업체가 시장 기회를 포착하고 우위를 선점하기 위해 시장에 적극적으로 참여하고 있다. 

또한, 대규모 언어 모델(LLM)을 테스트하기 위해 필요한 데이터는 방대하기 때문에 개인정보와 같은 민감한 데이터 사용, 데이터 편향 등과 같은 문제를 해결하기 위해 모델 훈련 목적으로 활용할 수 있는 합성 데이터를 제공하는 기업이 급증하는 추세다.

기업 관점에서 생성형 AI를 실용적으로 활용하는 것은 마케팅, 고객 관리 및 코드 생성을 위한 즉각적인 솔루션을 구현하는 것만큼 간단할 수 있다. 기술 공급업체는 현재 다양한 산업 분야에서 생성형 AI를 내재화하고 있지만, 대규모 언어 모델 활용 시 특정 사용 사례에 맞게 데이터를 채택, 학습 및 미세 조정해야한다는 점에서 막대한 컴퓨팅 및 에너지 비용을 수반한다는 단점이 있다. 이에 대한 대안으로 등장한 프롬프트 엔지니어링의 경우 올바른 응답을 도출하기 위해 ’자연어‘ 유형 쿼리를 작성하여 모델을 훈련시키는 단순화된 방법을 제공한다. 

프롬프트 튜닝을 통해 모델을 재교육하거나 매개 변수를 조정하지 않고 모델을 더 간단하게 교육하여 컴퓨팅 요구사항을 낮추는 방식이다. 기술 활용에 대한 접근 방식과 무관하게 모델자체가 무겁다는 특징으로 인해 기본 인프라와 관련된 고유한 비용이 발생한다. 컴퓨팅 가격은 데이터 센터를 설정하기 위한 초기 투자의 형태이거나 MAAS 오퍼링의 가격에 포함되어 있어서 이를 무시하기는 어려운 것이 현실이다.

생성형 AI의 적용과 관련한 여러 이슈들이 부상하면서 데이터 개인 정보 보호 및 보안, IP 권한 및 AI 생성 콘텐츠의 잠재적 오용과 관련된 문제 해결에 대한 논의가 활발해지고 있다. 각국의 정부는 새로운 정책을 수립하기보다는 기존 정책을 고수하는 추세지만, 그럼에도 AI에 대한 세계 각국의 규제 방침은 각기 다르다. 인도 정부는 AI를 디지털 경제의 핵심 요소로 보고 기술 발전을 저해하는 AI 규제에 반대하는 입장이다. 

일본 정부는 AI 기술에 대한 세계적인 흐름에 동참하기 위해 AI 기술을 홍보하기 위한 협의회를 설립한 반면, 중국의 국가사이버정보판공실(CAC)은 공식적인 출범 전에 생성형 AI에 대한 보안 평가와 해당 기술이 미치는 영향을 공개하며 비교적 부정적인 행보를 보였다. AI에 대한 여러 우려에도 불구하고 현재 아시아 태평양 지역에서 생성형 AI에 대한 법 규제는 디지털 경제의 혁신 정신을 흐릴 수 있다는 이유로 아직 제대로 마련되지 않은 상황이다. 현재 세계 각국이 AI 규제와 관련해 상이한 단계에 있으므로 해당 기술에 대한 보다 공통되고 일관된 접근이 필요하다.

IDC 아시아 태평양 지역 빅데이터 및 AI 리서치 헤드 디피카 기리(Deepika Giri)는 "생성형 AI는 조직의 환경을 이전과 다른 새로운 방식으로 재창조할 수 있는 잠재력이 있다. 그러나 AI기술을 적용할 때 내재된 복잡성과 위험성을 간과해서는 안된다. 생성형 AI 기술은 현재 대부분 활용 초기 단계에 머물러있기 때문에 공급 업체들이 AI 기술과 관련된 개인 정보 보호, 보안, 정확성, 저작권, 편향 및 남용 문제를 아직 완전히 해결하기는 어렵다”고 언급했다.

본 보고서에 대한 자세한 분석은 IDC 웹사이트를 통해 확인 가능하다.