“생성형 AI, 가장 많이 배포된 AI 솔루션”

가장 많이 배포하는 AI 솔루션으로 ‘생성형 AI’ 꼽혔다. 또 응답자 중 1/3은 ‘기존 애플리케이션에 내장된 생성형 AI’를 주된 생성형 AI로 활용하고 있다고 전했다.

8일, 가트너(Gartner)는 작년 4분기에 실시된 설문조사를 통해, 생성형 AI가 기업에 가장 많이 배포된 AI 솔루션 유형이라고 발표했다.

응답자 중 29%는 생성형 AI를 구축해 사용 중이며, 가장 많이 배포하는 AI 솔루션으로 생성형 AI를 꼽았다.

이는 그래프 기술, 최적화 알고리즘, 규칙 기반 시스템, 자연어 처리, 기타 유형의 머신 러닝 등 다른 솔루션보다 더 높은 것으로 나타났다.

1/3에 달하는 34%의 응답자는 ‘마이크로소프트 365 코파일럿’ 또는 ‘어도비 파이어플라이’와 같이 기존 애플리케이션에 내장된 생성형 AI를 활용하는 것이 가장 주된 활용법이자 생성형 AI의 사용 사례를 충족하는 최적의 방법이라고 응답했다.

이는 엔지니어링을 통한 생성형 AI 모델 커스터마이징(25%), 맞춤형 생성형 AI 모델 훈련 및 미세 조정(21%), 챗GPT, 제미나이 등의 독립형 생성형 AI 도구 사용(19%) 등 다른 방법보다 자주 사용되는 것으로 나타났다.

레이나 라모스(Leinar Ramos) 가트너 시니어 디렉터 애널리스트는 “생성형 AI는 기업 내 AI 확장을 위한 촉매제 역할을 한다”며 “생성형 AI는 리더들에게 다양한 기회를 제공하는 동시에, 이를 활용해 대규모 가치를 전달할 수 있는지 물음표를 던지기도 한다”라고 말했다.

절반가량(49%)의 응답자는 AI 도입에서의 가장 큰 장애물로 AI 프로젝트 가치 추정과 입증을 꼽았다.

▲ AI 기술 구현의 주요 장애물.(출처 : 가트너 제공)

이는 인력 부족, 기술적 어려움, 데이터 관련 문제, 비즈니스 연계 부족, AI에 대한 신뢰 부족 등 다른 요소보다 더 높은 응답을 기록했다.

라모스 시니어 디렉터 애널리스트는 “AI와 관련한 비즈니스 가치는 조직이 지속적으로 직면하는 과제다. 조직은 AI를 확장할 때 프로젝트 총 소유비용과 함께, 생산성 향상 너머의 광범위한 이점도 고려해야 한다”라며 “생성형 AI는 비즈니스 전반에 걸쳐 AI 채택 수준을 높였고, 이를 통해 AI 숙련도 향상과 AI 거버넌스와 같은 후속 논의가 이어졌다. 생성형 AI는 기업이 AI 역량을 높이도록 강제하고 있다”라고 말했다.

또한 이어 “AI를 활용한 비즈니스 가치 창출에 어려움을 겪고 있다면, 성공적인 AI 조직의 모범 사례를 참고할 수 있다”며 “성숙한 AI 조직은 다양한 비즈니스 부서와 프로세스에 걸쳐 AI를 더 광범위하게 적용하고, 보다 오래 유지되는 사용 사례를 더 많이 도입하는 조직을 말한다”라고 덧붙였다.

설문조사에 따르면 기업의 9%가 현재 AI 성숙기에 있으며 이에 해당하는 기업은 ▲중앙집중식, 탈중앙화 기능의 균형을 맞출 수 있는 확장 가능한 AI 운영 모델 활용 역량 ▲AI 프로젝트 구축, 배포하는 체계적인 방법을 설계하는 AI 엔지니어링 역량 ▲기업 전반에 걸친 AI 숙련도 향상과 변화 관리에 대한 투자 역량 ▲AI 도입에 따른 위험 완화, 개선된 사업 성과 창출을 위한 신뢰, 위험, 보안 관리(TRiSM) 역량 등 4가지 기본 역량에 집중하는 것으로 나타났다.

라모스 시니어 디렉터 애널리스트는 “AI 성숙 단계에 접어든 기업은 AI 기술과 관련해 어떤 일이 발생하더라도 관련성을 유지할 수 있는 기본 역량에 투자한다. 이를 통해 더 큰 규모의 AI를 더 효율적이고 안전하게 배포할 수 있다”라고 말했다.

기본 역량에 집중하면 기업은 성숙도를 높이고 AI 프로젝트를 도입하는 데 따르는 여러 어려움을 완화할 수 있다.

설문조사에 따르면, 평균적으로 AI 프로젝트의 48%만이 실무에 적용되며, 초기 단계에서 실무에 적용하기까지는 8개월이 걸리는 것으로 나타났다.

<김동기 기자>kdk@bikorea.net