“국내 조직 72%, 이미 생성형 AI 사용 중”

한국 조직의 72%는 이미 생성형 AI를 ‘현재 사용 중’이라고 응답한 것으로 나타났다.

2일 한국IDC(https://www.idc.com/kr)는 최근 발표한 ‘국내 생성형 AI 업무 적용 사례 연구(Generative AI Use Cases: Adoption and Priorities in Korea)’ 보고서에서 아시아 태평양 지역 조직의 생성형 AI 도입에 대한 설문 결과를 소개하고, 국내 10개 기업 및 공공 기관의 생성형 AI 업무 적용 사례를 분석했다.

보고서에 포함된 아시아 태평양 지역 조직의 생성형 AI 도입 현황 설문에 따르면 한국 조직의 72%가 생성형 AI를 이미 ‘현재 사용 중’이며, 이는 AP 지역 평균 59.5%보다 12.5% 포인트 높은 도입률이다.

또한 한국 조직의 47.2%는 2024년에 10개 이상의 생성형 AI 유즈케이스를 배포할 예정이며, 2025년에는 48%의 한국 조직이 50개 이상의 생성형 AI 유즈케이스를 배포할 계획이라고 응답했다.

특히, 아시아 태평양 지역 조직의 69.6%, 한국 조직의 78%가 생성형 AI 도입으로 인해 직원 생산성이 개선됐다고 평가함에 따라, 향후 엔터프라이즈 생성형 AI 도입이 더 가속화될 것으로 IDC는 전망했다.

▲ (출처 : 한국IDC 제공)

보고서에서는 LG전자, 포스코홀딩스, ㈜한화, 스타벅스, 한국은행, 국회도서관 및 한국전력 등 국내 기업의 사례를 중점적으로 분석한다. 

LG전자는 제품 기획과 개발 업무를 맡은 직원들이 전문적인 IT 지식 없이도 수백 테라의 데이터를 분석할 수 있도록 SQL 코드를 생성하는 사내 AI 시스템을 마련했다.

포스코홀딩스는 세계 2차 전지 시장 뉴스를 준실시간으로 분석하고 2차 전지 전문용어까지 정확하게 처리하는 고성능 RAG 시스템과 이슈 추천 시스템을 연계 구축했다.

㈜한화의 경우, 건설 사업 관련 법조문 검색의 정확성 개선을 위해 법리 해설서를 RAG 파이프라인에 통합했으며, 스타벅스는 바쁜 매장 파트너의 빠른 지식검색을 위해 서버리스 NoSQL 데이터베이스를 AI 시스템에 결합해 응답시간을 개선한 것으로 나타났다.

금융부문에서는 정부 데이터 보안 규정을 준수하기 위해 자체 언어모델을 내부에서 직접 구축한 한국은행의 사례를 소개한다.

공공부문에서는 한국어 전용 온프레미스 설치형 sLM(Small Language Model)과 전통적 빅데이터 분석 서비스를 통합한 국회도서관, 저사양 인프라에서도 거대 언어모델을 운영하기 위해 다양한 오픈소스 모델과 메모리 효율화 프레임워크를 테스트한 한국전력 등의 사례가 수록되어 있다.

IDC는 이 보고서의 사례 연구에 나타난 주요 인사이트가 생성형 AI 업무 적용을 확대하려는 국내 기업들에게 구체적인 벤치마크 콘텐츠가 될 것으로 분석했다.

생성형 AI 도입으로 인해 엔터프라이즈 데이터 관리 전략에 새로운 요구사항이 추가되고 있어 향후 빅데이터 플랫폼과 AI 애플리케이션 플랫폼을 아키텍처 수준에서 통합하는 추세가 나타날 것이라는 전망이다.

전대일 한국IDC AI리서치 담당 수석연구원은 “IDC 설문이 한국 사회의 기술 얼리어답터 특성을 보여준다면, IDC 사례 연구는 국내 조직의 생성형 AI 도입을 이끄는 리더와 전담팀의 품질에 대한 집착을 보여준다”며 “인터뷰에 참여한 많은 조직은 일반적인 레퍼런스 모델을 신속히 구현하는 전시성 사업을 경계하고 있으며, 실제 자사 임직원이 만족할 수 있는 AI 성능을 제공하기 위해 대상 업무에 특화된 데이터 엔지니어링 문제를 해결하는데 많은 공수를 투입하고 있다. 또한 특정 AI 모델에 종속되지 않기 위해 다양한 모델을 비교 테스트해 선정하거나 심지어 직접 모델을 개발하는 방안도 검토하는 등 생성형 AI 적용에 있어서 빠른 도입 속도와 포괄적인 접근을 동시에 보여준다”고 언급했다.

<김동기 기자>kdk@bikorea.net