[녹색경제신문 = 문슬예 기자] AX전문기업 LG CNS가 글로벌 AI 유니콘 기업 ‘코히어(Cohere)’와 추론형 LLM(Large Language Model)을 공동 개발했다. 특히 해당 모델은 추론 능력 검증 벤치마크에서 GPT-4o 등 글로벌 LLM보다 높은 점수를 기록한 것으로 나타났다.

10일 LG CNS는 코히어와 1110억개의 파라미터를 갖춘 추론형 LLM을 개발했다고 밝혔다. 이로써 LG CNS는 코히어와 공동 개발한 초대형·경량형 2종의 LLM과 LG AI연구원의 ‘엑사원(EXAONE)’ 등 LLM 라인업을 갖추게 됐다. 

이번에 개발한 LLM은 추론 등 핵심 성능에서 글로벌 상위 모델을 뛰어넘는 결과를 보였다. 양사의 자체 테스트 결과, 추론 능력 검증 대표 벤치마크 테스트인 △Math500과 △AIME 2024 영역에서 한국어, 영어 모두 GPT-4o, GPT4.1, 클로드 3.7 소넷 등 글로벌 LLM보다 높은 점수를 기록했다. 

또한 해당 모델은 한국어·영어·일본어·중국어는 물론 히브리어·페르시아어 등 소수언어 까지 총 23개 언어를 지원한다. 이 중, 한국어 평가 테스트에서는 온프레미스 방식의 LLM 중 현존 최고 수준의 성능(SOTA, State-of-the-Art)을 내는 것으로 나타났다.

LG CNS는 이번 개발로 지난 5월 코히어와 70억 개 파라미터로 구성된 한국어 특화 경량 모델을 출시한 지 두 달 만에 초대형 모델을 연이어 발표하며 생성형 AI 역량을 다시 한번 입증했다는 입장이다. 

향후 LG CNS는 LLM을 온프레미스 방식으로 제공해 고객사들이 민감한 데이터의 외부 유출 없이도 자체 인프라 내에서 안전하게 처리할 수 있도록 할 계획이다. 

이번에 선보인 LLM은 모델 압축 기술을 통해 2장의 그래픽처리장치(GPU)만으로 구동이 가능하다는 장점도 갖췄다. 통상 파라미터 1000억개 이상의 LLM에는 최소 4장의 GPU가 필요한 것으로 알려졌다. 

이를 통해 고객사들이 회사의 비즈니스 환경에 최적화된 LLM을 효율적인 비용으로 확보하면서도, 데이터와 인프라 주권을 확보하는 ‘소버린 AI’를 실현할 수 있다는 설명이다. ‘소버린 AI’는 국가나 기업이 자체 인프라를 기반으로 자국의 언어, 법, 문화 등을 반영한 독립적인 AI를 만들어 운영하는 것을 말한다.

LG CNS AI클라우드사업부장 김태훈 전무는 “차별화된 AI 역량과 경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX를 선도하는 최고의 파트너로 자리매김할 것”이라고 말했다.