LG CNS, 코히어와 ‘추론형 LLM’ 개발…23개 언어 지원

[한국금융신문 정채윤 기자] LG CNS(대표 현신균)는 글로벌 인공지능(AI) 유니콘 기업 ‘코히어’와 손잡고 1110억개 파라미터를 갖춘 추론형 거대언어모델(LLM)을 공동 개발했다고 10일 밝혔다.

해당 모델은 한국어, 영어 등 23개 언어를 지원하고 모델 압축을 이용해 2장의 그래픽처리장치(GPU)만으로 구동 가능하다. 파라미터 1000억개 이상 LLM의 경우 통상 GPU 4장 이상이 필요하다.

LG CNS에 따르면 이 모델은 대표적인 추론 능력 검증 테스트 ‘매쓰(Math)500’와 ‘미국 초청 수학 시험(AIME 2024)’ 영역에서 한국어, 영어 모두 GPT-4o, GPT4.1, 클로드 3.7 소넷 등 글로벌 LLM보다 높은 점수를 기록했다.

앞서 LG CNS는 지난 5월 코히어와 70억개의 파라미터로 구성된 한국어 특화 경량 모델도 선보인 바 있다. 추론형 LLM은 AI가 복잡한 문제에 대해 여러 변수를 고려해 논리적인 해답을 도출한다. AI가 스스로 판단하고 작업을 수행하는 '에이전틱 AI' 서비스 구현에 필수적인 기술로 꼽힌다.

LG CNS는 코히어와 공동 개발한 초대형·경량형 2종의 LLM과 국내 대표 AI 모델인 LG AI연구원의 ‘엑사원’ 등 LLM 라인업을 갖춰 고객이 맞춤형 에이전틱 AI 서비스를 만들 수 있는 기반을 마련했다. 에이전틱 AI는 AI가 스스로 판단, 추론해 복잡한 작업을 수행하는 차세대 인공지능으로 비즈니스 자동화, 최적화 등에 활용도가 높다.

LG CNS는 이번 LLM 개발을 위해 코히어의 기업용 LLM인 ‘커맨드’ 모델에 LG CNS가 국내 전 산업 분야에서 축적한 IT 전문성과 AI 기술력을 결합했다. 코히어 커맨드 모델은 이미 캐나다 최대은행 RBC 등에서 온프레미스(기업 내부망)와 클라우드 방식으로 사용되고 있어 글로벌 기업에서 검증된 바 있다.

LG CNS 관계자는 “고객사들은 회사의 비즈니스 환경에 최적화된 LLM을 효율적인 비용으로 확보하면서도 데이터와 인프라 주권을 확보하는 소버린 AI(주권형AI)를 실현할 수 있다”고 설명했다.

LG CNS는 LLM을 온프레미스 방식으로 제공해 고객사들이 민감한 데이터의 외부 유출 없이도 자체 인프라 내에서 안전하게 처리할 수 있도록 할 계획이다. 또 코히어와의 지속적인 협력을 이어가며 LLM 성능을 고도화해 나간다는 방침이다.

김태훈닫기김태훈기사 모아보기 LG CNS AI클라우드사업부장(전무)은 “차별화된 AI 역량과 경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX를 선도하는 최고의 파트너로 자리매김할 것”이라고 말했다.

정채윤 한국금융신문 기자 chaeyun@fntimes.com