
이번에 무료 공개한 오픈소스는 원천기술로 추론 능력과 경량화 기술을 결합해 개발한 인공지능(AI)이다.
하이퍼클로바X 시드 14B 씽크는 지난달 30일 발표된 추론모델 하이퍼클로바X 씽크를 안정적, 비용 효율적으로 서비스에 접목할 수 있게 경량화한 모델이다.
또 중요도가 낮은 파라미터를 가지치기하되 원본 모델이 가진 지식을 최대한 보존시켰다. 가지치기 과정에서 손실이 생긴 큰 모델의 지식을 작은 모델에 전이하는 방식으로 학습 비용을 크게 낮춘 것이 특징이다.
네이버에 따르면 해당 모델은 140억개 파라미터 규모의 모델임에도 불구하고, 5억개 파라미터로 구성된 글로벌 오픈소스 모델보다 더 적은 비용(GPU Hours)으로 학습됐다. 동일 크기 글로벌 오픈소스 모델과 비교하면 1회 학습 비용은 약 100분의 1 수준이다.

성낙호 네이버클라우드 하이퍼스케일 AI 기술 총괄은 “독자적 기술로 생성형 AI 모델을 꾸준히 업그레이드하면서 구축한 고성능 플래그십 모델과, 수많은 실험과 개선을 통해 설계한 효율적인 학습 전략을 바탕으로 동일 규모에서 비용·성능 등이 더 효과적인 추론모델을 구축할 수 있었다”며 “해외 상용 모델을 개조한 기술로 그들의 생태계에 편입되기보다는, 토대부터 자체 기술로 구축한 하이퍼클로바X가 한국 AI 생태계의 본격적 성장을 이끌 수 있기를 기대한다”고 말했다.
[관련기사]
가장 핫한 경제 소식! 한국금융신문의 ‘추천뉴스’를 받아보세요~
데일리 금융경제뉴스 Copyright ⓒ 한국금융신문 & FNTIMES.com
저작권법에 의거 상업적 목적의 무단 전재, 복사, 배포 금지