1000억(100B) 파라미터급 고성능 MoE 아키텍처 적용
MLA 기술로 메모리 83% 절감 등 효율성 극대화
[토요경제 = 이강민 기자] NC AI가 산업 특화 독자 AI(Sovereign AI) 모델을 오픈소스로 공개한다.
 |
| ▲ 대국민 보고회에서 발표하고 있는 NC AI 이연수 대표/사진=NC AI |
NC AI 컨소시엄은 31일 대한민국 산업 전반의 AI 전환(AX)에 활용될 수 있는 독자 AI 파운데이션 모델 ‘배키(VAETKI)’를 허깅페이스에 오픈소스로 공개한다고 밝혔다.
‘VAETKI’는 이름 그대로 대한민국 핵심 산업의 혁신을 위한 산업 특화 AI 모델이다. 범용적인 LLM을 넘어 산업 현장의 특수성과 보안 요구사항을 충족하는 독자 AI를 표방한다.
이를 위해 NC AI는 롯데이노베이트, 포스코DX, MBC, 카이스트(KAIST), ETRI, 고려대 등 산·학·연 14개 기관 및 40개 수요처가 참여하는 ‘그랜드 컨소시엄’을 구축해 데이터 확보부터 모델 개발, 실증 확산에 이르는 전 주기를 아우르는 생태계를 완성했다.
VAETKI는 1000억(100B) 개 이상의 파라미터를 가진 대형 모델이지만 전문가 혼합(MoE) 아키텍처를 적용하여 추론 시에는 필요한 11B 파라미터만 활성화된다. 이는 고성능을 유지하면서도 운영 비용을 획기적으로 절감하는 기술이다.
특히 독자적으로 고도화한 MLA(Multi-Head Latent Attention) 기술을 통해 기존 모델 대비 메모리 사용량을 최대 83% 줄이고 연산 속도를 비약적으로 높여 고비용 GPU 인프라가 부족한 산업 현장에서도 즉시 활용 가능한 수준을 구현했다.
NC AI는 VAETKI는 초거대 모델(100B)부터 현장 설치형 경량 모델(sLLM), 시각 정보를 처리하는 시각언어모델(VLM)까지 ‘멀티 스케일’ 라인업으로 보안이 생명인 국방이나 반도체 기업이 내부 서버에 구축하여 데이터 유출 걱정 없이 사용할 수 있는 최적의 솔루션이라고 밝혔다.
NC AI 이연수 대표는 “NC AI의 목표는 단순히 성능 좋은 모델을 만드는 것이 아니라, 한국의 제조, 국방, 콘텐츠 산업이 AI라는 날개를 달고 글로벌 톱으로 비상하게 만드는 것”이라며 “NC AI가 게임에서 축적한 AI 기술이 이제 현실 세계의 공장을 돌리고 국가 안보를 지키며 K-컬처를 확산시키는 핵심 엔진이 될 수 있도록 최선을 다할 것”이라고 밝혔다.
토요경제 / 이강민 기자 lgm@sateconomy.co.kr
[저작권자ⓒ 토요경제. 무단전재-재배포 금지]
