노타, EMNLP 2026서 MoE 양자화 논문 2편 채택

기사입력2026.08.25 09:49

큐웬 3.8 맥스 구동 GPU 24장→4장 축소, LLM·데이터센터 최적화 기술 적용 확대

AI 모델 경량화·최적화 기업 노타(Nota AI)가 자연어처리(NLP) 분야 국제학술대회 EMNLP 2026에서 논문 2편을 채택받으며 LLM 최적화 연구 성과를 잇따라 내놓고 있다. 큐웬 3.8 맥스 구동에 필요한 엔비디아 B300 GPU를 24장에서 4장으로 줄이는 등 데이터센터 AI 인프라 영역으로 기술 적용 범위를 넓히고 있다.

노타는 25일 EMNLP 2026 메인 컨퍼런스(Main Conference)와 파인딩스(Findings)에 초거대 AI 모델 최적화 논문이 각 1편씩 채택됐다고 밝혔다.

올해 대회에는 약 1만8,000편이 제출됐으며 메인 컨퍼런스 채택률은 15.4%였다.

EMNLP는 구글, 메타, 오픈AI 등이 최신 연구를 발표하는 NLP 분야 대표 학회다.

채택된 두 논문은 모두 전문가 혼합 모델(Mixture of Experts, MoE)의 양자화 과정에서 발생하는 성능 저하 문제를 다룬다.

MoE는 입력에 따라 일부 전문가만 연산하지만, 전체 모델을 메모리에 올려야 해 실제 운영 시 대규모 GPU가 필요하다.

양자화로 이를 줄이면 전문가 선택이 달라져 답변 품질이 떨어질 수 있다.

메인 컨퍼런스 채택 논문은 양자화가 다음 단계 전문가 선택에 미치는 영향까지 반영한 ‘MENDS-MoE’ 방법론을 제시했다.

3종 MoE 모델에 대한 4비트·3비트 양자화 실험에서 비교 기술보다 높은 평균 정확도를 기록했다고 노타 측은 설명했다.

파인딩스 채택 논문은 답변에 실제로 영향을 미치는 전문가 선택 변화에만 최적화를 집중하는 ‘OPERA’ 방법론을 제안했다.

노타는 이번 논문 채택에 앞서 ICML 2026 ‘AdaptFM’ 워크숍 ‘Efficient Qwen Competition’에서 전 세계 약 40개 팀 가운데 3위를 차지했다.

큐웬 3.5-4B를 엔비디아 A10G GPU 1장으로 구동하며 기존 대비 평균 6.978배 빠른 추론 속도를 구현했다고 밝혔다.

같은 워크숍에서도 MoE 양자화 논문 2편이 채택된 바 있다.

실제 모델 적용 결과도 공개했다.

△큐웬 3.8 맥스(매개변수 1조 개 이상) B300 GPU 24장→4장 △문샷AI ‘키미 K3’ B300 GPU 8장→최대 4장 △업스테이지 ‘솔라 오픈 2’ H100 GPU 8장→2장으로 각각 줄일 수 있다고 노타는 설명했다.

노타는 현재까지 국내외 주요 학회·저널에서 프루닝, 양자화 원천기술부터 비전언어모델(VLM), LLM까지 50여 건의 연구 성과를 발표했다.

채명수 노타 대표는 “AI 산업의 경쟁축이 모델 성능을 넘어 운영 효율로 이동하는 가운데, 이번 성과는 초거대 언어모델과 데이터센터 AI 인프라의 효율을 높일 기술적 기반을 확보했음을 보여준다”며 “AI 인프라 도입의 효율을 높이는 핵심 최적화 기술 적용 범위를 넓혀가겠다”고 말했다.

#데이터센터 #AI 인프라 #양자화 #MoE #LLM 최적화 #Nota AI #Qwen #EMNLP 2026 #GPU 효율화

본 기사에 대한 정정·반론·추후보도 청구는 보도 청구 안내를, 그간 게재된 보도문은 정정·반론보도 모아보기를 참고해 주세요.