생성형 AI가 엣지 디바이스와 산업 현장으로 확산되면서 온디바이스 환경에서의 모델 경량화·최적화 역량이 부각되는 가운데, AI 모델 최적화 기업 노타가 국내 주요 학술대회에서 관련 경진대회를 열고 개발자·연구자 생태계와의 접점을 넓혔다.

노타(대표 채명수)는 29일, 제주에서 열린 한국컴퓨터종합학술대회(KCC 2026)에서 ‘넷츠프레소와 함께하는 온디바이스 AI 최적화 경진대회’를 개최했다고 밝혔다.

이번 대회는 노타의 AI 최적화 플랫폼 넷츠프레소(NetsPresso®)를 기반으로, 제한된 하드웨어 자원 환경에서 AI 모델의 실행 효율을 끌어올리는 것을 과제로 삼았다.

우승은 중앙대학교 ‘에코프루너’팀이 차지했다.

이 팀은 소형 디바이스에서 LLM을 구동하는 최적화 방안을 제안해 토큰당 응답 지연시간을 약 6.7배, 첫 응답 생성 시간을 약 4.0배 단축했으며, 메모리 사용량은 약 85% 줄였다.

모델 품질 지표는 기존 수준을 유지해 속도·메모리·품질 간 균형을 확인했다.

최우수상은 성균관대학교 ‘팀 아이리스’가, 우수상은 ‘DKE’와 ‘감자밭’ 2개 팀이 각각 수상했다.

노타는 경진대회와 별도로 KCC 2026 현장에 채용 부스를 운영하고 특별 강연을 진행하며 AI 최적화 기술의 산업적 활용 방향을 소개했다.

심사위원으로 참여한 김태호 노타 최고기술책임자(CTO) 겸 공동창업자는 “참가자들이 넷츠프레소를 활용해 AI 최적화 전 과정을 직접 경험하고 실제 실행 환경에서 유의미한 성능 개선을 이끌어냈다”며 “다양한 하드웨어 환경에서 AI 모델을 보다 쉽고 효율적으로 최적화할 수 있도록 지원을 이어가겠다”고 말했다.