AI 모델 경량화·최적화 기술 기업 노타가 Arm의 글로벌 개발자 행사에서 자사 플랫폼 기반 AI 최적화 도구의 실습 세션을 지원했다. Arm 생태계 전반에서 AI 배포 효율화 수요가 커지는 가운데, 노타의 기술이 글로벌 개발자 환경에 접목된 사례로 주목된다.

이번 워크숍에서 글로벌 개발자들은 해당 도구를 활용해 AI 모델을 직접 최적화하고 실행 결과를 확인했다.

개발자가 자체 AI 모델을 목표 하드웨어 환경에 맞춰 최적화해 성능과 효율성을 구현할 수 있도록 지원하는 도구다.

현재 얼리 액세스(Early Access) 형태로 공개돼 있다.

도구는 모델 양자화와 그래프 최적화 등을 통해 연산량과 메모리 요구사항을 줄이고 실행 효율을 높이며, 클라우드부터 엣지, 피지컬 AI까지 다양한 Arm 기반 하드웨어에서 AI 모델을 배포할 수 있도록 한다고 회사 측은 설명했다.

워크숍 현장에서는 지원 모델·하드웨어 범위, 최적화 결과 비교 방법, 자체 환경 적용 방안 등에 대한 개발자 질의가 이어졌다.

노타는 개발자들의 피드백을 바탕으로 다양한 모델·하드웨어 환경에서의 활용 사례를 축적하고 도구의 기능과 사용성을 개선해 나갈 계획이다.

샤르바니 로이(Sharbani Roy) Arm AI 및 개발자 플랫폼 부문 부사장은 “Arm AI 포털은 사전 최적화된 AI 모델과 성능 분석 정보, 최적화 도구를 통합 제공해 Arm 기반 AI 애플리케이션 개발을 가속화한다”고 말했다.