이번 성과는 ETRI가 수행 중인 ‘이종 AI반도체용 분산추론 및 모델 최적화 기술 개발’ 과제의 일환으로, ETRI 김영주 책임연구원을 비롯해 강민수·강현승·석종수 연구진과 모빌린트가 협력해 개발한 결과다.

해당 기능은 Ray 프로젝트의 공식 코드 리뷰를 거쳐 지난 8월 13일 공식 반영됐다.

기존에는 Ray 환경에서 모빌린트 NPU를 활용하려면 개발자가 가속기 자원을 별도로 등록하고 각 작업에 사용할 NPU를 직접 지정해야 했다.

이번 기능 반영으로 Ray가 시스템에 탑재된 모빌린트 NPU를 자동으로 인식하고 각 AI 작업에 필요한 자원을 할당할 수 있게 됐다고 회사 측은 설명했다.

여러 NPU가 탑재된 서버나 다수 서버를 연결한 환경에서도 각 작업에 필요한 NPU를 구분해 관리할 수 있어, 개발자의 개별 장치 설정 부담을 줄일 수 있을 것으로 전해진다.

회사는 고성능 AI 가속기 ARIES와 온디바이스 AI SoC REGULUS를 중심으로 산업용 엣지 및 온프레미스 AI 시장을 확대하고 있으며, 향후 자체 SDK와 런타임을 고도화하고 글로벌 AI 개발 프레임워크와의 연동을 넓혀 나갈 계획이라고 밝혔다.