‘Rebel R200’ NPU, 엔비디아 NVLink Fusion 기술로 연결

SKT AI 데이터센터 적용 운영, 국산 NPU 실전서 핵심 역할

국산 AI 반도체가 엔비디아 GPU와 결합해 소버린 AI 데이터센터의 핵심 인프라로 채택되면서, 한국이 반도체·데이터센터·AI 모델·서비스를 아우르는 ‘풀스택 소버린 AI’ 구축에 본격 착수했다.

서울 삼성동 코엑스에서 9일 열린 ‘NVIDIA AI Day Seoul’에서 국내 통신사인 SK텔레콤과 AI 반도체 스타트업 리벨리온, 글로벌 AI 플랫폼 기업 엔비디아가 GPU·NPU 통합 시스템 개발을 위한 업무협약(MOU)을 체결했다.

협력의 핵심은 국내에서 설계한 AI 반도체를 실제 소버린 AI 데이터센터의 주력 인프라로 활용하는 것이다.

특히 리벨리온이 개발 중인 차세대 AI 추론용 반도체 ‘Rebel R200’ NPU를 엔비디아의 NVLink Fusion 기술로 연결하고, 이를 SK텔레콤의 AI 데이터센터에 적용해 운영하는 구조다.

이번 협력은 단순한 기술 제휴 이상의 의미를 갖는다.

그동안 국내 AI 반도체 기업들은 우수한 칩 설계 역량에도 불구하고 실제 대규모 데이터센터 적용 사례를 확보하는 데 어려움을 겪어왔다.

반면 이번 프로젝트에서는 국산 NPU가 데이터센터의 실전 환경에서 핵심 역할을 맡는다.

이는 국산 AI 반도체가 연구개발 단계를 넘어 실제 AI 서비스 운영 인프라로 진입하는 상징적 사례가 될 것으로 평가된다.

행사에 참석한 과학기술정보통신부는 이번 협력의 의미를 “국내 AI 반도체를 글로벌 AI 생태계와 연결하고 세계 시장에서 경쟁할 수 있는 기반을 마련하는 첫걸음”이라고 규정했다.

정부 역시 단순히 국산 칩을 개발하는 데서 그치지 않고, 실제 AI 인프라 시장에서 경쟁력을 확보하는 방향으로 정책을 추진하겠다는 뜻을 분명히 했다.

기술적으로 주목받는 부분은 ‘분리형 추론(Disaggregated Inference)’ 구조다.

생성형 AI의 추론 과정은 사용자 질의를 분석하는 ‘프리필(Prefill)’ 단계와 답변을 생성하는 ‘디코드(Decode)’ 단계로 구분된다.

3사는 계산량이 많은 프리필은 엔비디아 GPU가, 메모리 활용 효율이 중요한 디코드는 리벨리온 NPU가 담당하도록 설계할 계획이다.

이를 통해 추론 처리량을 높이면서도 전력 소비를 줄이겠다는 전략이다.

AI 산업이 학습(Training) 중심에서 추론(Inference) 중심으로 이동하고 있다는 점도 이번 협력의 배경이다.

리벨리온 박성현 대표는 발표에서 “이제 AI 시장은 모델 학습보다 서비스 단계의 추론이 훨씬 중요해지고 있다”며 “중요한 것은 얼마나 경쟁력 있는 토큰을 생산할 수 있느냐”라고 강조했다. 그는 이번 프로젝트를 한국형 AI 컴퓨팅 표준을 정의하는 첫 단계라고 평가했다.

소버린 AI에 대한 시각도 눈길을 끌었다.

이날 발표 참가자들은 소버린 AI를 단순히 모든 기술을 국산으로 구성하는 개념으로 보지 않았다.

핵심 기술과 데이터 주권을 확보하면서도 글로벌 생태계를 적극 활용하는 현실적 접근을 제시했다.

박 대표는 “핵심 기술 자립성과 데이터 인프라 주도권을 확보하는 것이 중요하다”며 글로벌 플랫폼과의 연계를 통해 시장 진입 속도를 높이는 전략의 필요성을 설명했다.

SK텔레콤은 이번 협력을 ‘풀스택 소버린 AI’ 구축의 핵심 축으로 보고 있다.

회사는 AI 데이터센터, 자체 파운데이션 모델인 A.X K2, 정부의 ‘모두의 AI’ 프로젝트에 연계되는 서비스까지 하나의 생태계로 연결한다는 구상이다. AI 인프라와 모델, 서비스를 모두 국내에서 운영할 수 있는 환경을 만드는 것이 목표다.

정석근 SK텔레콤 CTO는 발표에서 소버린 AI의 핵심을 ‘소버린 토큰’이라는 개념으로 설명했다.

GPU와 NPU를 결합한 데이터센터를 구축해 공공기관과 기업들이 직접 고가의 AI 인프라를 운영하지 않아도 API 형태로 AI 서비스를 활용할 수 있도록 하겠다는 것이다.

그는 “인프라부터 모델, 서비스까지 연결된 성공 사례를 만들어 한국이 AI 3강으로 도약하는 기반을 마련하겠다”고 밝혔다.

엔비디아 역시 한국의 잠재력을 높게 평가했다.

회사 측은 NVLink Fusion을 통해 한국 기업들이 자체 반도체를 엔비디아 AI 플랫폼과 연결할 수 있도록 지원하고, 이를 바탕으로 한국형 소버린 AI 구축을 가속화하겠다고 밝혔다.

특히 MGX 표준 랙 아키텍처를 활용하면 GPU와 NPU가 동일 데이터센터 환경에서 효율적으로 운영될 수 있다는 점을 강조했다.

결국 이번 협력의 본질은 ‘국산 AI 반도체의 실전 배치’에 있다.

지금까지 소버린 AI 논의가 AI 모델과 데이터 주권에 집중됐다면, 이번 프로젝트는 그 기반이 되는 데이터센터 인프라까지 국산 기술의 역할을 확대했다는 의미를 갖는다.

한국이 개발한 NPU가 글로벌 AI 플랫폼과 연결돼 실제 대국민 서비스와 산업 현장에서 활용되는 첫 사례가 현실화될 경우, 이는 한국 AI 생태계가 기술 개발 단계를 넘어 산업화 단계로 진입했다는 신호탄이 될 전망이다.