엔비디아, 그록 3 LPX 양산 개시…초당 3,400토큰 추론 성능 달성

기사입력2026.08.25 15:53

베라 루빈 NVL72 플랫폼 확장, 네비우스·그록 등 AI 클라우드 기업 첫 도입 예정

NVIDIA 그록 3 LPX(Groq 3 LPX)가 양산에 돌입했다. 아티피셜 애널리시스(Artificial Analysis) 벤치마크에서 초당 3,400개의 출력 토큰을 기록하며, 에이전틱 AI 추론 가속기 시장에서 성능 기준을 높였다는 평가다.

NVIDIA는 25일 인터랙티브 AI 추론 가속기인 그록 3 LPX의 본격 양산을 시작한다고 밝혔다.

이 제품은 베라 루빈(Vera Rubin) NVL72 플랫폼을 확장하는 구성으로, 에이전틱 시스템의 토큰 생성 속도를 높이는 데 초점을 맞췄다.

앞서 언급한 벤치마크 수치는 오픈소스 에이전틱 모델 젬마 4 31B(Gemma 4 31B)에 10만 토큰 컨텍스트를 적용한 조건에서 측정된 것으로, NVIDIA 측은 해당 모델 기준 현재까지 가장 빠른 성능이라고 밝혔다.

그록 3 LPX 성능 및 구조

에이전틱 시스템은 수백~수천 단계의 추론 과정에서 대규모 토큰을 생성한다.

그록 3 LPX는 이 생성 단계에서 가장 유사한 대체 플랫폼 대비 4배 빠른 응답 속도를 제공한다고 NVIDIA는 설명했다.

코딩 등 에이전틱 작업을 수 시간이 아닌 수 분 내에 처리할 수 있는 수준이라는 것이다.

베라 루빈 플랫폼은 △엔비디아 블루필드®-4 DPU(BlueField®-4 DPU) △베라 CPU 랙 △베라 블루필드-4 STX(Vera BlueField-4 STX) 스토리지 △스펙트럼TM-6 SPX 이더넷(SpectrumTM-6 SPX Ethernet)으로 구성된 랙 스케일 시스템을 갖췄다.

NVIDIA 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “베라 루빈은 에이전틱 AI 시대를 위해 워크로드에 최적화된 AI 팩토리 구성으로 비전을 확장하며, 초고속 토큰 생성을 위한 LPX로 성능의 한계를 한층 더 끌어올린다”고 말했다.

AI 클라우드 기업 최초 도입

AI 클라우드 기업 네비우스(Nebius)는 자사 추론 플랫폼인 네비우스 토큰 팩토리(Nebius Token Factory)에 그록 3 LPX를 최초로 도입할 계획이다.

네비우스 CTO 다닐라 슈탄(Danila Shtan)은 “개발자들이 기존 API를 그대로 사용하면서 에이전트 루프의 모든 단계가 즉각적으로 이뤄지는 경험을 제공한다”고 밝혔다.

AI 추론 특화 클라우드 기업 그록(Groq)도 해당 플랫폼을 초기에 도입하는 기업 중 하나가 될 계획이라고 NVIDIA는 전했다.

#에이전틱 AI #NVIDIA #Vera Rubin #AI 추론 가속기 #Groq 3 LPX #토큰 생성 #Nebius #Groq

본 기사에 대한 정정·반론·추후보도 청구는 보도 청구 안내를, 그간 게재된 보도문은 정정·반론보도 모아보기를 참고해 주세요.