토탈 IT 솔루션 리더 슈퍼마이크로(Supermicro)가 AMD 인스팅트 MI350를 탑재한 새로운 AI 솔루션 출시를 통해 대규모 AI 학습과 추론 워크로드에 최적화된 성능과 유연성을 제공한다.


슈퍼마이크로는 19일 4세대 AMD CDNA 아키텍처 기반 ‘AMD 인스팅트 MI350’ 시리즈 GPU를 탑재한 H14세대 AI 솔루션을 공개했다.

이번 신제품은 수냉식(DLC)과 공냉식 옵션을 모두 지원하며, 서버당 최대 2.3TB HBM3e 대용량 메모리를 통해 대규모 AI 학습과 추론 워크로드에 최적화된 성능과 유연성을 제공한다.

신제품 H14 GPU 최적화 솔루션은 듀얼 AMD EPYC 9005 시리즈 CPU와 AMD 인스팅트 MI350 GPU를 결합했다.

GPU당 제공되는 288GB HBM3e는 기존 대비 1.5배 늘어난 용량이고, 메모리 대역폭은 8TB/s, FP16·FP8 기준 페타플롭스 성능은 전 세대 대비 1.8배 향상됐다.

이를 기반으로 AI 모델은 물론 복잡한 과학 시뮬레이션도 빠르게 처리할 수 있다.

수냉식 4U 시스템은 슈퍼마이크로가 직접 개발한 DLC(Direct Liquid Cooling) 아키텍처를 적용해 고집적 환경에서 효율적으로 열을 제어하며, 전력 소비를 최대 40% 절감한다.

공냉식 8U 시스템도 함께 제공돼 데이터센터 환경과 예산에 맞춘 유연한 랙 스케일 구축이 가능하다.

두 옵션 모두 업계 표준 개방형 멀티 아키텍처인 OCP 가속기 모듈(OAM)을 지원해 호환성을 확보했다.

찰스 리앙 슈퍼마이크로 사장 겸 CEO는 “슈퍼마이크로의 DCBBS(Data Center Building Block Solutions)는 엔드투엔드 AI·HPC 시스템을 신속히 제공하는 검증된 플랫폼”이라며 “AMD 인스팅트 MI350 시리즈를 추가한 H14세대 솔루션으로 고객은 차세대 데이터센터를 효율적이고 경제적으로 설계·구축할 수 있다”고 밝혔다.

AMD 사장 겸 CEO 리사 수(Lisa Su)는 “인스팅트 MI350 시리즈는 업계 표준 폼팩터를 유지하면서도 달러당 토큰 처리량이 최대 40% 향상돼, 슈퍼마이크로의 수냉·공냉 통합형 플랫폼과 결합해 유연성과 에너지 효율을 동시에 제공한다”고 설명했다.

ABI 리서치의 폴 셸 산업 분석가는 “슈퍼마이크로가 수냉식과 공냉식을 모두 지원하는 확장형 메모리 솔루션을 내놓은 것은 AI 학습과 추론을 모두 아우르는 고성능·저전력 인프라 수요를 반영한 결정”이라며 “클라우드 서비스 공급자(CSP)와 엔터프라이즈가 대규모 AI 워크로드를 안정적으로 운용할 수 있을 것”이라고 평가했다.