최대 192GB 통합 메모리·3000억개 이상 파라미터 모델 실행 지원

AMD가 기업용 로컬 AI 환경 구축을 위한 차세대 프로세서 ‘Ryzen AI Max PRO 400 시리즈’를 선보이며 에이전틱 AI 시장 공략에 나섰다.

AMD는 최근 기업용 PC 및 워크스테이션에 탑재되는 Ryzen AI Max 및 Ryzen AI Max PRO 400 시리즈 프로세서를 소개하고, 기업의 로컬 AI 에이전트 개발 및 운영을 지원하는 플랫폼 전략을 공개했다.

AI 에이전트는 단순 질의응답 중심의 생성형 AI와 달리 여러 애플리케이션과 데이터를 연계해 다단계 작업을 수행할 수 있는 형태의 AI다. 기업들은 업무 자동화와 생산성 향상을 위해 AI 에이전트 도입을 확대하고 있지만, 비용과 데이터 보안, 클라우드 의존성 등이 과제로 지적돼 왔다.

최대 192GB 메모리로 대규모 AI 모델 지원

Ryzen AI Max PRO 400 시리즈는 최대 16개의 ‘Zen 5’ CPU 코어와 55TOPS 성능의 NPU, 최대 40개의 GPU 컴퓨트 유닛을 탑재했다.

특히 최대 192GB 통합 메모리를 지원하며, 이 가운데 최대 160GB를 GPU 작업에 할당할 수 있는 것이 특징이다. AMD는 이를 통해 4비트 양자화 기준 3,000억개 이상의 파라미터를 가진 대규모 AI 모델도 클라우드 이전 없이 로컬 환경에서 실행할 수 있다고 설명했다.

기업용 AI 에이전트는 대형 언어모델(LLM)뿐 아니라 사내 문서와 데이터베이스, 개발 코드, 검색증강생성(RAG) 시스템 등을 함께 활용하기 때문에 높은 메모리 용량이 요구된다.

AMD는 새 프로세서가 이러한 복합적인 워크로드를 로컬 환경에서 처리할 수 있도록 설계됐다고 밝혔다.

클라우드와 로컬 AI 병행 전략 강조

AMD는 AI 인프라 운영 방식으로 로컬과 클라우드를 병행하는 하이브리드 전략을 제시했다.

복잡한 추론이나 초대형 모델이 필요한 경우에는 클라우드 AI를 활용하고, 사내 문서나 개발 자료 등 민감한 정보를 다루는 업무는 로컬 AI 환경에서 처리하는 방식이다.

회사는 로컬 AI 활용 시 데이터 외부 전송을 줄일 수 있으며, 지속적으로 발생하는 클라우드 추론 비용도 절감할 수 있다고 설명했다.

또한 PyTorch, vLLM, llama.cpp, Ollama, ComfyUI, LM Studio 등 주요 AI 개발 프레임워크를 지원해 AI 모델 개발부터 테스트, 배포까지 수행할 수 있는 통합 개발 환경을 제공한다고 밝혔다.

AMD는 이번 Ryzen AI Max PRO 400 시리즈를 통해 기업들이 AI 에이전트를 보다 효율적으로 개발하고 운영할 수 있는 선택지를 제공할 계획이라고 설명했다.