AMD가 데이터센터급 AI 모델을 일반 소비자용 PC에서도 실행할 수 있도록 지원하며, AI 컴퓨팅의 새로운 지평을 열었다.

AMD는 5일 OpenAI가 공개한 첫 오픈웨이트 언어 모델인 GPT-OSS 20B와 120B를 즉시 지원하는 하드웨어 플랫폼을 발표했다.

이로써 데이터센터급 AI 모델을 일반 소비자용 PC에서도 실행할 수 있는 시대가 본격적으로 시작됐다.

GPT-OSS 120B는 총 116.8억 개의 파라미터 중 5.1억 개가 활성화된 초대형 모델이다.

GPT-OSS 20B는 20.9억 개의 파라미터 중 3.6억 개가 활성화되어, 경량화된 고성능 모델로 평가받는다.

두 모델 모두 고도화된 추론 능력을 갖추고 있으며, 로컬 환경에서 실행 가능하다는 점에서 획기적이다.

AMD는 GPT-OSS 120B 모델을 로컬에서 실행할 수 있는 최초의 소비자용 AI PC 프로세서인 Ryzen™ AI Max+ 395를 공개했다.

이 프로세서는 최대 128GB 메모리를 지원하며, llama.cpp 기반으로 최대 128B 파라미터 모델까지 구동 가능하다.

특히 96GB의 전용 그래픽 메모리를 활용해 61GB VRAM을 요구하는 MXFP4 모델도 무리 없이 처리한다.

데스크톱 환경에서는 AMD Radeon™ 9070 XT 16GB 그래픽카드를 통해 GPT-OSS 20B 모델을 초고속으로 실행할 수 있다.

특히 MCP(Model Context Protocol) 구현 시, TTFT(Time to First Token) 성능이 탁월해, 컴퓨팅이 집중되는 상황에서도 빠른 응답성을 제공한다.

사용자는 LM Studio를 통해 GPT-OSS 모델을 다운로드하고, AMD Adrenalin Edition 25.8.1 WHQL 이상의 드라이버를 설치하면 된다.

GPU 오프로드 설정을 최대로 조정하고, 수동으로 파라미터를 로딩하면 즉시 프롬프트 입력이 가능하다.

이번 발표는 AMD가 클라우드부터 클라이언트까지 AI 워크로드를 아우르는 유일한 벤더임을 입증하는 사례다. 얇고 가벼운 노트북에서도 데이터센터급 모델을 실행할 수 있게 되면서, AI의 대중화가 한층 가속화될 전망이다.