구글 클라우드가 하드웨어 수준의 보안을 갖춘 TPU 8tx와 대용량 컨텍스트 처리에 특화된 TPU 8i 맥스(Max)를 공개하며 8세대 TPU 시스템 구성을 완성했다. 지난 4월 TPU 8t·TPU 8i를 선보인 데 이어 한 해에 4종의 TPU 시스템을 내놓은 것은 이번이 처음이다.

TPU 8tx는 컨피덴셜 컴퓨팅(Confidential Computing)을 지원해 금융·의료 등 규제 산업 기업과 정부 기관이 민감한 데이터를 처리하면서 자율 에이전트를 운영할 수 있도록 설계됐다.

 

TPU 8tx는 TPU 8t와 동일한 칩에 5세대 AMD EPYC CPU 호스트를 결합해 보안 기능을 하드웨어 계층에 직접 내재화했다.

 

 

TPU 8i 맥스는 기존 TPU 8i 대비 연산 성능·SRAM 용량·HBM 대역폭을 각각 2배 확장해 대규모 에이전트 워크로드 처리 시 발생하는 메모리 병목을 방지한다고 구글 클라우드는 설명했다.

 

이로써 구글 클라우드의 8세대 TPU 시스템 4종 구성은 △대규모 모델 학습용 TPU 8t △저지연 추론 특화 TPU 8i △컨피덴셜 컴퓨팅용 TPU 8tx △대용량 컨텍스트 처리 및 고밀도 연산용 TPU 8i 맥스로 완성됐다.