‘추론 최적화’ 키워드 기사 2건
구글 클라우드, TPU 8tx·TPU 8i 맥스 공개…8세대 TPU 포트폴리오 완성
구글 클라우드가 8세대 TPU 포트폴리오를 완성했다. 하드웨어 수준의 보안을 갖춘 TPU 8tx는 규제 산업 기업과 정부 기관의 민감한 데이터 처리를 지원하고, TPU 8i 맥스는 100만 토큰 규모의 대용량 컨텍스트 처리에 특화됐다. 한 해에 4종의 TPU를 출시한 …
2026.11.10 by 배종인 기자
노타, ICML 2026 챌린지 3위…Qwen 추론 최적화 기술 검증
AI 모델 경량화 기업 노타(Nota AI)가 국제 머신러닝 학회 ICML 2026의 ‘Efficient Qwen Competition’에서 3위를 차지했다. 양자화와 추측적 디코딩을 결합한 기술로 단일 A10G GPU 환경에서 Qwen3.5-4B의 추론 속도를 평균 …
2026.07.13 by 배종인 기자