‘추측 디코딩’ 키워드 기사 3건
시마AI, 에이전틱 소프트웨어 ‘팔레트 3.0’ 공개
피지컬 AI 전문 개발사 시마AI가 에이전틱 소프트웨어 플랫폼의 주요 업데이트 버전 ‘팔레트 3.0’을 공개했다. 추측 디코딩 알고리즘을 적용해 저전력 환경에서 초당 토큰 처리량을 최대 3.5배 향상시키고, 단일 MLSoC에서 LLM과 비전-언어 모델을 동시에 실행할 …
2026.11.18 by 배종인 기자
노타, AI 에이전트 풀스택 최적화…작업 시간 최대 47% 단축
AI 모델 최적화 전문 기업 노타가 AI 에이전트의 작업 흐름 제어까지 최적화하는 풀스택 기술을 공개했다. 하네스 최적화와 DFlash2 기반 추측 디코딩 기술을 적용해 기존 인프라에서 코딩 에이전트의 작업 시간을 최대 47%, 출력 토큰을 최대 60% 단축했다. Fa…
2026.11.18 by 배종인 기자
노타, 키미 K3.1 Pro 최적화로 GPU 구매비용 최대 20% 절감
AI 추론 효율화 기업 노타가 문샷AI의 초거대 모델 ‘키미 K3.1 Pro’를 프루닝 기술으로 최적화해 NVIDIA B300 대신 B200 GPU 8장에서 구동 가능하게 했다. GPU 구매비용 최대 20%, 클라우드 임대료 최대 22% 절감이 가능하며, GPQA Di…
2026.11.10 by 배종인 기자