최근 글로벌 시장에서 AI 반도체를 활용해 클라우드를 거치지 않고 디바이스 내에서 빠르게 AI 기능을 수행할 수 있는 ‘온디바이스(On-Device) AI’가 큰 화두로 떠올랐다. AI 디바이스의 출현과 동시에 킬러 앱에 대한 시장 니즈가 큰폭으로 증가해 개화기로 평가되는 온디바이스 AI 시장에서 스타트업들에게 기회의 장이 열리고 있다.
최근 엔비디아가 새로운 GB200 그레이스 블랙웰 슈퍼칩을 엔비디아 GTC 2024에서 공개했다. 엔비디아 최초의 칩렛 구조 GPU인 블랙웰 GPU를 선보임과 동시에 무지막지한 성능·효율의 AI 슈퍼칩이 등장하며 시장을 압도했다. 사실상 에너지 전쟁 중이나 다름없는 데이터센터 및 하이퍼스케일러 간 AI 서버 시장에서 엔비디아가 강력한 폭탄을 터트린 셈이다.