| 스트리밍 데이터 실시간 감지 및 대응 지원
| 에지서 실시간 AI 수행하는 가속 컴퓨팅 플랫폼
| 에지 스택, 주요 클라우드 IoT 서비스와 연결
 
엔비디아가 에지에서 실시간 AI 수행이 가능한 가속 컴퓨팅 플랫폼 ‘엔비디아 EGX(NVIDIA EGX)’를 5월 28일 발표했다.
 
엔비디아 EGX는 기업들이 5G 기지국, 웨어하우스, 리테일, 공장 등에서 발생하는 연속 스트리밍 데이터를 실시간으로 감지하고 이해·대응할 수 있도록 돕는다.
 
엔비디아 EGX는 클라우드로 전송돼야 하는 데이터양을 줄이는 동시에, 데이터가 생성되는 에지에서 즉각적이며 높은 스루풋(throughput)의 AI를 수행하려는 수요를 충족시키기 위해 개발됐다.
 
IDC에 따르면, 2025년에는 1,500억여 머신 센서와 IoT 디바이스가 처리돼야 할 연속 데이터를 스트리밍할 것으로 예상된다. 이는 스마트폰을 사용하는 개인으로부터 발생하는 데이터보다 많은 양이다.
 
엔비디아 EGX 플랫폼과 같은 에지 서버는 전 세계에 걸쳐 이러한 센서로부터 들어오는 데이터를 실시간으로 처리하는데 사용될 수 있다.
 
밥 피트(Bob Pette) 엔비디아 엔터프라이즈 및 에지 컴퓨팅 부문 부사장 겸 총괄은 “기업들은 고객과 디바이스 간의 무수한 상호작용으로부터 스트리밍 되는 방대한 양의 로우 데이터(raw data)를 처리하기 위해 에지에서 보다 강력한 컴퓨팅을 필요로 하고 있다”라며, “엔비디아 EGX와 같은 확장 가능한 플랫폼은 온프레미스 및 클라우드 환경 모두에서 시스템을 쉽게 구축함으로써 기업의 요구사항을 충족시킬 수 있다“고 말했다.
 
 
높은 확장성과 엔터프라이즈급 성능
엔비디아 EGX는 소형 AI 컴퓨터 엔비디아 젯슨 나노(NVIDIA Jetson Nano)로 시작 가능하며, 이미지 인식과 같은 작업을 처리하기 위해 몇 와트에 불과한 저전력으로 1초당 5천억 회의 연산이 가능하다.
 
또 실시간 음성 인식 및 기타 실시간 AI 작업을 위해 최대 1만 초당 테라연산(TeraOPS; TOPS) 성능을 제공하는 엔비디아 T4 서버의 전체 랙으로 연결된다.
 
엔비디아는 레드햇(Red Hat)과 협력해 엔터프라이즈급 쿠버네티스(Kubernetes) 컨테이너 오케스트레이션(orchestration) 플랫폼인 오픈시프트(Openshift)와 엔비디아 에지 스택(NVIDIA Edge Stack)을 통합 및 최적화했다.
 
엔비디아 에지 스택은 엔비디아 드라이버, 쿠다 쿠버네티스 플러그인(CUDA Kubernetes plugin), 쿠다 컨테이너 런타임(CUDA container runtime), 쿠다-X 라이브러리(CUDA-X libraries), 텐서RT(TensorRT), 텐서RT 인퍼런스 서버(TensorRT Inference Server)와 딥스트림(DeepStream)을 포함한 컨테이너형 AI 프레임워크 및 애플리케이션을 포함한 소프트웨어에 최적화돼 있다.
 
엔비디아 에지 스택은 엔비디아 NGC 레지스트리(NVIDIA NGC registry)에서 다운받을 수 있다.
 
레드햇의 최고 기술 책임자인 크리스 라잇(Chris Wright)은 “레드햇은 하이브리드 클라우드에서부터 에지에 이르는 모든 워크로드, 풋프린트(footprint), 로케이션(location)에서 일관된 경험을 제공하기 위해 노력하고 있다”라며, “레드햇 오픈시프트와 엔비디아 EGX 지원 플랫폼을 결합함으로써 고객은 고성능의 컨테이너 중심 환경에서 분산 운영 더욱 최적화할 수 있게 됐다”고 말했다.
 
 
신속한 AI 인프라 구축
엔비디아 EGX는 엔비디아의 모든 AI 컴퓨팅 기술, 그리고 레드햇 오픈시프트 및 엔비디아 에지 스택을 멜라녹스(Mellanox) 및 시스코(Cisco)의 보안, 네트워킹 및 스토리지 기술과 결합한다. 이를 통해 통신, 제조, 소매, 헬스케어, 운송 등을 포함한 주요 산업분야 기업들은 최첨단의 엔터프라이즈급 AI 인프라를 신속하고 안전하게 구축할 수 있다.
 
멜라녹스의 최고 기술 책임자인 마이클 케이건(Michael Kagan)은 “멜라녹스 스마트 NIC와 스위치는 에지에서 하이퍼스케일 데이터 센터까지 확장되는 데이터 액세스를 위한 이상적인 I/O 연결을 제공한다”라며, “고성능, 낮은 레이턴시 및 가속화된 네트워킹의 조합은 엔비디아 EGS와 같은 에지 플랫폼 상에서 차세대 AI 솔루션을 구현하는데 필요한 데이터에 효과적으로 액세스하고 이를 공급하는데 필수적인 새로운 인프라 티어를 제공한다”고 설명했다.
 
시스코 컴퓨팅 시스템 부사장 카우스투브 다스(Kaustubh Das)는 “시스코 컴퓨트, 패브릭, 스토리지, 관리 소프트웨어는 물론 우리의 업계 선도적인 이더넷 및 IP 기반 네트워킹 기술과 EGX 지원 플랫폼을 활용해 고객을 위한 에지 투 코어(edge-to-core) 풀 스택 솔루션을 제공할 수 있게 되어 기쁘다”고 말했다.
 
 
하이브리드 클라우드 및 멀티 클라우드 IoT 지원
엔비디아 AI 컴퓨팅은 주요 클라우드 서비스에 의해 제공되며, 구조적으로 엔비디아 EGX와 호환된다.
 
클라우드에서 개발된 AI 애플리케이션은 엔비디아 EGX에서 실행될 수 있으며, 그 반대도 가능하다.
 
엔비디아 에지 스택은 주요 클라우드 IoT 서비스에 연결되며, 고객은 AWS IoT 그린그래스(AWS IoT Greengrass) 및 마이크로소프트 애저 IoT 에지(Microsoft Azure IoT Edge)에서 원격으로 서비스를 관리할 수 있다.
 
샘 조지(Sam George) 애저 IoT 에지 총괄 이사는 “애저 IoT 에지는 고객들이 IoT 디바이스에 클라우드 서비스를 신속하고 안전하게 구축할 수 있도록 도와준다. 애저 IoT 에지 디바이스에서 엔비디아 EGX 에지 플랫폼을 지원함으로써, 고객들이 EGX와 호환이 가능한 하드웨어를 대상으로 AI 워크로드를 구축할 수 있게 되기를 기대한다”고 말했다.
 
 
폭 넓은 에코시스템
엔비디아 EGX는 소프트웨어 솔루션 생태계의 성장을 위해 AI를 최적화하고 있다. 여기에는 애니비젼(AnyVision), 딥비젼(DeepVision), 아이언윈(IronYun), 마롱 테크놀로지(Malong Technologies)와 같은 소프트웨어 공급업체의 대규모 소매 체인 및 스마트 시티에 이상적인 비디오 분석 애플리케이션과 12 시그마(12 Sigma), 인퍼비젼(Infervision), 쿠나팁(Qunatib), 서틀 메디컬(Subtle Medical) 등의 의료 관련 소프트웨어 제품이 포함된다.
 
EGX 서버는 글로벌 엔터프라이즈 컴퓨팅 공급업체 아토스(ATOS), 시스코, 델 EMC(Dell EMC), 후지쯔(Fujitsu), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), 인스퍼(Inspur), 레노버(Lenovo) 등에서 제공된다.
 
주요 서버 및 IoT 시스템 제조업체인 아바코(Abaco), 에이서(Acer), 에이디링크(ADLINK), 어드밴텍(Advantech), 애즈락 랙(ASRock Rack), 에이수스(ASUS), 에버미디어(AverMedia), 클라우디안(Cloudian), 커넥트 텍(Connect Tech), 커티스 라이트(Curtiss-Wright), 기가바이트(GIGABYTE), 리탑(Leetop), 미비(MiiVii), 무사시 세이미츠(Musashi Seimitsu), QCT, 수곤(Sugon), 슈퍼마이크로(Supermicro), 타이안(Tyan), 와이베이스(WiBase), 위윈(Wiwynn) 등도 EGX 서버를 지원한다.
 
엔비디아 EGX 서버는 엔비디아 에지 스택과 쿠다 가속 컨테이너를 위해 검증된 NGC-레디(NGC-Ready)에 최적화되어 있다.
 
현재 40개 이상의 기업 및 기관들이 엔비디아 EGX 서버를 사용하고 있다.
 
이중 BMW 그룹 로지스틱스(BMW Group Logistics)는 엔비디아의 EGX 에지 컴퓨팅과 아이작(Isaac) 로봇 플랫폼을 통해 AI를 물류 프로세스에 직접적으로 활용하며 복잡해지는 물류를 실시간 및 효율적으로 처리하고 있다.
 
그 밖에도 폭스콘 PC, GE 헬스케어, 시게이트 등에서 엔비디아 EGX 서버를 PC 부품 점검, 정밀 의학, 하드디스크 품질 점검 등에 활용하고 있다.