▲제13회 인공지능반도체포럼 조찬강연회에서 KTNF 이중연 대표이사가 ‘AI 시대의 차세대 데이터센터 아키텍처’라는 주제로 강연하고 있다.
NVIDIA GPU 독점, 이에 대응한 오픈 아키텍처·다양한 AI 가속기 도입 활발
KTNF 국산 AI 반도체 활용 현장 빠른 적용 마이크로 데이터센터 개발 박차
“차세대 AI 인프라는 확장성과 유연성을 제공하며, 에너지 절감, 보안 강화, 운영 효율성이라는 세 가지 핵심 이점을 동시에 달성해야 한다. 이러한 과제를 KTNF는 기술력으로 돌파해 대한민국의 미래 데이터센터 혁신을 이끌겠다”
인공지능반도체포럼은 12일 서울 삼성동 인터컨티넨탈 서울 파르나스에서 제13회 조찬강연회를 개최했다.
이날 행사는 KTNF 이중연 대표이사가 ‘AI 시대의 차세대 데이터센터 아키텍처’라는 주제로 강연을 진행했다.
이중연 대표는 AI 기술의 급격한 발전과 그에 따른 데이터센터의 변화, 그리고 미래 비전에 대해 심도 있게 설명했다.
이 대표는 먼저 글로벌 AI 경쟁의 현황을 짚었다.
미국, 중국, 한국 등 주요 국가들이 대규모 언어모델(LLM) 개발에 박차를 가하고 있으며, 미국의 GPT와 Gemini 모델은 1∼2조 개의 파라미터를 갖춘 초대형 모델로, 중국은 오픈소스 중심의 중형 모델, 한국은 효율성을 강조한 소형 모델이 주류를 이루고 있다고 설명했다.
특히 최근 등장한 ‘딥시크’와 같은 효율적 모델은 기존 대비 97% 저렴한 비용으로 동등한 성능을 달성해, AI 대중화의 핵심 동력으로 부상하고 있다고 언급했다.
AI 워크로드는 크게 LLM, 생성형 AI, HPC(고성능 컴퓨팅)로 구분된다.
이들 모두 엄청난 컴퓨팅 파워와 메모리 대역폭을 요구하며, 데이터센터 인프라의 한계를 드러내고 있다.
예를 들어, GPT-4 모델 학습에는 2만5,000개의 GPU가 100일간 동작해야 하며, 기존 데이터센터는 수백 대의 GPU 서버조차 수용하지 못하는 경우가 많다. AI 수요는 매년 두 배씩 증가하지만, 인프라는 이를 따라가지 못하고 있다.
이에 대해 이중연 대표는 “AI 시대의 데이터센터는 단순한 업그레이드가 아니라 완전히 새로운 설계가 필요하다”고 강조했다.
현재는 NVIDIA가 GPU 시장을 독점하며 성능 향상과 함께 높은 가격, 운영 비용 상승 등의 문제를 야기하고 있다.
이에 대응해 오픈 아키텍처와 다양한 AI 가속기(NPU, TPU, FPGA 등)의 도입이 활발히 이루어지고 있다.
특히 한국이 리딩하고 있는 NPU는 신경망 연산에 특화돼 전력 효율과 토큰 생성 성능에서 강점을 보이고 있다.
데이터센터의 오픈 생태계 구축도 중요한 화두다.
오픈 컴퓨터 프로젝트(OCP)와 유니버셜 베이스 보드(UBB) 등 개방형 표준은 하드웨어 구조의 통합과 비용 절감, 에너지 효율 향상에 기여한다.
다양한 가속기와 서버가 동일한 베이스 보드에서 작동할 수 있도록 설계되어, 대기업과 중소기업 모두 혁신에 참여할 수 있는 환경을 조성한다.
초고속 데이터 전송을 위한 NVLink, 인피니밴드, 고속 이더넷 등 네트워크 기술의 발전도 눈에 띈다.
NVIDIA의 MVL 72 플랫폼은 72개의 GPU를 하나의 시스템으로 통합해, 기존 서버 간 네트워크 병목을 제거하고 초고속 데이터 전송을 실현한다.
AMD, 인텔, 메타, 마이크로소프트 등 글로벌 기업들이 함께 만든 UA 링크는 개방형 고속 연결 기술로, AI 인프라의 개방화와 산업 혁신을 이끌고 있다.
메모리 기술 역시 빠르게 진화 중이다. GDDR7과 HBM4 등 차세대 메모리는 대역폭과 경제성을 동시에 추구하며, 2026년 출시 예정인 NVIDIA 루빈 GPU는 두 가지 메모리를 병행해 사용할 예정이다.
DDR6, MR DIMM 등 새로운 메모리 표준은 처리 효율과 전력 효율을 극대화한다.
데이터센터의 에너지 효율과 냉각 기술도 중요한 과제로 떠오르고 있다.
서버와 냉각 장치가 전체 소비 전력의 80%를 차지하는 가운데, 액체 냉각 시스템과 액침 냉각, 다이렉트 리퀴드 쿨링(DLC) 등 첨단 냉각 기술이 도입되고 있다.
이들 기술은 공냉 대비 최대 1,000배 이상의 냉각 효율을 제공하며, 에너지 절감과 친환경 데이터센터 구현에 핵심 역할을 한다.
보안 역시 데이터센터의 핵심 요소다. AI는 보안의 패러다임을 바꾸고 있으며, 하드웨어 공급망의 안전성과 바이오스 무결성, 펌웨어 검증 등 다층적 보안 전략이 요구된다.
이 대표는 “공급망 보안은 국가 경쟁력의 기반”이라며, 물리적 신뢰 기반의 하드웨어 보안과 차세대 암호 기술(PUF, QRNG, PQC)의 중요성을 강조했다.
미래 데이터센터는 분산화와 고효율, 고밀도 인프라 혁신이 필수다.
중앙과 엣지, 마이크로 데이터센터가 유기적으로 연동되어 안정성과 확장성을 동시에 확보해야 하며, 컨테이너형 데이터센터와 랙 단위 마이크로 데이터센터가 등장해 유연한 확장성과 이동성을 제공한다.
이중연 대표는 “KTNF는 국산 AI 반도체를 활용해 현장에 빠르게 적용 가능한 마이크로 데이터센터 개발에 박차를 가하고 있다”며 “기술력으로 대한민국의 미래 데이터센터 혁신을 이끌겠다”고 밝혔다.
.jpg)
▲제13회 인공지능반도체포럼 조찬강연회 참석자들이 기념촬영을 하고 있다.
.jpg)
