안 사장은 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 한 연설에서 AI 인프라 성능 규모가 2030년에는 2026년 대비 약 20배까지 커질 것으로 내다봤다.

이들 요인이 서로 곱해지는 관계로 작용해 AI 인프라 수요를 빠르게 늘리고 있다는 것이다.

특히 AI가 이전 토큰(Token) 정보를 저장·재활용하는 KV 캐시(Key-Value Cache)는 컨텍스트 길이가 길어질수록 더 많은 메모리 용량을 요구한다.

대규모 KV 캐시를 처리하려면 HBM부터 DRAM, SSD까지 여러 메모리 계층에 데이터를 분산 저장해야 하는데, 이 과정에서 계층 간 데이터 이동이 늘어나 새로운 성능·전력 병목이 발생하고 있다고 진단했다.

안 사장은 과거 메모리 장벽(Memory Wall)이 연산기와 메모리 사이에서 주로 발생했다면, AI 시대에는 메모리 계층 간 성능 격차 자체가 새로운 장벽이 되고 있다고 강조했다.

SRAM과 HBM 사이 병목을 해소할 차세대 기술로는 GPU·NPU 등 로직 반도체 위에 DRAM을 적층하는 ‘3D Stacked DRAM’을 소개했다.

또한 HBM과 DRAM 사이 새로운 계층으로 ‘HBF(High Bandwidth Flash)’를 제시했다.

HBF는 TSV(Through Silicon Via, 실리콘관통전극) 적층 및 고속 입출력 기술을 낸드플래시에 적용한 것으로, 동세대 HBM 대비 절반 수준의 대역폭과 약 10배의 용량을 개발 목표로 하고 있다.

SK하이닉스는 HBF 표준화를 선제적으로 추진하고 글로벌 파트너와의 협력을 강화해 차세대 메모리 생태계 구축에 나선다는 방침이다.

이 밖에 CXL과 Storage-Next 등을 통해 AI 워크로드에 최적화된 메모리 구조를 구현해 나간다는 구상이다.

주요 전시 제품으로는 △256GB 3DS RDIMM △128GB MRDIMM △64GB RDIMM(1c 공정) 등 서버용 D램과 △PEB210 E1.S 9.5㎜ △PS1101 E3.S 7.5㎜(QLC 기반) 등 기업용 SSD(eSSD), PC·모바일용 LPDDR5X·LPDDR6·UFS5.0 등이 포함됐다.