SK하이닉스가 인공지능(AI) 추론 시장의 급격한 성장에 따른 새로운 메모리 병목에 주목한다. 단순히 AI 연산량뿐 아니라 데이터의 이동 수요가 폭발적으로 증가하고 있다는 진단에서 나온 것이다.
SK하이닉스는 핵심 메모리 계층으로 자리 잡은 고대역폭메모리(HBM)를 넘어 3차원(3D) 스택 D램, 고대역폭플래시(HBF) 등 차세대 제품 개발에 속도를 내 AI 시대 반도체 시장을 선도하겠다는 목표를 세웠다.
안현 SK하이닉스 개발총괄(CDO) 사장이 14일 서울 강남구 코엑스에서 열린 '세덱스(SEDEX) 2026'에서 'AI 시대, 메모리 기술의 진화 방향'을 주제로 기조연설을 하고 있다. ⓒSK하이닉스
SK하이닉스는 안현 개발총괄(CDO) 사장이 14일 서울 강남구 코엑스에서 열린 국내 최대 규모의 반도체 전문 전시회 ‘세덱스(SEDEX) 2026’ 기조연설에서 새로운 메모리 병목 현상을 진단하고 이를 해결하기 위한 차세대 메모리 기술 로드맵을 제시했다고 밝혔다.
안 사장은 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 진행한 기조연설에서 AI 추론 수요 확대에 따라 기존 메모리 계층의 성능과 용량 측면에서 새로운 병목이 발생하고 있다고 설명했다.
안 사장은 “AI 추론 시장은 ‘작업 복잡도’, ‘컨텍스트(Context) 길이’, ‘추론 요청량’이라는 세 가지 방향에서 동시에 성장하고 있다”며 “이들 요인은 단순히 더해지는 것이 아니라 서로 곱해지는 관계로 작용해 AI 인프라 수요를 빠르게 확대하고 있다”고 설명했다.
이어 “이러한 성장에 따라 AI 연산량뿐 아니라 모델 가중치와 중간 데이터 저장·이동 수요도 함께 증가하고 있다”며 “계층 사이 데이터 이동이 증가하면서 성능 및 전력 소모의 신규 병목이 발생하고 있다”고 짚었다.
이에 따라 AI 시대 메모리 구조가 더욱 세분화되고 다변화될 것으로 내다보면서 SK하이닉스가 새로운 메모리 계층을 구현하기 위한 차세대 기술개발을 추진하고 있다고 강조했다.
SK하이닉스는 현재 AI 메모리의 핵심인 HBM 기술을 지속해서 고도화하면서 차세대 기술로 3D 스택 D램을 개발하고 있다. 3D 스택 D램은 그래픽처리장치(GPU)·신경망처리장치(NPU) 등 로직 반도체 위에 D램을 적층해 연산기와 데이터 사이 물리적 거리를 줄이는 역할을 한다.
SK하이닉스는 3D 스택 D램을 통해 대규모 AI 모델 추론 과정에서 데이터를 빠르게 공급함으로써 성능을 높이고 에너지 소모를 줄이는 데 집중한다.
SK하이닉스는 새로운 메모리 계층 기술로 HBF를 제시했다. HBF는 HBM을 통해 확보한 실리콘관통전극(TSV) 적층 및 고속 입출력 기술을 낸드플래시에 적용한 차세대 메모리다. SK하이닉스는 HBM과 비교해 절반 수준의 대역폭과 10배가량의 용량을 제공하는 HBF 개발을 목표로 하고 있다.
안 사장은 “AI 시대 메모리 경쟁력은 개별 제품의 성능과 용량을 높이는 것을 넘어 다양한 메모리 계층을 유기적으로 연결하고 시스템 전체의 효율을 극대화하는 방향으로 발전할 것으로 전망된다”고 강조했다.