고대역폭메모리(HBM)를 대체할 메모리 기술이 잇따라 등장하고 있지만, 한동안은 HBM의 독주가 이어질 것이란 전망이 지배적이다. 컴퓨트익스프레스링크(CXL) 등이 HBM 대체재로 거론됐으나 AI 가속기에서 요구되는 대역폭과 지연시간을 고려하면 HBM을 완전히 대체하기 어렵다는 평가가 나오면서다. 이에 삼성전자와 SK하이닉스는 HBM을 고도화하는 동시에 HBM의 한계를 보완할 차세대 메모리 기술 준비에 한창이다. 18일 업계에 따르면 최근 미국 캘리포니아주 샌타클라라 컨벤션센터에서 열린 ‘AI 인프라 서밋 2026’에서 CXL의 HBM 대체 가능성을 두고 회의적인 시각이 제기됐다. CXL은 연산을 담당하는 AI 가속기와 메모리를 더욱 효율적으로 연결해주는 차세대 연결 규격이다. 반도체 업계 일각에서는 CXL이 본격 도입되면 가격이 치솟은 HBM을 상당 부분 대신해 AI 서버 구축 비용 부담을 해소할 수 있을 것이란 기대가 나왔다. 그러나 오픈AI에서 AI 가속기 설계를 담당하는 대니얼 모리스 연구원은 “AI 모델을 실제 구동하는 입장에서 CXL의 쓰임새를 찾지 못하겠다”면서 “기대하는 것과 달리 실제 모델 구동에 특화한 활용 사례는 아직 보지 못했다”고 지적했다. 바다이야기 먹튀 돈 받기 비디아 티아가라잔 인텔 AI 시스템온칩(SoC) 아키텍처 총괄도 “CXL로 메모리를 묶는 것도 좋지만, 이는 HBM을 대체하는 것이 아니라 보조기억장치를 보완하는 수준”이라며 “CXL을 거쳐 그래픽처리장치(GPU)로 오가는 데이터 속도가 결코 HBM만큼 빠르지 않다”고 했다. 이에 따라 전 세계 HBM .유율이 높은 삼성전자와 SK하이닉스의 독.적 입지는 당분간 지속될 것이란 전망이다. 이처럼 HBM의 대역폭과 지연시간을 다른 기술이 단기간에 따라잡기 어려운 상황이지만, 삼성전자와 SK하이닉스 역시 업계 추격을 따돌리기 위해 HBM의 한계를 추가적으로 보완하고 주변 메모리 생태계를 넓히는 전략을 택하고 있다. 삼성전자는 성능을 끌이올리는 차세대 기술 개발에 힘을 싣는 모습이다. ‘zHBM’이 대표적이다. AI 가속기 위에 HBM을 수직으로 쌓는 3차원 구조를 통해 데이터 이동거리를 줄이고 AI 가속기의 응답 속도를 현재보다 10배 높이겠다는 구상을 제시한 바 있다. 김인동 삼성전자 미주총괄법인(DSA) 메모리 상품기획 담당 상무는 AI 인프라 서밋에서 ‘zHBM’에 대해 “호텔 객실에서 1층 로비로 직행하는 전용 엘리베이터를 두는 것”이라며 “이를 통해 HBM5와 비교해 최대 8배 성능과 3배 전력 효율을 구현할 수 있다”고 설명했다. SK하이닉스는 HBM을 중심에 두고 AI 추론 시장을 겨냥한 별도의 메모리 솔루션을 확대하고 있다. 릴게임 아바타 최근 AI 인프라 서밋에서 ‘뉴 스펙트럼’을 주제로 고대역폭플래시(HBF), 프로세싱인메모리(PIM), SALT-KV 등 차세대 메모리 솔루션을 공개했다. HBF는 HBM과 SSD 사이의 새로운 메모리 계층을 겨냥한 기술이다. 낸드에 TSV(실리콘 관통 전극) 기술을 적용해 SSD의 대용량 특성과 HBM에 가까운 고대역폭을 동시에 구현하는 것이 목표다. PIM은 메모리 안에서 연산까지 수행하는 기술이다. 프로세서와 메모리 사이의 데이터 이동을 줄여 병목 현상을 줄이고, 전력 효율을 높이는 것이 핵심이다. SK하이닉스는 PIM 반도체 ‘AiM’과 이를 적용한 가속기 카드 ‘AiMX’ 등을 선보였다. 또, AI 추론 과정에서 발생하는 ‘KV 캐시’를 효율적으로 처리하기 위한 SALT-KV도 공개했다. 데이터를 HBM·DRAM·SSD에 일률적으로 저장하는 대신 재사용 가치와 저장 비용 등을 고려해 각각의 메모리에 분산 배치하는 방식이다. 비싼 고성능 메모리를 무작정 늘리는 대신 메모리별 특성을 활용해 시스템 전체의 비용과 성능을 최적화하겠다는 전략이다. 임의철 SK하이닉스 설루션AT 담당 부사장은 ‘AI 인프라 서밋 2026’에서 “AI 워크로드가 다양해지면서 기존 GPU-HBM 구조만으로는 새로운 요구사항을 충족하기 어려워지고 있다”며 “변화한 워크로드에 맞춰 하드웨어와 소프트웨어를 아우르는 새로운 설루션으로 PIM과 HBF, SALT-KV를 준비하고 있다”고 말했다. ong>