티스토리 뷰

카테고리 없음

[AI 메모리] 고성능 반도체 HBM·CXL

소피아의 Moneymind 2024. 1. 4. 00:58

글로벌 생성형 인공지능(AI) 투자가 급증하면서 막대한 분량의 AI 작업을 수행할 메모리 장치의 중요성도 날로 높아지고 있다. 데이터 처리속도를 향상시킨 고대역폭메모리(HBM)에 이어, D램의 확장성을 무기로 삼은 ‘컴퓨트익스프레스링크(CXL)’가 최근 메모리 업계의 새로운 먹거리로 떠오르고 있다.

 

출처:www.pexels.com

 

HBM (고대역폭 메모리)

 

대용량 데이터 처리를 위해 메모리를 쌓아올려 대여폭, 속도를 향산시킨 고밀도 메모리로 쉽게 말해 D램을 쌓아 만든 제품이다. 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올렸다. 초기 HBM 역시 고성능 그래픽 작업을 위해 제작됐으나, AI 등으로 GPU의 활용 범위가 넓어지서 HBM 시장도 덩달아 커지고 있다.

 

CXL (컴퓨트익스프레스링크)

CXL고성능 연산이 필요한 애플리케이션에서 서로 다른 기종의 제품을 효율적으로 통신·연결할 수 있는 차세대 인터페이스로 중앙처리장치(CPU)와 메모리, 그래픽처리장치(GPU), 저장장치 등을 보다 효율적으로 활용할 수 있게 해 주는 인터페이스를 일컫는다. 다수의 메모리 반도체를 연결해 거대한 공용 메모리 풀(pool)을 형성하는 기술로, 서버 구조를 바꾸지 않고도 메모리 용량을 늘릴 수 있다. 이론상 서버에 필요한 D램을 거의 무한대로 확장할 수 있다.

CXL은 방대한 데이터 처리를 필요로 하는 AI 컴퓨팅에 적합한 기술로 최근 각광받고 있으며 연산에 필요한 메모리 성능을 획기적으로 높여준다

 

 HBM이 여러 개의 D램을 연결해 연산 속도를 끌어올린 ‘제품’이라면, CXL은 메모리 용량을 유연하게 확장하는 ‘기술’이다. HBM이 큰 빌딩이라면, CXL은 공유오피스에 비유할 만하다.

 

HBM는 SK하이닉스가 주도하는 데 비해 CXL 분야에선 삼성전자가 다소 앞서 있다. 삼성전자는 지난해 12월에 업계 최초로 기업용 리눅스 1위 기업 레드햇과 CXL 메모리 동작 검증에 성공했다. 2021년 CXL 기반 D램 기술을 최초로 개발한 데 이어, 작년 5월엔 CXL 2.0을 지원하는 128GB D램을 개발했다.

SK하이닉스는  DDR5 기반 96기가바이트(GB), 128GB CXL 2.0 메모리 솔루션 제품을 올 하반기 상용화해 AI 고객들에게 공급할  예정이다.

 

반응형