570 읽음
SK하이닉스, 12단 HBM3E 첫 양산…연내 엔비디아 공급
IT조선
0이 제품은 연내 엔비디아에 공급될 전망이다. 엔비디아는 2025년 출시 예정인 고성능 AI(인공지능) 가속기 '블랙웰'에 HBM3E 12단 신제품을 탑재할 것으로 알려졌다.
SK하이닉스는 양산 제품을 연내 고객사에 공급할 예정이다. 3월 HBM3E 8단 제품을 업계 최초로 고객에게 납품한지 6개월만이다.
SK하이닉스는 “2013년 세계 최초로 HBM 1세대(HBM1)를 출시한데 이어 HBM 5세대(HBM3E)까지 전 세대 라인업을 개발해 시장에 유일하게 공급해왔다”며 "높아진 AI 기업의 눈높이에 맞춘 12단 신제품도 가장 먼저 양산에 성공해 AI 메모리 시장에서 독보적인 지위를 이어가고 있다”고 강조했다.
회사는 HBM3E 12단 제품이 AI 메모리에 필수적인 속도, 용량, 안정성 등 모든 부문에서 세계 최고 수준을 충족시켰다고 설명했다.
이번 제품의 동작 속도는 현존 메모리 최고 속도인 9.6Gbps로 높아졌다. 이는 이번 제품 4개를 탑재한 단일 GPU로 거대언어모델(LLM)인 ‘라마 3(Llama 3) 70B‘를 구동할 경우 700억개의 전체 파라미터를 초당 35번 읽어낼 수 있는 수준이다.
라마 3는 2024년 4월 메타가 공개한 오픈소스 LLM이다. 8B(Billion), 70B, 400B 총 3가지 사이즈가 있다.
회사는 기존 8단 제품과 동일한 두께로 3GB D램 칩 12개를 적층해 용량을 50% 늘렸다. 이를 위해 D램 단품 칩을 기존보다 40% 얇게 만들고 TSV(Through Silicon Via) 기술을 활용해 수직으로 쌓았다.
TSV는 D램 칩에 수천개의 미세한 구멍을 뚫어 상층과 하층 칩의 구멍을 수직으로 관통하는 전극으로 연결하는 어드밴스드 패키징(Advanced Packaging) 기술을 뜻한다.
얇아진 칩을 더 높이 쌓을 때 생기는 구조적 문제도 해결했다. 회사는 자사 핵심 기술인 어드밴스드 MR-MUF 공정을 이번 제품에 적용해 전 세대보다 방열 성능을 10% 높였다. 강화된 휨 현상 제어를 통해 제품의 안정성과 신뢰성을 확보했다.
MR-MUF는 반도체 칩을 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태의 보호재를 공간 사이에 주입하고 굳히는 공정이다. 칩을 하나씩 쌓을 때마다 필름형 소재를 깔아주는 방식 대비 공정이 효율적이고 열 방출에도 효과적이라는 평가를 받는다.
김주선 SK하이닉스 사장(AI 인프라담당)은 “앞으로도 AI 시대의 난제들을 극복하기 위한 차세대 메모리 제품을 착실히 준비해 ‘글로벌 1위 AI 메모리 프로바이더(Provider)’로서 위상을 이어가겠다”고 말했다.
미국 마이크론도 9월 초 HBM3E 12단 시제품 출하 소식을 알렸다 내년 초 양산에 나설 것으로 보인다.
삼성전자는 2월 HBM3E 12단 개발 소식을 알린 이후 양산 일정을 구체화하지 않고 있다.
이광영 기자 gwang0e@chosunbiz.com