“HBM은 정말 기적의 기술입니다. 한국 기업들이 너무 겸손해서 사람들이 HBM에 대해 잘못 이해하고 있는 것 같습니다.” 엔비디아의 창립자 겸 CEO인 젠슨 황은 3월에 열린 엔비디아 개발자 컨퍼런스에서 한국 기자들에게 이렇게 말했습니다. 그가 “기적”이라고 언급한 HBM, 즉 고대역폭 메모리 반도체는 엔비디아의 그래픽 처리 장치(GPU)의 핵심 구성 요소 역할을 하는 칩입니다. 전문가들은 HBM이 한국이 반도체 가치 사슬의 정상에 오를 수 있는 기회를 제공한다고 믿습니다. HBM의 초기 개발을 주도하고 “HBM의 아버지”로 알려진 KAIST 전기전자공학부 김정호 교수의 조언을 바탕으로 차세대 HBM이 반도체 시장을 어떻게 재편할지 분석했습니다.

HBM의 기본 개념부터 파헤쳐 보겠습니다. HBM을 만들려면 수백 개의 매우 어려운 공정을 수행해야 합니다. 499개의 다른 공정을 거친 후에도 오류 하나만 있어도 끝입니다. 이것이 HBM을 “공정의 포괄적 예술”이라고 부르는 이유입니다. HBM과 관련된 대부분의 기사는 DRAM, TSV, 본딩이라는 세 가지 핵심 키워드만 알면 이해할 수 있습니다.

1. AI 시대 도래, GPU 과부하…’두뇌 장착’ 메모리 점점 중요해져

기본적으로 HBM은 기존의 메모리 반도체 DRAM을 햄버거 빵처럼 여러 겹 쌓아 데이터 처리 속도와 용량을 늘린 제품입니다. DRAM을 8개 쌓으면 8단 HBM이라고 하고, DRAM을 12개 쌓으면 12단 HBM이라고 합니다.

빵의 맛이 누가, 어떻게 만들었는지에 따라 달라지듯이, DRAM의 성능도 제조사와 공정 세대에 따라 달라진다. 예를 들어 최신 HBM3E를 만들기 위해 SK하이닉스와 마이크론은 5세대(1b) 공정 DRAM을 기본 소재로 사용하는 반면, 삼성전자는 4세대(1a) 공정 DRAM을 사용한다. 4세대를 쓴다고 뒤처지는 것은 아니다. 오히려 삼성은 올해 말까지 6세대(1c) DRAM을 양산하는 세계 최초 기업이 될 계획이다.

칩이 2~3개만 있으면 와이어로 연결해 쌓을 수 있지만, 8~12개의 칩을 쌓으면 이를 연결하는 기술이 더 정교하고 안전해야 합니다. 예를 들어, 2~3층 아파트 건물에는 사람들이 건물을 오르내릴 수 있는 외부 계단이 있지만, 4층 이상의 고층 건물은 엘리베이터를 설치하면 더 안전합니다. HBM에서 이 엘리베이터의 역할은 TSV(Through-Silicon Via)가 담당합니다. 즉, 여러 개의 수직으로 쌓인 DRAM에 여러 개의 작은 구멍을 뚫어 데이터 연결 경로 역할을 하게 됩니다.

HBM은 이러한 데이터 엘리베이터를 1,000개 이상 보유하고 있습니다. HBM3는 1,024개, HBM4는 2,048개가 있습니다. 햄버거는 빵만으로는 만들 수 없습니다. 패티와 치즈도 있어야 합니다. 이를 만드는 비법은 매장마다 다릅니다. 첫째, 고기, 치즈, 야채, 빵을 따로 익힌 다음 빵 위에 쌓는 방법이 있습니다. 또 다른 방법은 차가운 고기와 치즈를 빵 사이에 넣고 그대로 오븐에서 굽는 것입니다. 전자의 방법은 TC NCF이고 후자는 MR-MUF입니다. 빵(DRAM)을 쌓아 햄버거(HBM)를 만드는 과정을 본딩 공정이라고 합니다.

2. “햄버거 스타일” 고성능 HBM…기술은 삼성·SK가 세계 최고

과거에는 TC NCF 방식이 반도체 산업에서 주류를 이루었습니다. DRAM 칩을 범프(솔더의 일종)에 연결한 다음 갭을 절연 필름으로 채우는 방식입니다. 그러나 HBM에 층이 많을수록 DRAM 칩이 구부러지거나 손상될 가능성이 커집니다. 여기서 수율이 종종 결정됩니다.

하지만 SK하이닉스는 새로운 본딩 기술을 시도했다. 빵, 치즈, 고기 등을 통째로 접시에 담아 오븐에 넣는 것처럼, 적층된 DRAM에 열을 가해 여러 층을 한 번에 본딩한 다음 칩 사이의 틈을 채워 공정을 마무리하는 방식이다. 이것이 MR-MUF다. 이 기술은 칩 변형에 대한 우려를 크게 줄였고, SK하이닉스의 ‘HBM 신화’에 가장 큰 기여를 했다. 자신감이 높아진 SK하이닉스는 최근 실적 발표 후 16단 HBM 제품에도 MR-MUF 방식을 적용한다고 밝혔다. 두 방식은 각각 장단점이 있다. SK하이닉스가 업계를 선도했지만, 삼성은 최근 TC NCF 방식으로 최대 12단까지 적층하는 데 성공하면서 다시 원점으로 돌아갔다.

“한국은 왜 이렇게 겸손할까?” 엔비디아 CEO, 삼성-SK 기술에 놀랐다(2)