HBM과 메모리 반도체의 기술 흐름, 데이터 시대의 과제

황철성 교수는 HBM이 주목받는 배경을 컴퓨터 구조 변화와 데이터 중심 컴퓨팅의 확산에서 설명합니다. 메모리 용량과 데이터 이동 문제를 풀기 위해 HBM, 메모리 내 연산, 셀의 3차원 적층으로 기술이 이어진다고 정리하며, 적층 공정의 수율 한계와 장비 비용도 함께 짚습니다.

⏱ 00:29진행자는 반도체 산업에 대한 관심이 커진 상황에서 HBM이 왜 주목받는지 기본 원리부터 이해할 필요가 있다는 문제의식으로 시작합니다. 강연자 황철성 교수는 서울대 공과대학 재료공학부 소속으로 메모리 반도체를 연구하고 있으며, 2025년 대한민국 최고 과학기술인상 수상자로 소개됩니다.

⏱ 01:10교수는 반도체가 전체 수출에서 차지하는 비중이 과거 15~20% 수준에서 최근 30%를 크게 넘었고, 올해는 50% 가까이 될 것으로 언급합니다. 이런 쏠림은 비정상적이므로 급격한 조정보다 완만한 조정이 이뤄져야 충격이 적다고 봅니다.

PC나 휴대폰은 대량 생산으로 가격이 떨어지는 것이 정상인데 최근에는 메모리 가격이 오르고 있어, 이것이 IT 산업 전반의 부담이 될 수 있다고 설명합니다. 다만 국내 기업의 기술 경쟁력을 고려하면 단순한 일시 열기로만 보기는 어렵다는 질문에 대해서는, 보는 관점에 따라 답이 달라질 수 있다고 답합니다.

⏱ 03:44컴퓨터 개념은 1936년 튜링이 범용 기계를 제시하면서 출발했고, 1960년대 트랜지스터로 하드웨어 구현이 가능해졌다고 설명합니다. PC, 인터넷, 스마트폰 시기까지는 데이터가 귀해서 메모리 용량과 데이터 전송 능력이 부족했고, 엔지니어들은 제한된 메모리 안에서 효율을 짜내는 연산 중심 설계를 해 왔습니다.

2012년 딥러닝 알고리즘이 등장하고 2016년 알파고 이후 자본이 몰렸으며, 2020년대 들어 데이터를 많이 쓰는 데이터 중심 컴퓨팅으로 무게가 옮겨가면서 메모리 수요가 폭발했다고 짚습니다.

⏱ 07:04HBM을 이해하려면 컴퓨터의 계층 구조를 봐야 합니다. 가장 위에 프로세서가 있고, 그 아래 캐시 메모리인 SRAM, 다시 그 아래 작업 메모리인 DRAM이 놓입니다. 기존에는 DRAM의 용량도 부족했고 프로세서와 주고받는 데이터 통로도 좁았습니다.

칩을 여러 개 붙이는 방식은 연결 개수와 거리의 물리적 한계에 부딪혔습니다. 그래서 DRAM을 수직으로 쌓고 수많은 수직 연결선으로 묶어 통로 폭을 넓힌 것이 HBM입니다. 이 개념은 오래전부터 제시됐지만 AI 이전에는 수요가 제한적이었고, 당시 엔비디아가 시장에서 차지한 비중도 1%에 못 미쳤다고 설명합니다. 교수는 기술 흐름과 운이 맞물린 결과이며, 준비된 기업이 기회를 잡은 사례라고 평가합니다.

⏱ 11:33GPU 시스템은 세대가 바뀔 때마다 GPU 자체 성능보다 HBM을 더 많이 붙이는 방식으로 전체 성능을 높여 왔습니다. 그 결과 메모리 용량 요구가 프로세서 성능 향상보다 빠르게 커졌습니다. 문제는 전력이며, 발표에서는 소비 전력의 상당 부분이 연산보다 GPU와 HBM 사이의 데이터 이동에 쓰인다고 설명합니다.

이를 줄이기 위해 메모리 안에 연산 코어를 넣는 시도가 이어집니다. 과거에는 CPU와 GPU 공정 온도가 DRAM과 달라 메모리를 로직 웨이퍼에 넣기 어려웠지만, 지금은 HBM 일부 뱅크를 덜어내고 그 자리에 GPU 코어를 넣는 방향이 일부 성과를 내고 있습니다. 다만 GPU 코어 성능이 떨어지고 HBM 용량이 줄어드는 한계가 있어, 중간 단계의 해법이라는 평가입니다.

⏱ 13:57근본적인 해법으로 메모리 셀 자체를 3차원으로 쌓는 기술이 거론됩니다. 교수는 낸드플래시가 이미 수백 층 적층으로 양산되고 있고, DRAM은 이보다 어렵지만 불가능하지는 않다고 봅니다. 단계적으로는 적층 DRAM, 그리고 메모리와 연산이 결합한 뉴로모픽 구조로 나아갈 수 있다고 설명합니다.

제조 측면에서는 적층 수가 늘수록 수율 손실이 누적됩니다. 단계별 수율이 90%라면 두 단계만 거쳐도 전체 수율은 약 80%로 떨어집니다. 셀을 작게 만드는 데는 EUV 노광 장비가 핵심이지만 장비 비용이 커서, 값이 싼 낸드는 셀을 작게 만드는 대신 쌓는 쪽으로 방향을 틀었다고 설명합니다. 교수는 DRAM도 같은 전환점에 와 있다고 보며, 중국 신생 메모리 업체들의 추격 가능성도 함께 짚습니다.