삼성전자 하이닉스 HBM 다음은? 국제표준 쥔 새 메모리 HBF

AI가 길게 혼자 일할수록 기억해야 할 정보가 늘어 메모리 수요가 커지고, 그 다음 대안으로 플래시 기반 HBF와 연산 기능을 더한 PIM이 거론됩니다. 발표자는 두 기술 모두 삼성전자와 SK하이닉스가 앞서 있다고 설명했으며, 메모리 수요는 PC와 스마트폰까지 번질 수 있다고 전망합니다.

⏱ 00:00HBM 다음 메모리로 HBF가 거론됩니다. 강정수 박사와 박태웅 의장의 이야기를 바탕으로 한 영상이며, 반도체 시장을 지켜보는 사람들이 가장 궁금해하는 다음 메모리의 방향을 다룹니다. 박태웅 의장은 HBF를 새 메모리로 꺼내며, 이 분야의 국제 표준을 삼성전자와 SK하이닉스가 쥐고 있다고 설명했습니다.

영상은 먼저 AI 수요가 왜 메모리 수요로 이어지는지 짚은 뒤, HBF와 PIM이라는 두 기술을 차례로 소개하는 구성입니다.

⏱ 00:34강정수 박사는 AI 사용량이 분기마다 두 배씩 늘고 있다고 설명합니다. 이처럼 두 배씩 불어나는 증가를 지수 함수로 부르며, 그래프로 그리면 수직으로 치솟는 모양이라고 비유합니다. 사용량을 키우는 요인으로는 사람의 요청에 답을 주는 추론(inference)과, 스스로 계획을 세우고 작업하는 에이전트가 언급됩니다.

에이전트는 작업 중 자기가 한 일의 실수를 검증하는 기능까지 갖추면서 완결성이 좋아졌다고 합니다. 과거에는 1시간이 넘으면 자주 실수했지만, 작년 12월 무렵부터 전체 맥락을 보고 오류를 스스로 고치며 16시간까지 품질을 유지하기 시작했다고 설명합니다.

⏱ 01:48AI가 16시간을 혼자 일하려면 앞서 한 작업을 계속 기억하고 있어야 합니다. 기억이 곧 메모리이므로, 작업이 길어질수록 메모리 수요가 함께 치솟는다는 것이 영상의 핵심 논리입니다.

강정수 박사는 이런 흐름이 데이터 센터 규모에도 나타난다고 말합니다. 스페이스X의 대형 데이터 센터 콜로서스 시리즈 일부를 AI 기업 Anthropic에 임대했는데, 그 규모가 커도 데이터 센터 측은 여전히 수요를 감당하기 어렵다고 말했다는 사례가 소개됩니다.

⏱ 03:24플래시 메모리는 전원을 꺼도 데이터가 남는 메모리입니다. 셀 안에 전자를 가두어 두는 방식이어서, 전자가 있으면 1, 없으면 0으로 읽습니다. SSD가 하드디스크를 대신하는 이유도 이 특성 때문입니다. 다만 쓰고 지울 때마다 셀이 조금씩 상하고 속도가 느리다는 약점이 있습니다.

HBF(High Bandwidth Flash)는 HBM과 같은 방식으로 플래시 메모리를 건물처럼 여러 층으로 쌓은 제품입니다. AI 모델은 학습 뒤 고치지 않고 읽기만 하는 데이터라서, 자주 쓰지 않고 대용량을 읽는 데 맞춘 설계가 가능합니다. 박태웅 의장은 이 HBF의 국제 표준을 삼성전자와 SK하이닉스가 주도하고 있으며, 시제품이 이미 가동 중이고 내년에 대량으로 나올 것으로 전망했습니다.

⏱ 05:11그다음 단계로 PIM(Processing In Memory)이 언급됩니다. 기존 메모리는 데이터를 저장만 했지만, PIM은 메모리 안에서 간단하고 반복되는 연산을 미리 처리합니다. 요리에 비유하면 재료를 미리 손질해 두어 요리사가 시간을 줄이는 것과 같습니다.

박태웅 의장은 PIM 역시 삼성전자와 SK하이닉스가 가장 앞서 있다고 봤습니다. 아직 대중화 단계는 아니고 테스트용으로 일부 쓰이는 수준이지만, 반복 연산을 칩에 회로로 새겨 두는 방식이라 기술적 난이도가 높지 않아 나오면 수요가 크게 늘 것이라는 전망입니다.

⏱ 07:00메모리 수요는 데이터 센터를 넘어 PC와 스마트폰으로 번진다는 흐름이 소개됩니다. 젠슨 황이 PC에서 AI를 돌릴 수 있는 칩을 마이크로소프트와 협력해 발표했다는 내용입니다. 클라우드 구독 없이 대형 AI 모델을 내 PC에서 돌리려면 기본 메모리가 128GB 필요하다고 합니다. 일반 노트북에 보통 깔리는 16GB, 많이 깔아도 30GB 수준과 비교하면 훨씬 높은 사양입니다.

이 때문에 데이터 센터가 메모리를 대거 가져가면서 일반 소비자용 D램 가격이 오르고, 노트북과 스마트폰 가격에도 영향을 줄 수 있다는 것이 강정수 박사의 경고입니다.