“고대역폭메모리(HBM)는 우리나라 기업이 세계 반도체 시장을 주도할 수 있는 핵심입니다. 인공지능(AI)과 슈퍼컴퓨터, 자율주행차 등 미래 응용처 수요를 고려하면 HBM은 향후 100단도 쌓아올리는 차세대 반도체로 거듭날 것입니다.”

김정호 KAIST 전기전자공학부 교수는 “SK하이닉스가 HBM3로 12단까지 쌓을 수 있다는 것을 증명했고, 앞으로 기업 간 적층 경쟁이 지속될 것”이라며 이같이 밝혔다.

HBM은 실리콘관통전극(TSV) 공법으로 제작된 반도체 칩을 쌓아올려 고성능을 구현한 메모리 반도체다.

AI 기술과 서비스 발전에 따라 그래픽처리장치(GPU) 활용이 늘어나고 있다. 방대한 양의 연산을 동시에 수행하는 GPU가 발전할수록 근거리에서 GPU 성능을 보조해야 하는 HBM 성능도 고도화될 수밖에 없다는 게 김 교수 생각이다.

김 교수는 TSV 모델링 연구를 지속해온 반도체 전문가로 고성능 반도체 설계와 AI 공학 설계 분야 석학이다. 김 교수의 시스템 반도체 패키징 연구실은 후배 교수와 대를 이어 연구를 진행하는 KAIST의 9번째 초세대 협업연구실로 지정, 김 교수 은퇴 이후에도 HBM과 패키징 연구를 지속할 수 있게 됐다.

현재 차세대 HBM 4·5·6 성능과 구조, 조건 등 연구를 지속 중인 김 교수는 미래 HBM은 100단까지 쌓을 수 있을 것으로 예상했다. 글로벌 빅테크 기업들이 준비 중인 '개인 AI 비서' 서비스가 세계 시장에 상용화될 경우 폭증하는 GPU 데이터 처리 수요와 보다 빠른 연산속도를 뒷받침해야 하기 때문이다.

HBM은 쌓을수록 용량이 늘어나고 성능이 빨라진다. 높게 쌓을수록 GPU와 HBM을 연결하는 채널과 TSV 수가 증가해 더 빠른 정보 교류가 가능해지기 때문이다. 현재 HBM3에서 GPU와 메모리를 연결하는 채널은 1024개지만 향후 1만개까지 증가하고 TSV 개수는 100만개까지 늘어날 것이라고 내다봤다. 반도체 다이 두께는 10마이크로미터(㎛)까지 얇아질 것이라고 예상했다.

또 HBM7 정도로 성능이 고도화되면 GPU와 HBM이 현재 병렬구조에서 GPU 위에 HBM을 쌓는 수직구조로 전환될 가능성을 제기했다. 데이터 전달과 연산, 처리 등에서 레이턴시를 최소화하기 위해 수직구조가 유리하다는 판단에서다.

김 교수는 “현재 AI 발전 속도와 미래 AI 활용을 고려하면 GPU와 신경망처리장치(NPU) 등 성능과 함께 HBM도 발전을 거듭할 수 밖에 없다”며 “챗GPT 등 생성형 AI 등장만으로 GPU와 HBM 수요가 폭증한 것처럼 AI가 발전할수록 HBM 수요가 커지는 것은 물론, 초고성능을 요구할 것”이라고 강조했다.

슈퍼컴퓨터와 양자정보통신 등 지원에 최적화된 AI 기술 수준을 10이라고 정의하면 현재 챗GPT는 3 수준에 불과, AI는 발전을 거듭하고 고성능 메모리·시스템 반도체도 지속 발전해야 한다는 의미다.

김 교수는 “기술 초격차를 위해서는 기업이 투자를 늘리는 게 무조건 필요하다”며 “HBM 수요가 늘어나는 만큼 생산능력을 지속 확대해 현재보다 10배 이상 생산라인을 확보하고 연구개발(R&D)도 거듭해 우리나라 기업이 미래 HBM이 가야할 방향을 제시해야 한다”고 말했다.

현재 삼성전자·SK하이닉스가 개발한 HBM과 마이크론 등 해외 메모리 반도체 기업의 HBM 간 기술 격차가 큰 것으로 평가되는 만큼 지속적인 개발로 미래 메모리 시장 주도권을 공고히 해야 한다는 의미다.

박종진 기자 [email protected]