Don’t ignore the weight of HBM (KOR)

LEE BYOUNG-HUN
The author is a professor of semiconductor engineering at Postech.

With the advent of ChatGPT, the era of artificial intelligence is now in full swing. The stock price of Nvidia, which monopolizes the market for graphics processing units (GPUs) — an essential tool in AI — has soared. The markets for the GPU board and the high-bandwidth memory (HBM) that go into GPUs are also expected to grow.

Even before reflecting the rapid growth trend, the HBM market was expected to grow to $2 billion in 2023 and $6.3 billion in 2028. The overall memory market is anticipated to grow to $136 billion from $110 billion during the same period. The share of HBM in the total memory market would grow from less than 2 percent to 4 percent.

The increase in AI services following the introduction of ChatGPT shows the potential for the HBM market to grow much faster than expected. As memory chipmakers show different degrees of preparation for HBM, companies that have fallen behind in technology development are rushing to catch up.

As HBM requires a stacking of multiple memory chips — and peripheral circuits to enable CPU/GPU and high-speed connection — a wide range of high-end technologies for foundry, memory, and chiplet integration packaging are needed. Because high-performance semiconductor systems such as AI chips mostly use HBM, it is important to enhance the fabless capability to design them.

In particular, the production technology used in memory driving circuits demands a cutting-edge, foundry-class technology that far exceeds the performance of conventional memory device drivers. That means Korea can have an advantage as it has already built both memory technology and high-end foundry technology.

HBM shows that it is meaningless to distinguish memory, foundry, and fabless (system integrated circuits, ICs) from now. If any one part is lacking, it will certainly deal a blow to overall competitiveness. One can only survive the fierce chip war by securing the R&D ecosystem to secure unrivaled technologies against competitors, not to mention the cutting-edge ability to design and manufacture memory and system ICs by either enhancing domestic capabilities or establishing an international alliance.

As Japan’s alliance with the United States and Europe — and Taiwan and Japan’s active participation in U.S.-led chip technology development program — illustrates, competitors are moving fast to supplement their weaknesses in various fields of design, manufacturing, and packaging. But Korea does not have a national research organization representing the chip industry or a command center overseeing international cooperation.

Moreover, the government’s chip support strategy is primarily focused on training people and building a specialized semiconductor complex rather than developing super-gap technologies. The government’s meticulous effort to augmenting Korea’s existing strengths and supplement its apparent weaknesses are needed now more than ever.

HBM은 메모리의 구세주가 될 수 있을까
포스텍 반도체공학과 주임교수

챗GPT의 등장으로 인공지능(AI) 시대가 본격화됐다. AI 구현에 필수적인 그래픽처리장치(GPU)를 독점하다시피 하는 NVIDIA의 주가가 크게 올랐다. GPU 보드 시장, GPU에 들어가는 고대역폭메모리(HBM) 시장에 대한 기대도 함께 커지고 있다. 최근의 급성장 추세를 반영하기도 전에 HBM 시장은 2023년 20억 달러, 2028년 63억 달러 규모로 성장할 것으로 예측됐다. 같은 기간 전체 메모리 시장은 1100억 달러에서 1360억 달러로 성장이 예상된다. HBM이 전체 메모리 시장에서 차지하는 비율만 따져보면 2% 미만에서 4%대로 성장하는 셈이다.

챗GPT의 도입에 이은 AI 서비스의 증가는 HBM 시장이 당초 예상보다 훨씬 더 빠르게 성장할 가능성을 보여준다. 메모리 기업 간에도 HBM 준비 정도에서 다소 차이가 있어 기술개발이 뒤진 기업들은 추격의 고삐를 조이고 있다. HBM은 다수의 메모리칩을 적층하고, CPU/GPU와 고속통신이 가능한 주변 회로를 갖춰야 하므로 최첨단 파운드리기술, 메모리기술, 칩렛집적 패키징 기술이 모두 필요하다. 인공지능 반도체와 같은 고성능 반도체 시스템은 HBM을 주로 활용하기 때문에 이를 설계할 수 있는 팹리스의 역량을 키우는 게 중요하다.

특히 HBM의 메모리 구동회로에 사용되는 제조기술은 통상적인 메모리 구동 소자의 성능을 훨씬 뛰어넘는 최첨단 파운드리급의 소자 제조 기술을 요구한다. 메모리 기술과 첨단 파운드리 기술을 모두 갖춘 우리나라로서는 유리한 대목이다.

HBM은 메모리·파운드리·팹리스(시스템 IC)를 구분하는 게 무의미한 시대가 다가왔음을 말한다. 어느 한쪽이 부족하면 전반적 경쟁력에 타격을 입을 수밖에 없다. 국내역량을 강화하든, 국제적인 연합체계를 구축하든 메모리와 시스템 IC를 복합적으로 설계·제조할 수 있는 역량과 함께 경쟁국 대비 초격차기술 확보를 위한 R&D 생태계를 갖춰야 치열한 반도체 전쟁에서 살아남을 수 있다.

일본이 미국·유럽과 연합하고, 대만·일본이 미국의 반도체 기술개발 프로그램에 적극적으로 참여하는 데서 알 수 있듯이 경쟁국들은 설계·제조·패키징 등 다양한 분야에서 약점을 보완하기 위해 발 빠르게 움직이고 있다. 반면에 우리나라는 아직 반도체 분야를 대표하는 국가대표 연구조직이나 국가 간 협력을 관장하는 컨트롤타워도 없다. 반도체 정책도 초격차기술 개발보다는 인력 양성이나 특화 단지 등 후방지원 형태의 전략이 주로 부각되고 있어 매우 우려스럽다. 한국의 강점 분야를 육성하고, 취약 분야를 보완하는 세심한 정책적 노력이 시급하다.