The source of optimism for Nvidia (KOR)

LEE SOO-HWA
The author is a professor at the AI Convergence Research Institute of Hallym University.

The stock price of Nvidia — the leader in designing and manufacturing GPUs and developing artificial intelligence technology — soared to become the largest market cap in the world at $3.335 trillion on June 18. As the stock price has dropped since then, the market cap of Nvidia is now the third largest after those of Microsoft and Apple.

The slowdown is explained by various arguments ranging from the company selling its shares to realize profit from the short-term surge to bubbles in AI-related stocks. But Nvidia has something to believe in. For one, no other company can surpass Nvidia’s 80 percent market share in the AI GPU category.

As GPU sales are crucial to Nvidia’s stock price, the sales volume is bound to increase. Compared to existing machine learning, a large language model (LLM) requires far more computing resources, especially GPUs, for “inference.” As sales of LLM services such as OpenAI and Microsoft go up, Nvidia’s stock price will rise. Large cloud service companies such as Amazon and Google — called “hyperscalers” — cannot maintain or expand service operation without GPUs.

When multiplied by variables, Nvidia becomes an impregnable fortress. The company is leading in both hardware and software. CUDA — Nvidia’s AI learning tool — is the “One Ring” in the AI field the company got after investing more than $10 billion over the past 20 years. In order to replace CUDA, which emerged as the standard library for AI learning since deep learning in 2010, large-scale AI specialists need to be mobilized. As the global demand for those AI specialists is great, they are in short supply. The most expensive and capable AI specialists should be recruited to make a tool that can beat CUDA. The talent search will nearly be a “mission impossible.”

Hyperscalers are in the early stages of introducing AI development chips, rather than GPUs, to cut costs. But due to conflicts of interest, the possibility of releasing AI development tools as an open source is slim. If not incorporated into the open-source community, it is difficult to improve quality through testing. This stands in contrast with how CUDA was open-source from the beginning.

Will the sales of hardware, software and service companies related to generative AI show an uptick? Will Nvidia’s stock prices continue to bloom as a result? In the short term, worrying about the stock price may be unnecessary when AI improves the quality, cost of goods and services traded in the market.

Will AI work as the “stem cell” to solve the challenges of humanity? The limits AI will face in moonshot projects to resolve the major enemies of mankind — such as the pandemic, climate change, wealth polarization and medical welfare — will pose mid- to long-term challenges to the industry.

엔비디아가 ‘거품론 논란’에도 믿는 구석
이수화 한림대학교 AI융합연구원 연구교수

그래픽처리장치(GPU) 디자인∙제조와 인공지능(AI) 기술개발을 선도하는 엔비디아의 주가는 지난달 18일 시가총액 3조3350억 달러로 글로벌 1위에 올랐다. 그 후 급락해 현재 마이크로소프트∙애플에 이어 3위다. ‘단기 초급등에 따른 차익 실현론’부터 ‘AI 관련주, 엔비디아 주가 거품론’까지 다양한 견해가 부진을 설명한다. 하지만 엔비디아는 든든한 믿는 구석이 있다. 우선 인공지능(AI) 연산용 GPU 시장점유율(80%)을 타사가 넘어서기는 거의 불가능하다고 예측된다.

GPU 매출이 엔비디아 주가의 숨통을 쥐고 있는데, 매출이 늘 수밖에 없는 구조다. 초거대언어모형(LLM)은 기존 머신러닝과 비교했을 때 ‘추론’에 필요한 컴퓨팅 자원, 특히 GPU가 매우 많이 필요하다. 오픈AI나 마이크로소프트 등의 LLM 서비스 매출이 늘어날수록, 엔비디아 주가는 상승할 것이다. 아마존∙구글 등 ‘하이퍼스케일러(hyperscaler)’라 불리는 대형 클라우드 서비스 회사들도 GPU 없이 서비스 운영을 유지∙확대할 수 없다.

여러 변수가 곱해지면 난공불락의 요새가 된다. 엔비디아는 하드웨어∙소프트웨어 양쪽에서 독보적이다. 엔비디아의 AI 학습 도구인 CUDA는 지금까지 100억 달러 이상의 비용을 투입해서 거의 20년 가까이 숙성시킨 AI 분야의 ‘절대 반지’다. 2010년 딥러닝 이래 AI 학습의 표준 라이브러리로 군림하는 CUDA를 대체하려면, 대규모 AI 전문개발진을 투입해야 한다. 바로 이 AI 전문가 집단이 현재 글로벌 수요가 가장 많고 공급이 태부족하다. CUDA를 이길 도구를 만들려면, 가장 비싸고 실력 좋은 AI 전문가를 유인해야 한다. ‘미션 임파서블’에 도전하는 구인 프로젝트가 될 것이다.

하이퍼스케일러들도 비용절감을 위해 GPU 아닌 AI 개발 칩을 도입하는 초기 단계에 있다. 그러나 이해관계 상충으로 오픈소스로 AI 개발 도구를 공개할 가능성은 희박하다. 오픈소스 커뮤니티에 편입되지 않을 경우, 테스트를 통한 성숙도 제고는 속도가 나기 어렵다. CUDA가 시작부터 오픈소스였던 점과 대조된다.

생성형 AI 관련 하드웨어∙소프트웨어∙서비스 회사들의 매출은 우상향을 과시할 것인가. 그 덕에 엔비디아 주가는 계속 봄을 맞이할 것인가. 단기적으로는 AI가 시장에서 거래되는 물건과 서비스의 품질과 비용을 좋게 만들 때 주가 걱정은 불필요한지 모른다. AI는 인류 난제 해결의 ‘줄기세포’로 동작 가능할까. 인간에게 고통을 주는 큰 적들, 팬데믹∙기후온난화∙양극화∙의료복지를 해결하는 문샷 프로젝트에서 AI가 마주할 능력의 한계가 중장기적 도전과 위기가 될 것이라고 본다.