GTC가 WWDC 압도한 결정적 이유
엔비디아의 초격차 시크릿
1. 카니발라이제이션
2. 엔비디아 시간표
3. 지적정직함의 가치

[서울경제]

[정혜진의 라스트 컴퍼니]는 오래 갈 기업의 ‘코어’에 있는 조직 문화를 다룹니다

지난 18일 젠슨황 엔비디아 CEO가 미국 캘리포니아주 세너제이 SAP센터에서 열린 GTC 2025 기조연설에 앞서 프랜차이즈 ‘데니스’의 앞치마를 입은 채 손님을 맞이하고 있다. /AP연합뉴스

“이번 키노트는 기조연설이라기보다는 인공지능(AI) 강연에 가까웠습니다. 일일이 수학 계산까지 하면서 설명하는 젠슨황의 모습을 보며 감탄했습니다. 아마 참석했던 AI 개발자들보다 젠슨황이 더 많이 알고 있는 것 같아 보였거든요.” (AI스타트업 대표)

지난 17일(현지 시간)부터 미국 캘리포니아주 세너제이에서 5일 간 진행된 엔비디아의 ‘GPU 테크놀로지 컨퍼런스(GTC) 2025’. 젠슨 황 엔비디아 최고경영자(CEO)는 지난해 ‘가죽 재킷을 입은 록스타’에서 ‘젠슨 교수’에 가까운 모습을 보였다. 지난 해 5년 만에 처음 오프라인으로 재개된 GTC 2024에서 젠슨 황이 3시간 동안 혼자 무대 위를 누비며 록스타적인 면모를 뽐내고 블랙웰 아키텍처를 첫 공개하며 받았던 환호성, 그 다음 세대인 루빈 아키텍처에 대한 ‘티저’를 공개하는 등 ‘서프라이즈’ 요소에는 이미 많은 이들이 익숙해졌기에 이번 GTC에서는 상대적으로 엔비디아 효과가 덜했다는 평가가 나오기도 한다.

이는 언뜻 착시효과다. 이번 GTC가 무난해 보이는 데는 이제 사람들이 엔비디아의 기술 리더십에 익숙해지고 있다는 신호에 가깝다. 엔비디아에 대한 기대치가 높아지는 것은 오히려 엔비디아 제국의 영향력은 더욱 커진다는 것을 증명한다. 젠슨 황은 이번에도 ‘전체적인 익숙함 가운데 낯설게 하기’ 스타일로 몇 가지 ‘젠슨황 터치’를 추가했다. 이 젠슨황 터치는 GTC의 위상을 매년 5월 열리는 구글의 개발자 콘퍼런스인 ‘구글 I/O’와 6월 애플의 ‘세계개발자회의(WWDC)’를 뛰어넘는 반열에 올려놨다.

지난 18일 젠슨황 엔비디아 CEO가 미국 캘리포니아주 세너제이 SAP센터에서 열린 GTC 2025 기조연설에서 젠슨황 CEO가 실제로 구동되는 기업별 데이터센터 랙 내부를 보여주면서 설명하고 있다. /로이터연합뉴스

“이제 호퍼는 거져줘도 아무도 원하지 않을 것”

먼저 내 제품은 내 손으로 그 수명을 끊더라도 경쟁사에게 먹잇감으로 내주지 않겠다는 철저한 원칙이 담겨 있는 ‘카니발라이제이션(Cannibalization)’이다. 흔히 자기 시장 잠식 원칙으로 불리기도 하는 이 잔혹한 카니발라이제이션의 제물은 호퍼 시리즈였다. 그는 기조연설 중 올해 하반기 출시되는 블랙웰 울트라 시리즈의 성능 향상을 언급하면서 무서운 농담을 던졌다. “저는 이전에도 블랙웰이 본격적으로 대량 출하되기 시작하면 호퍼는 거저 준다고 해도 아무도 원하지 않을 것이라고 말한 적 있습니다.”

호퍼 아키텍처 기반의 H100 시리즈는 엔비디아의 오랜 효자 제품이었고 수 많은 고객사들의 러브콜을 받았지만 자체적으로 호퍼 시리즈의 수명을 끊어버리면서 새 제품의 입지를 공고히 한 것이다. 실제로 이날 젠슨 황이 공개한 성능 비교에 따르면 호퍼 시리즈에서 블랙웰 시리즈로 넘어갈 때 고객사들이 경험할 수 있는 성능 차이는 68배, 차세대 시리즈인 루빈 시리즈로 전환할 때의 차이는 900배에 달한다. 동시에 성능당 비용은 루빈 시리즈에서는 87%까지 줄일 수 있다고 언급했다. 이는 ‘GPU를 얼마나 확보할 수 있느냐’ 이상으로 ‘이들을 얼마나 한 몸처럼 유기적으로 움직일 수 있게 할 것인가’가 중요해지면서 벌어진 일이다. 엔비디아가 TSMC와 개발한 CPO(Co-Packaged Optics) 네트워킹 스위치를 통해서 광학 부품과 전자 부품을 하나의 패키지에 통합해 데이터의 전송 효율을 높이고 병목 현상을 크게 줄였다. 이를 바탕으로 전력 소모가 높은 광 트랜시버를 대체하고 엔비디아의 AI 인프라 록인 효과를 강화하겠다는 방침이다. 모든 방향은 AI 인프라 생태계를 엔비디아를 중심으로 통일하는 데 집중하고 있다.

/로이터연합뉴스

주가가 흔들릴 지라도 엔비디아 시간표는 계속된다

이번에도 젠슨황은 2027년 나올 루빈 울트라 NVL 576의 스펙을 제시했다. GPU 576장을 탑재한 이 칩은 초당 4.6페타바이트(PB)에 달하는 속도를 내 수퍼컴퓨터를 모두 합쳐놓은 것과 같은 성능을 예상하게 한다. 이어 티저 형태로 2028년에 공개할 시리즈의 이름으로 파인만 아키텍처를 살짝 공개했다. 젠슨 황은 담백하게 덧붙였다. “일년에 한 번, 시계처럼 정확하게”

이를 엔비디아 내부에서는 ‘엔비디아 시간표’로 말하며 자부심을 드러낸다. 패스트 팔로워가 아닌 이상 만년 1위인 강자가 계속해서 자신들의 자체 시간표를 세우고 이를 넘어서는 일은 상상 이상의 노력이 필요한 일이다. 실리콘밸리에서 만난 엔비디아의 한 직원은 “만약 인텔, AMD 등 경쟁 업체에서 ‘엔비디아 시간표’에 따라 신제품을 출시한다면, 업계 전체가 그야말로 깜짝 놀랄 것”이라며 자부심을 드러낸 게 오래 기억에 남았다.

실제로 젠슨 황은 GTC 2024에서 차세대 블랙웰 시리즈를 공개한 지 3개월 만인 2024년 6월 대만 타이베이에서 열린 ‘컴퓨텍스COMPUTEX 2024’ 기조연설에서 또 한 번의 깜짝 선언을 했다. 블랙웰을 이을 후속작인 차세대 아키텍처 ‘루빈Rubin’을 2026년부터 양산할 것이라고 예고한 것.

“이제 우리는 (2년 주기가 아닌) 1년 주기의 리듬을 갖게 됩니다. 우리의 기본 철학은 단순합니다. 전체 규모의 데이터센터를 짓고, 이를 분해해 1년 리듬으로 고객들에게 필요한 부품을 제공하고 기술의 한계를 끝까지 밀어붙이는 것입니다.”

지난해 하루 만에 역대 나스닥 사상 최대 규모의 시가 총액이 증발할 정도로 상장사로서는 큰 리스크를 안겨준 사건도 블랙웰의 출하가 예고한 시점보다 지연돼 수요를 맞출 수 없다는 점 때문이었다. 기존에 안정성을 추구하는 기업이었다면 당시 기준 2년 이상의 대기 리스트가 만들어진 호퍼 시리즈를 그대로 팔면서 후속작을 고도화하는 방법도 있었겠지만 그런 선택지는 엔비디아에 없었다. 오히려 불가능한 스케줄을 내세우며 이를 밀어붙였다.

많은 기업들이 신년사로 ‘기술 리더십’에 대해서 이야기 하지만 정의가 명확하지 않다. 하지만 엔비디아를 보면 계속해서 주가의 흔들림을 감당하고서라도 이미 1등인 구성원들에게 정확한 기준점을 제시하고 이를 바탕으로 목표를 향해 절대적인 수준을 추구하는 게 몸에 배어 있는 자세가 현재 살펴볼 수 있는 기술 리더십의 궁극의 방향에 가깝다.

엔비디아 시간표는 고객사의 니즈와 시장의 흐름을 빠르게 읽는 데서도 발휘된다. 젠슨 황은 이날 기조연설에서 ‘스케일링의 법칙’이 수정될 수 있다며 딥시크의 예를 들었다. 기존에 AI 지능은 학습한 데이터의 양과 비례한다고 여겨졌으나 이제는 더 많은 연산처리에 비례하는 ‘테스트 타임 스케일링의 법칙’을 이야기한 것. 전통적인 LLM 모델의 경우 연산을 처리할 때 439개의 토큰을 썼다면 딥시크의 추론 모델 R1은 20배에 달하는 8559개의 토큰을 쓰고 컴퓨팅 파워는 150배가 더 소요됐다는 것이다. 결국 GPU는 더 많이 필요할 수밖에 없고 더 많이 살수록 더 아끼는 것이라는 말까지 내놨다. 또 이에 발맞춰 AI 추론 모델의 효율 극대화하는 오픈소스 라이브러리 ‘엔비디아 다이나모(NVIDIA Dynamo)’까지 출시해 소비자의 문턱을 크게 낮췄다.

지난 20일 미국 새너제이에서 진행된 GTC 양자 컴퓨팅 세션에서 젠슨황(왼쪽) CEO가 많은 양자 컴퓨팅 대표들을 패널로 초청한 가운데 자신의 실수에 대해 인정하고 포문을 열고 있다. /로이터연합뉴스

에필로그 “CEO도 언제든 틀릴 수 있다”

GTC에서 또 한 번 화제를 모은 장면은 불과 지난 1월에 양자컴퓨팅 상용화까지는 20년이 소요될 것이라고 말해 일제히 양자컴퓨팅 회사들의 주가를 떨어뜨린 주범이 된 젠슨황이 이번에 대규모로 양자 컴퓨팅 세션을 별도로 마련한 것이다. 그는 12곳에 달하는 양자 컴퓨팅 회사 CEO들이 모인 자리에서 이 같이 포문을 열었다.

“이것은 역사상 처음으로 회사의 수장이 자기가 왜 틀렸었는지를 설명하기 위해 모든 게스트들을 불러모은 자리일 겁니다.”

그러면서 양자 컴퓨팅 자체보다는 양자 컴퓨팅 프로세서 등 시장 친화적으로 다가가는 방식을 제시하기도 하고 엔비디아의 하드웨어와 소프트웨어를 통합적으로 발전시키는 기간으로는 20년도 길지 않은 시간이었다면서 이야기하기도 했다. 결과적으로 양자 컴퓨팅 회사들의 주가에는 도움이 안 되는 자리였다는 평가도 있지만 다시 한 번 자신의 발언을 만회할 자리를 갖고 공개적인 토론 세션을 열었다는 것은 엔비디아의 ‘지적 정직함’의 자세를 보여준다.

엔비디아의 핵심 가치 /사진 제공=엔비디아 ‘Our code’

엔비디아에서 내세우는 누구든지 틀릴 수 있다는 가능성을 인정하고 열린 자세로 피드백을 받아들이는 메타 인지 능력에 가깝다. 이는 엔비디아에서 거의 유일하게 기업 문화 덱 자료에 내놓는 가치이기도 하다. 이를 CEO부터 실행하는 점이 엔비디아에 지적 정직함의 문화를 뿌리내리게 했다는 평가도 따른다. 이는 계속해서 엔비디아가 1위에 안주하지 않고 자가 발전을 하게 하는 동력이 된다.

그는 일찍이 2009년 미국 스탠퍼드대에서 진행한 기술 벤처 프로그램 강연에서 이같이 말했다.

“많은 사람들이 CEO는 항상 옳고, CEO가 한번 결정하면 생각을 바꾸지 않을 것이라고 생각합니다. 하지만 이는 제게 해당되지 않는 이야기입니다. 특히 우리가 어떤

회사가 되고 싶은지에 대한 ‘제1원리’에 위배된다면 예외는 없습니다. 매번 우리가 세운 가정이 옳은지 주기적으로 점검하고 평가합니다. 만약 잘못된 결정이라고 생각하면, 곧바로 생각을 바꿉니다.”

정혜진 기자 madein@sedaily.com

Copyright © 서울경제. 무단전재 및 재배포 금지.