엔비디아, 차세대 AI 플랫폼 '베라 루빈' 양산 개시

"프롬프트 한 번으로 수천 단계의 여정이 시작된다." 젠슨 황 엔비디아 최고경영자(CEO)가 GTC 2026 기조연설에서 던진 화두다. 엔비디아는 차세대 AI 플랫폼 '베라 루빈(Vera Rubin)'의 양산 돌입을 알리며, 단순한 하드웨어 경쟁을 넘어 '에이전틱 AI' 워크로드를 정조준하겠다는 뜻을 명확히 했다. 엔지니어 4만 명이 투입된 베라 루빈은 올가을부터 출하를 시작한다.

한 세대를 통째로 건너뛴 하드웨어 도약

베라 루빈의 핵심은 개별 GPU의 체급 자체를 비약적으로 키운 점이다. 루빈 GPU는 288GB HBM4 메모리와 초당 22테라바이트(TB/s)의 대역폭을 갖췄으며, FP4 정밀도 기준 추론 50페타플롭스, 학습 35페타플롭스를 구현한다. TSMC 3나노 공정의 듀얼다이 구조를 채택해 트랜지스터 수만 3,360억 개에 달하며, 이는 블랙웰(2,080억 개) 대비 1.6배다.

이러한 세대 간 격차는 이전 모델과의 비교에서 확연히 드러난다. 호퍼(H100·H200)에서 블랙웰(B200)을 거쳐 루빈으로 진화하는 과정에서 메모리 용량과 대역폭, 연산 성능 등 모든 핵심 지표가 매 세대 배수로 불어났다.

실제로 메모리 대역폭은 H100(3.35TB/s) 대비 6.6배 늘어난 22TB/s에 달하며, FP8 연산 성능은 8.8배 뛰었다. 추론 토큰 수가 폭증하는 환경에서는 메모리 대역폭과 용량이 곧 전체 처리량을 좌우하는 병목이 된다. 엔비디아가 단순 연산 코어 증설만큼이나 메모리 아키텍처 개선에 공을 들여온 이유가 바로 여기에 있다. 루빈 GPU가 '메모리 괴물'로 불리는 까닭이다.

왜 에이전틱 AI 전용 칩인가

이처럼 강력한 연산 체급이 필요한 이유는 AI 워크로드의 근본적인 변화에서 기인한다. 기존 AI가 단일 프롬프트에 하나의 답변을 내놓는 단발성 구조였다면, 에이전틱 AI의 작동 방식은 완전히 다르다.

"에이전틱 AI는 새로운 종류의 워크로드다. 한 번의 프롬프트가 추론, 검색, 도구 사용, 응답 생성으로 이어지는 수천 단계의 여정을 촉발한다." — 젠슨 황, GTC 2026

스스로 추론하고 외부 도구를 호출하며, 하위 에이전트를 연쇄 실행하는 구조는 단일 질의에도 수천 배의 연산을 요구한다. 베라 루빈은 이 지점을 정확히 공략했다. GPU와 베라 CPU를 NVLink 6로 결합한 랙 시스템 '베라 루빈 NVL144'는 직전 세대인 그레이스 블랙웰 플랫폼 대비 에이전트 처리량을 10배로 끌어올렸다. 와트당 추론 성능은 10배 높였고, 토큰당 비용은 10분의 1로 낮췄다.

88개의 커스텀 Arm 코어로 구성된 베라 CPU가 데이터 검색 및 도구 호출 같은 주변 연산을 전담하고, GPU는 추론에만 전념하는 고도의 분업 체계를 이뤘다. 이는 엔비디아가 최근 공개한 NemoClaw 플랫폼 같은 소프트웨어 전략과도 정교하게 궤를 같이한다.

블랙웰 대비 두 배 공급망으로 'AI 팩토리' 구축

엔비디아가 연산 성능 못지않게 공을 들인 지표는 제조 규모다. 엔비디아 뉴스룸에 따르면 베라 루빈의 공급망 규모는 블랙웰의 두 배에 달한다. 대만에서만 150개 협력사가 합류했고, 전 세계 30개국 350여 개 공장이 가동을 시작했다. 단순 GPU 단품이 아니라 CPU와 NVLink 스위치, 네트워크 칩을 아우르는 7종의 핵심 실리콘 부품이 동시에 생산 라인에 올라탔다.

이 거대한 공급망을 통해 생산되는 물량은 글로벌 'AI 팩토리' 인프라로 즉시 인도된다. 코어위브 등 주요 클라우드 사업자들이 초기 도입 파트너로 동참했으며, 대규모 추론 연산에 최적화된 설계의 '베라 루빈 CPX' 랙 시스템 또한 연내 출시를 마칠 계획이다.

결과적으로 베라 루빈이 시장에 보내는 메시지는 단순한 하드웨어 속도가 아니다. 질의 하나가 수천 단계의 작업으로 증폭되는 에이전틱 AI 시대를 맞아, 폭증하는 인프라 수요를 누가 먼저 선점하느냐의 싸움이다. 엔비디아는 이제 개별 GPU 공급사를 넘어 거대한 'AI 팩토리' 인프라 전체를 시장에 제시했다. 상세 사양 이면에는 에이전트와 에이전트가 교류하며 작동하는 다음 세대 표준을 독점하겠다는 포석이 깔려 있다.