繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

業績電話會丨英偉達FY2025Q2業績會紀要(全文)

2024-08-29 10:42

一、CFO科萊特·克雷斯發言:

第二季度又創下了紀錄。收入 300 億美元,環比增長 15%,同比增長 122%,遠高於我們 280 億美元的預期。首先是數據中心。數據中心收入 263 億美元創下紀錄,環比增長 16%,同比增長 154%,這得益於對 NVIDIA Hopper、GPU 計算和我們的網絡平臺的強勁需求。計算收入增長了 2.5 倍以上,網絡收入增長了 2 倍以上。

雲服務提供商約佔我們數據中心收入的 45%,其中 50% 以上來自消費者、互聯網和企業公司。客户繼續加速購買 Hopper 架構,同時準備採用 Blackwell。推動我們數據中心增長的關鍵工作負載包括生成 AI、模型訓練和推理。使用 CUDA 和 AI 工作負載進行視頻、圖像和文本數據預處理和后處理、合成數據生成、AI 驅動的推薦系統、SQL 和矢量數據庫處理。

下一代模型將需要 10 到 20 倍的計算能力來處理更多數據。預計這一趨勢將持續下去。在過去四個季度中,我們估計推理推動了我們數據中心收入的 40% 以上。CSP、消費者互聯網公司和企業受益於 NVIDIA 推理平臺的驚人吞吐量和效率。對 NVIDIA 的需求來自前沿模型製造商、消費者互聯網服務以及為消費者、廣告、教育、企業和醫療保健以及機器人構建生成式 AI 應用程序的數以萬計的公司和初創公司。開發人員希望 NVIDIA 擁有豐富的生態系統並在每個雲中都可用。CSP 欣賞 NVIDIA 的廣泛採用,並鑑於高需求而擴大其 NVIDIA 容量。NVIDIA H200 平臺於第二季度開始加速,並向大型 CSP 的消費者互聯網和企業公司發貨。NVIDIA H200 以我們 Hopper 架構的優勢為基礎,與 H100 相比,提供超過 40% 的內存帶寬。

我們在中國數據中心的收入在第二季度環比增長,是數據中心收入的重要貢獻者。佔數據中心總收入的百分比仍低於實施出口管制之前的水平。我們繼續預計未來中國市場競爭將非常激烈。

最新一輪的 MLPerf 推理基準測試凸顯了 NVIDIA 在推理方面的領先地位,NVIDIA、Hopper 和Blackwell 平臺合力在所有任務上均奪得金牌。在臺北國際電腦展上,NVIDIA 與頂級計算機制造商共同推出了一系列基於 Blackwell 架構的系統和 NVIDIA 網絡,用於構建 AI 工廠和數據中心。藉助 NVIDIA MGX 模塊化參考架構,我們的 OEM 和 ODM 合作伙伴正在快速且經濟高效地構建 100 多個基於 Blackwell 的系統。

NVIDIABlackwell 平臺將多個 GPU、CPU、DPU 和 Link 以及 Link 交換機、網絡、芯片、系統和 NVIDIA CUDA 軟件整合在一起,為跨領域、跨行業和跨國家的下一代 AI 提供動力。配備第五代 NVLink 的 NVIDIA GB 200 NVL72 系統可使所有 72 個 GPU 充當單個 GPU,併爲 LLM、工作負載提供高達 30 倍的推理速度,並解鎖實時運行萬億參數模型的能力。

Hopper 需求強勁,Blackwell 正在廣泛採樣。我們對 Blackwell GPU 質量進行了更改,以提高生產良率。Blackwell 的生產爬坡計劃於第四季度開始,並持續到 26 財年。

第四季度,我們預計 Blackwell 的出貨量將達到數十億美元。Hopper 的出貨量預計將在 2025 財年下半年增加。Hopper 的供應和可用性有所改善。Blackwell 平臺的需求遠高於供應,我們預計這種情況將持續到明年。

網絡收入環比增長 16%。我們的 AI 以太網收入(包括我們的 Spectrum-X 端到端以太網平臺)環比翻了一番,數百家客户採用了我們的以太網產品。Spectrum-X 獲得了 OEM 和ODM 合作伙伴的廣泛市場支持,並被 CSP、GPU 雲提供商和企業(包括 X-AI)採用,以連接世界上最大的 GPU 計算集羣。

Spectrum-X 增強了以太網的 AI 處理能力,其性能是傳統以太網的 1.6 倍。我們計劃每年推出新的 Spectrum-X 產品,以支持將計算集羣從目前的數萬個 DPU 擴展到不久的將來的數百萬個 GPU 的需求。Spectrum-X 有望在一年內開始數十億美元的產品線。隨着各國認識到 AI 專業知識和基礎設施是其社會和行業的國家當務之急,我們的自主 AI 機會不斷擴大。日本國家先進工業科學與技術研究所正在與 NVIDIA 合作構建其 AI 橋接雲基礎設施 3.0 超級計算機。我們相信今年自主 AI 收入將達到數十億美元。

企業 AI 浪潮已然開啟。本季度,企業也推動了收入的連續增長。我們正在與大多數《財富》100 強企業合作,開展跨行業和跨地區的 AI 計劃。一系列應用正在推動我們的增長,包括 AI 驅動的聊天機器人、生成式 AI 副駕駛和代理,以構建新的可盈利業務應用並提高員工生產力。Amdocs 正在將 NVIDIA 生成式 AI 用於其智能代理,從而改變客户體驗並將客户服務成本降低 30%。ServiceNow 正在將 NVIDIA 用於其 Now Assist 產品,這是該公司歷史上增長最快的新產品。SAP 正在使用 NVIDIA 構建雙副駕駛。Cohesity 正在使用 NVIDIA 構建其生成式 AI 代理並降低生成式 AI 開發成本。Snowflake 每天為超過 10,000 家企業客户提供超過 30 億次查詢,並正在與 NVIDIA 合作構建副駕駛。

最后,緯創正在使用NVIDIA AI Omniverse 將其工廠的端到端周期縮短 50%。汽車是本季度的主要增長動力,因為每家開發自動駕駛汽車技術的汽車製造商都在其數據中心使用 NVIDIA。汽車將在本地和雲端消費中帶來數十億美元的收入,並且隨着下一代模型需要更多計算而增長。

隨着人工智能徹底改變了醫學成像、手術機器人、患者護理、電子健康、記錄處理和藥物發現,醫療保健也正在成為價值數十億美元的產業。在本季度,我們宣佈了一項新的 NVIDIA AI 代工服務,利用 Meta 的 Llama 3.1 模型集為全球企業提供生成式人工智能。這標誌着企業人工智能的一個分水嶺。企業首次可以利用開源前沿模型的功能來開發定製的人工智能應用程序,將其機構知識編碼到人工智能飛輪中,以實現業務自動化和加速。埃森哲是第一家採用新服務來構建定製 Llama 3.1 模型的公司,既可用於自己使用,也可用於協助尋求部署生成式人工智能應用程序的客户。Nvidia NIM 加速並簡化了模型部署。醫療保健、能源、金融服務、零售、交通和電信領域的公司都在採用 NIM,包括阿美、Lowe's 和Uber。 AT&T 在將 NIM 用於生成式 AI、通話轉錄和分類后,實現了 70% 的成本節省和 8 倍的延迟減少。超過 150 個合作伙伴正在將 NIM 嵌入 AI 生態系統的每一層。我們宣佈了 NIM 代理藍圖,這是一份可定製參考應用程序目錄,其中包括用於構建和部署企業生成式AI 應用程序的全套軟件。藉助 NIM 代理藍圖,企業可以隨着時間的推移完善其 AI 應用程序,從而創建數據驅動的 AI 飛輪。第一個 NIM 代理藍圖包括客户服務、計算機輔助藥物發現和企業檢索增強生成的工作負載。我們的系統集成商、技術解決方案提供商和系統構建商正在將 NVIDIA NIM 代理藍圖帶給企業。NVIDIA NIM 和 NIM 代理藍圖可通過 NVIDIA AI 企業軟件平臺獲得,該平臺發展勢頭強勁。我們預計,今年我們的軟件、SaaS 和支持收入將接近 20 億美元的年運行率,其中 NVIDIA AI Enterprise 將顯著促進增長。

遊戲和 AI PC:遊戲收入為 28.8 億美元,環比增長 9%,同比增長 16%。我們看到遊戲機、筆記本電腦和臺式機收入環比增長,需求強勁且不斷增長,渠道庫存保持健康。每台配備 RTX 的 PC 都是 AIPC。RTX PC 可以提供多達 1,300 個 AI 頂部,目前領先的 PC 製造商設計了 200 多種 RTX AI 筆記本電腦。憑藉 600 個 AI 應用程序和遊戲以及1 億台設備的安裝基數,RTX 將通過生成 AI 徹底改變消費者體驗。NVIDIA ACE 是一套生成 AI 技術,可用於 RTX、AI PC。MechaBREAK 是第一款使用 NVIDIA ACE 的遊戲,包括我們的小型大型語言模型 Minitron-4B,該模型針對設備推理進行了優化。 NVIDIA 遊戲生態系統持續發展,近期新增了 RTX 和 DLSS 遊戲,包括《奪寶奇兵 2:大圓環》、《沙丘覺醒》和《龍騰世紀:面紗守衞》。GeForce Now 庫持續擴展,總目錄大小超過 2,000 個遊戲,是所有云遊戲服務中內容最多的。

專業可視化:營收為 4.54 億美元,環比增長 6%,同比增長 20%。需求由 AI 和圖形用例推動,包括模型微調和與 Omniverse 相關的工作負載。汽車和製造業是本季度推動增長的關鍵垂直行業之一。各家公司都在競相數字化工作流程,以提高整個運營的效率。全球最大的電子產品製造商富士康正在使用 NVIDIA Omniverse 為生產 NVIDIA Blackwell 系統的物理工廠的數字孿生提供支持。包括梅賽德斯-奔馳在內的幾家大型跨國企業——梅賽德斯-奔馳與 NVIDIA Omniverse Cloud 簽署了多年期合同,為工廠構建工業數字孿生。我們宣佈推出全新 NVIDIA USD NIM 和連接器,將 Omniverse 開放給新行業,使開發人員能夠將生成式 AI 副駕駛和代理納入 USD 工作流程,從而加速他們構建高精度虛擬世界的能力。WPP 正在其生成式 AI 內容創作流程中為可口可樂等客户實施 USD NIM 微服務。

汽車和機器人領域:收入為 3.46 億美元,環比增長5%,同比增長 37%。同比增長的推動力是自動駕駛平臺新客户的增加以及對 AI 駕駛艙解決方案的需求增加。在消費者——計算機視覺和模式識別會議上,NVIDIA 在端到端大規模駕駛類別的自動駕駛品牌挑戰賽中獲勝,在全球 400 多個參賽者中脫穎而出。 Austin Dynamics、比亞迪電子、西門子、ADI 和 Teradyne Robotics 正在使用 NVIDIA Isaac 機器人平臺來打造自主機器人手臂、人形機器人和移動機器人。

其他財務關鍵指標:GAAP 毛利率為 75.1%,非 GAAP 毛利率為 75.7%,環比下降,原因是數據中心新產品組合增加以及低收益 Blackwell 材料的庫存撥備。GAAP 和非 GAAP 運營費用環比增長 12%,主要反映了薪酬相關成本的增加。經營活動現金流為 145 億美元。

股票回購:在第二季度,我們以股票回購和現金股息的形式將 74 億美元現金用於股東回報,反映了每股股息的增加。我們的董事會最近批准了 500 億美元的股票回購授權,以增加我們在第二季度末剩余的 75 億美元授權

業績指引:總收入預計為 325 億美元,上下浮動 2%。我們的第三季度收入預期包括 Hopper 架構的持續增長和 Blackwell 產品的樣品。我們預計 Blackwell 產量將在第四季度上升。GAAP 和非 GAAP 毛利率預計分別為 74.4% 和 75%,上下浮動 50 個基點。隨着我們的數據中心組合繼續轉向新產品,我們預計這一趨勢將持續到 2025 財年第四季度。全年,我們預計毛利率將在 70% 左右。GAAP 和非 GAAP 運營費用預計分別約為 43 億美元和 30 億美元。隨着我們致力於開發下一代產品,預計全年運營費用將增長 40% 左右。預計 GAAP 和非GAAP 其他收入和支出約為 3.5 億美元,包括非關聯投資和公開持有的股票證券的收益和損失。GAAP 和非 GAAP 税率預計為17%,上下浮動 1%,不包括任何單項項目。

 

二、Q&A

Q:感謝您回答我的問題。Jensen,您在準備好的評論中提到Blackwell GPU 掩膜發生了變化。我很好奇,后端封裝或其他方面是否還有其他增量變化?我認為相關的是,您表示,儘管設計有所變化,但您可以在第四季度交付數十億美元的 Blackwell。是因為到那時所有這些問題都會得到解決嗎?請幫助我們評估Blackwell 時間安排的任何變化對整體的影響是什麼,這對您的收入狀況意味着什麼,以及我們的客户對此有何反應?

A-黃仁勛是的。謝謝,Vivek。掩碼的更改已完成。無需進行任何功能更改。因此,我們正在對 Blackwell、Grace Blackwell 的功能樣本進行採樣,這些樣本適用於各種系統配置。在 Computex 上展示了大約 100 種不同類型的基於 Blackwell 的系統。我們正在啟用我們的生態系統來開始採樣這些系統。Blackwell的功能保持不變,我們預計將在第四季度開始生產。

Q :Jensen,我有一個相對長期的問題。您可能知道,市場上對您的客户和客户投資回報率以及這對未來資本支出可持續性意味着什麼的爭論非常激烈。在 NVIDIA 內部,比如你們在關注什麼,當您試圖衡量客户回報時,你們關注什麼?你們的決策指標是什麼?然后可能是對 Colette 的快速跟進。我認為您的全年主權 AI 數字可能增加了幾十億美元。是什麼推動了前景的改善?我們應該如何看待 26 財年?謝謝。

A-黃仁勛:謝謝,Toshiya。首先,當我説在第四季度開始出貨時,我的意思是出貨,而不是開始生產。關於長期問題,我們退一步來看,你聽我説過我們正在經歷兩個同時發生的平臺轉型。第一個是從通用計算向加速計算的轉變。原因是CPU的擴展已被證明在放緩,計算需求卻在大幅增長。如果我們沒有新的方法,計算通脹將推高每個公司的成本,並增加全球數據中心的能源消耗。實際上,你已經看到了這種情況。所以答案是加速計算。我們知道,加速計算不僅加快了應用程序的速度,還使您能夠以更大規模進行計算,例如科學模擬或數據庫處理。這直接轉化為更低的成本和更少的能耗。事實上,本周我們發佈了一篇博客,討論了我們提供的一系列新庫,這正是從通用計算向加速計算轉變的核心。節省90%的計算成本並不罕見,因為你加速了50倍的應用程序,預計計算成本會大幅下降。

第二個是通過加速計算實現的,因為我們降低了訓練大型語言模型或訓練深度學習的成本,令人難以置信的是,現在可以擁有超大規模模型,數萬億參數模型,並在幾乎全世界的知識庫上對其進行預訓練,讓模型去弄清楚如何理解人類的語言表徵,如何將知識編入神經網絡,如何學習推理。這引發了生成式人工智能革命。現在,生成式人工智能,退一步來説,我們之所以如此深入地研究它,是因為它不僅僅是一個特性,不僅僅是一種能力,而是一種全新的軟件開發方式。我們現在有數據,而不是人為設計的算法。我們告訴人工智能,我們告訴模型,我們告訴計算機什麼是預期答案,什麼是我們之前的觀察結果。

然后讓它弄清楚算法是什麼,函數是什麼。它學習通用人工智能有點像通用函數逼近器,它可以學習函數。所以你可以學習幾乎任何東西的功能。任何可預測的東西,任何有結構的東西,任何你有先前例子的東西。所以現在我們有了生成式人工智能。這是計算機科學的一種基本新形式。它影響着從 CPU 到 GPU、從人工設計的算法到機器學習算法的每一層計算方式。你現在可以開發和生產的應用程序類型從根本上來説是了不起的。

生成式人工智能正在發生許多變化。首先,前沿模型的規模正在大幅增長。我們仍然看到擴展帶來的好處。每當模型規模增加一倍時,訓練數據集的規模也必須增加一倍以上。因此,創建該模型所需的浮點運算量會成倍增加。這並不罕見,下一代模型所需的計算量可能比上一代多 20 倍、10 倍、20 倍、40 倍,這並不意外。因此,我們必須繼續大幅提高代際性能,這樣我們才能降低能耗,降低成本。

因此,第一個是,有更大的前沿模型在更多模態上進行訓練,令人驚訝的是,與去年相比,今年的前沿模型製作者更多。因此,您將看到更多。這是生成式 AI 中正在發生的動態之一。第二個是,儘管它只是冰山一角。我們看到的是 ChatGPT、圖像生成器,我們看到了編碼。我們現在在 NVIDIA 中廣泛使用生成式 AI 進行編碼。當然,我們有很多數字設計師之類的。但這些只是冰山一角。冰山之下是當今世界上最大的系統——最大的計算系統,您過去聽我説過,推薦系統從 CPU 轉向生成式 AI,現在它正在從 CPU 轉向生成式AI。因此,推薦系統、廣告生成、自定義廣告生成以非常非常大規模的廣告為目標,並且非常高度針對搜索和用户生成的內容。這些都是非常大規模的應用,現在已經發展到生成式人工智能。

當然,大量生成式人工智能初創公司正在為我們的雲合作伙伴和自主人工智能創造數百億美元的雲租賃機會,你知道,現在各國都意識到他們的數據是他們的自然和國家資源,他們必須使用人工智能,建立自己的人工智能基礎設施,這樣他們才能擁有自己的數字智能。但正如 Colette 之前提到的,企業人工智能正在起步,你可能已經看到我們宣佈世界領先的IT 公司將加入我們,將 NVIDIA 人工智能企業平臺推向全球企業。我們正在與之交談的公司。他們中的許多人都非常興奮,希望提高公司的生產力。然后是我——然后是 General Robotics。去年發生了巨大的轉變,我們現在能夠通過觀看視頻和人類演示來學習物理人工智能,並通過 Omniverse 等系統的強化學習來生成合成數據。我們現在能夠與幾乎所有的機器人公司合作,開始考慮在通用機器人上進行構建。所以你可以看到,生成式人工智能的發展方向非常多。因此,我們實際上看到生成式人工智能的發展勢頭正在加速。

 

Q:您談到了對 Blackwell 的預期令人難以置信,但似乎 Hopper 的需求也非常強勁。我的意思是,您預計 10 月份即使沒有 Blackwell,本季度的業績也會非常強勁。那麼您認為兩者的強勁需求會共存多久?您能談談向 Blackwell 的過渡嗎?您是否看到人們混合使用集羣?您是否認為Blackwell 的大部分活動都是新集羣?您能談談這種過渡是什麼樣子的嗎?

A:是的。謝謝,喬。Hopper 的需求確實很強勁,這是事實。Blackwell 的需求令人難以置信。這有幾個原因。第一個原因是,如果你只看世界上的雲服務提供商及其可用的 GPU 容量,你會發現基本上沒有。原因是它們要麼在內部部署以加速自己的工作負載,例如數據處理。現在數據處理,我們很少談論它,因為它很平凡。它不是很酷,因為它不會生成圖片或生成文字,但幾乎世界上每家公司都在后台處理數據。NVIDIA 的 GPU 是地球上唯一處理和加速數據的加速器。SQL 數據、Pandas 數據——像 Pandas 這樣的數據科學工具包和新的 Polars,這些是世界上最受歡迎的數據處理平臺。除了 CPU(正如我之前提到的,它真的已經失去動力)之外,我——Nvidia 的加速計算實際上是提高性能的唯一方法。因此,這是首要的——早在生成式 AI 出現之前,首要的用例就是將應用程序一個接一個地遷移到加速計算。

第二個當然是租賃。他們將產能出租給模型製作者或將其出租給初創公司和生成式人工智能公司,將他們投資的絕大部分資金投入到基礎設施中,以便他們可以使用人工智能來幫助他們創造產品。所以這些公司現在需要它。他們根本負擔不起——你只是籌集資金,你——他們希望你現在就使用它。你必須進行處理。你不能明年再做,你必須今天就做。所以這是一個公平的原因。Hopper 現在需求旺盛的第二個原因是因為競爭進入下一個平臺。因此,第一個進入下一個平臺的人,可以引入革命性的人工智能水平。因此,第二個到達那里的人會逐漸變得更好或差不多。因此,系統地、持續地衝向下一個平臺併成為第一個到達那里的人,就是你建立領導地位的方式。NVIDIA 一直在這樣做,我們向世界展示了這一點,我們製造的 GPU、我們製造的 AI 工廠、我們製造的網絡系統、我們創建的 SOC。我的意思是,我們想要——我們想要設定步伐。我們想要始終成為世界上最好的。這就是我們如此努力的原因。當然,我們也希望看到我們的夢想成真,我們想象的未來的所有能力,以及我們可以為社會帶來的利益。我們希望看到所有這些都成真。所以這些模型製造者也是一樣的。他們——當然,他們想成為世界上最好的,他們想成為世界上第一個。

儘管 Blackwell將在今年年底開始以數十億美元的價格發貨,但建立產能可能還需要幾周或一個月左右的時間。所以從現在到那時,生成AI 市場將有很多動態。所以每個人都很着急。他們要麼出於運營原因需要它,要麼需要加速計算。他們不想再構建任何通用計算基礎設施,甚至不想構建 Hopper,當然,H200 最先進的基礎設施。Hopper,如果你現在可以選擇為企業構建 CPU 基礎設施或為企業構建 Hopper 基礎設施,那麼這個決定相對清晰。所以我認為人們只是在吵着要將價值 1 萬億美元的現有基礎設施轉變為 Hopper 最先進的現代基礎設施。

 

Q:非常感謝。大家下午好。我想回到之前的一個問題,關於投資者正在爭論的所有這些資本支出的投資回報率,我希望這個問題和區別能夠有意義。但我正在討論的是,有多少人花費了這麼多錢,希望推動前沿向 AGI 融合發展,正如你剛纔所説,這是一個新的平臺和能力。他們不惜一切代價來達到這種能力水平,因為這為行業和他們的公司打開了許多大門,而客户今天真正關注的是資本支出而不是投資回報率。我不知道這種區別是否有意義。我只是想了解一下,你如何看待那些在新技術上投入大量資金的人的優先事項,以及他們的優先事項和投資時間表。

A-黃仁勛謝謝,Matt。投資 NVIDIA 基礎設施的人馬上就得到了回報。所以這是目前你能做的投資回報率最高的計算基礎設施投資。因此,思考這個問題的一種方式,可能也是最簡單的方式就是回到最初的原則。你有價值 1 萬億美元的通用計算基礎設施,問題是,你想建更多這樣的基礎設施嗎?而對於你建立的每套價值 10 億美元的通用 CPU 基礎設施,你可能要花不到 10 億美元的租金來租用它。因為它已經商品化了。已經有 1 萬億美元的投資了。再多建有什麼意義呢?因此,那些渴望獲得這種基礎設施的人,當他們建立基於 Hopper 的基礎設施和很快基於 Blackwell 的基礎設施時,他們開始省錢。這是巨大的投資回報。他們開始省錢的原因是數據處理可以省錢,你知道,數據處理就是定價,已經是定價的很大一部分了。所以推薦系統可以省錢等,所以你開始省錢了。

第二件事是,你所做的一切都將被租用,因為許多公司正在成立以創建生成式人工智能。因此,你的能力會立即被租用,投資回報非常好。然后第三個原因是你自己的業務。你是想自己創造下一個前沿,還是讓你自己的互聯網服務受益於你知道的下一代廣告系統、下一代推薦系統或下一代搜索系統?因此,對於你自己的服務、你自己的商店、你自己的用户生成內容、社交媒體平臺、你自己的服務,生成式人工智能也是

快速的投資回報。因此,有很多方法可以考慮。但從本質上講,這是因為它是當今您可以投入使用的最佳計算基礎設施。通用計算的世界正在轉向加速計算。人機工程軟件的世界正在轉向生成式人工智能軟件。如果您要構建基礎設施來現代化您的雲和數據中心,請使用加速計算 NVIDIA 來構建它。這是最好的方法。

 

Q:非常感謝。我有一個關於近期和長期收入增長形態的問題。我知道,科萊特,你確實增加了今年的運營支出。如果我看看你的購買承諾和供應義務的增加,這也是相當樂觀的。另一方面,有人認為,似乎沒有多少客户真正準備好使用液體冷卻,我確實認識到其中一些機架可以採用空氣冷卻。這是 Blackwell 如何增長的需要考慮的問題嗎?然后我想,當你展望明年之后,這顯然將是偉大的一年,當你展望 26 年時,你是否擔心任何其他限制因素,比如電力、供應鏈,或者在某個時候,模型開始變小?我只是想知道你是否可以談談這個。謝謝。

A-黃仁勛我要從后往前推。我非常感謝你的提問,蒂姆。記住她的話,世界正在從通用計算轉向加速計算。全世界正在建設價值約 1 萬億美元的數據中心——幾年后,價值1 萬億美元的數據中心將全部是加速計算。過去,數據中心沒有 GPU,只有 CPU。未來,每個數據中心都會有 GPU。原因很明顯,因為我們需要加速工作負載,這樣我們才能繼續保持可持續發展,繼續降低計算成本,這樣當我們進行更多計算時——我們就不會經歷計算通脹。

其次,我們需要GPU來應對一種新的計算模式,叫做生成性AI,我們都承認這將對未來的計算產生巨大影響。所以我認為,倒着來思考這個問題很有幫助,世界的下一個萬億美元的基礎設施將明顯不同於上一個萬億美元的基礎設施,並且將大幅加速。

關於我們增長的形態,我們提供了多種配置的Blackwell。Blackwell有經典版,可以稱之為Blackwell Classic,它使用我們與Volta一起開創的HGX形式因素,我想是Volta。從那時起,我們一直在出貨使用HGX形式因素的產品,它是空氣冷卻的。

Grace Blackwell 是液冷的。然而,想要採用液冷的數據中心數量相當可觀。原因是我們可以在液冷數據中心,在任何數據中心——功率有限的數據中心,無論您選擇何種規模的數據中心,您都可以在任何地方安裝和部署與過去相比三到五倍的 AI 吞吐量。因此液體冷卻更便宜,液體冷卻,我們的 TCO 更好,並且液體冷卻使您能夠享受我們稱之為 NVlink 的這種功能的好處,這使我們能夠將其擴展到 72 個 Grace Blackwell 包,基本上有 144 個 GPU。

想象一下 144 個 GPU 連接到 NVlink,這就是——我們正在不斷向您展示它的好處。下一步——下一步顯然是極低延迟、極高吞吐量、大型語言模型推理。大型域將改變這一格局。所以我認為人們非常樂意部署兩者。因此,幾乎我們合作的每個 CSP 都在部署兩者。所以我——我非常有信心我們會順利完成。

第三個問題中的第二個問題是展望未來,是的,明年將是偉大的一年。我們預計明年我們的數據中心業務將大幅增長。Blackwell 將徹底改變行業格局。Blackwell 將延續到下一年。正如我之前提到的,從第一原則開始逆向思考。但請記住,計算正在同時經歷兩個平臺轉型,這一點非常非常重要,需要您集中精力,即通用計算正在轉向加速計算,而人工設計的軟件將轉向生成式 AI 或人工智能學習軟件。

Q:大家好。感謝回答我的問題。我有兩個簡短的問題要問Colette。第一個,Blackwell 在第四季度的收入為數十億美元。我想這是附加的吧?您説您預計 Hopper 的需求將在下半年增強。這是否意味着除了 Blackwell 增加了數十億美元之外,Hopper 還將在第三季度至第四季度增強?第二個問題是關於毛利率的,如果今年的毛利率在75% 左右,請解釋一下我希望達到什麼水平。如果今年的毛利率是 75%,那麼第四季度的毛利率應該在 71% 到 72% 之間。這是您預期的毛利率退出率嗎?隨着 Blackwell 的擴張,我們應該如何看待明年毛利率演變的驅動因素?

A:是的。Stacy,我們首先來回答你關於 Hopper 和 Blackwell 的問題。我們相信 Hopper 將在下半年繼續增長。我們為 Hopper 推出了許多新產品,我們相信 Hopper 的現有產品將在接下來的幾個季度繼續增長,包括我們的第三季度和即將在第四季度推出的新產品。因此,我們可以説 Hopper 與上半年相比是一個增長機會。此外,我們還有 Black Well,Blackwell 將在第四季度開始增長。希望這對你對這兩點有所幫助。

您的第二點是關於我們的毛利率。我們提供了第三季度的毛利率。我們根據非 GAAP 提供的毛利率約為 75%。我們將考慮我們正在經歷的所有不同過渡,但我們相信我們可以在第三季度實現 75% 的毛利率。我們預計全年毛利率仍有望達到 75% 左右。因此,我們可能會在第四季度看到一些細微的差異。同樣,考慮到我們的過渡和新產品推出時的不同成本結構。但是,我給出的數字與您給出的數字不同。我們沒有確切的指導,但我相信您的數字低於我們的水平。

Q:是的,非常感謝 Jensen 和 Colette 的提問。我想問一下地域情況。10-Q 已經出爐,美國環比下降,而亞洲幾個地域環比增長很多。我想知道那里的動態是什麼,顯然,中國表現很好。您在評論中提到了這一點,利弊是什麼?然后我想澄清一下 Stacy 的問題,這是否意味着考慮到所有這些有利的收入動態,公司第四季度的整體收入環比增長率會加快?謝謝。

A :讓我談談我們在 10-Q 方面的披露,這是一項必需的披露,也是地域選擇。有時,要做出正確的披露非常具有挑戰性,因為我們必須想出一個關鍵部分。關鍵部分是我們銷售給誰,或者具體來説,我們向誰開具發票。所以,您看到的是我們向誰開具發票。這不一定是產品最終會在哪里,甚至可能在何處到達最終客户。這些只是轉移到我們的 OEM、ODM 和系統集成商,而這在很大程度上是我們整個產品組合的一部分。所以,您看到的有時只是他們使用誰來完成完整配置的快速轉變,然后這些東西纔會進入數據中心,進入筆記本電腦和其中的那些部分。這種轉變時有發生。但是,是的,我們的中國數據是伏擊進入中國的,請記住,這些數據既包括遊戲,也包括數據中心,也包括汽車。

回到您關於毛利率的聲明,以及我們對 Hopper 和 Blackwell 的收入展望。Hopper 將在下半年繼續增長。我們將繼續以目前的速度增長。在確定第三季度和第四季度的確切組合時,我們還沒有。我們目前還不能就第四季度做出指導。但我們現在確實看到了需求預期。我們確實看到了第四季度的增長機會。除此之外,我們還將擁有 Blackwell 架構。

Q :是的,下午好。感謝您回答這個問題。您已經開始了非凡的年度產品節奏,而隨着複雜性的增加,挑戰只會變得越來越大——在先進封裝領域,複雜性達到了極限。所以很好奇,如果您退一步思考,這種背景如何改變您對潛在的更大垂直整合、供應鏈合作伙伴關係的想法,然后考慮對您的利潤狀況的后續影響?謝謝。

A-黃仁勛:是的,謝謝。讓我們看看。所以我認為第一個——第一個問題的答案——第一個問題的答案是,我們的速度如此之高的原因在於,模型的複雜性在不斷增長,而我們希望繼續降低其成本。它正在增長,所以我們想繼續擴大它的規模。我們相信,通過繼續擴大人工智能模型的規模,它將達到非凡的實用性水平,並開啟下一次工業革命。我們相信這一點。所以我們會非常努力地繼續擴大規模。我們擁有相當獨特的能力來整合設計一個人工智能工廠,因為我們擁有所有的部件。除非你擁有所有的部件,否則不可能每年都建一個新的人工智能工廠。因此,明年,我們將出貨比公司歷史上任何時候都多的 CPU,當然還有更多的 GPU,還有NVlink 交換機、CX DPU、東西部的 ConnectXEPU、南北部的 Bluefield DPU,以及用於超級計算中心的 InfiniBand 數據和存儲處理到以太網,這對我們來説是一個全新的產品,它有望成為將 AI 引入以太網的價值數十億美元的業務。

事實上,我們可以構建——我們擁有——我們可以訪問所有這些。如您所知,我們有一個架構堆棧。它使我們能夠在完成時將新功能引入市場。否則,您將這些部件運出,然后尋找客户將其出售,然后您必須構建——有人必須建立一個人工智能工廠。人工智能工廠擁有大量的軟件,所以這不是關於——這不是關於誰來集成它。我們喜歡我們的供應鏈被分解的事實,因為我們可以為廣達、富士康、惠普、戴爾、聯想、超微等提供服務,我們曾經為 ZT 提供服務。它們最近被收購了,等等。因此,我們擁有的生態系統合作伙伴數量使我們能夠允許他們採用我們的架構,這些架構都有效,但以定製的方式集成到全球所有云服務提供商、企業數據中心中。由於世界很大,因此我們的 ODM 和集成商——集成商供應鏈所需的規模和範圍是龐大的。因此,我們不想做這部分,也不擅長做。但我們知道如何設計 AI 基礎設施,以客户喜歡的方式提供,然后讓生態系統將其整合起來。

Q:是的,感謝您回答這些問題。我想回到Blackwell 產品周期。我們經常被問到的一個問題是,當您考慮利用時,您如何看待機架規模系統組合動態,您考慮 GB、NVL-72 以及就Blackwell 產品周期而言,這種上市動態如何。我想這樣説,當我們開始考慮 Blackwell 周期的進展時,您如何看待機架規模系統組合?

A:是的,Aaron,謝謝。Blackwell 機架系統是作為機架設計和架構的,但它是以分解的系統組件的形式出售的。我們不出售整個機架。原因是每個人的機架都有點不同,這令人驚訝。你知道,有些機架符合 OCP 標準,有些不是,有些是企業級的,每個人的功率限制可能有點不同。CDU 的選擇、電源母線的選擇、配置和與人們數據中心的集成,都不同。所以我們設計它的方式是架構整個機架。軟件將在整個機架上完美運行。然后我們提供系統組件,例如,CPU 和 GPU 計算板然后集成到MGX 中,這是一個模塊化系統架構。MGX 非常巧妙。我們在整個工廠都有 MGX ODM、集成商和 OEM。

因此,幾乎任何配置都可以,只要您希望交付 3,000 磅的機架即可。它必須靠近數據中心 - 它必須在數據中心附近進行集成和組裝,因為它相當重。因此,從我們運送 GPU CPU、交換機的那一刻起,供應鏈中的所有環節,從那一刻起,集成都在非常靠近CSP 的位置和數據中心的位置進行。

可以想象,世界上有多少數據中心,以及我們與ODM合作伙伴共同擴展了多少物流樞紐。因此,儘管我們展示的是一個完整的機架,而且總是以這種方式渲染和展示,可能給人留下了我們在進行集成的印象。我們的客户不喜歡我們進行集成,供應鏈也不喜歡我們進行集成。他們希望自己來進行集成,因為這是他們的增值服務。最終的設計整合不像是簡單地將東西移入數據中心,而是非常複雜的。設計整合、安裝、啟動、維修、替換,整個循環都是由我們遍佈全球的ODM和OEM合作伙伴來完成的,他們做得非常出色。所以,集成並不是我們做機架的原因,實際上正好相反。我們不想成為一個集成商,我們希望成為一個技術提供商。

三、CEO黃仁勛發言:

謝謝。讓我再説幾句——再次説幾句我之前説過的話。全球數據中心都在全力以赴,通過加速計算和生成式人工智能實現整個計算堆棧的現代化。Hopper 的需求依然強勁,人們對 Blackwell 的期待令人難以置信。讓我重點介紹一下我們公司的五大重點。加速計算已經達到了臨界點,CPU 擴展速度減慢,開發人員必須加速一切可能。加速計算從 CUDA-X 庫開始。新庫為 NVIDIA 開闢了新市場。

我們發佈了許多新庫,包括領先的數據科學和數據處理庫 Polars、Pandas 和 Spark,這現在非常熱門。用於基因測序的 Parabricks 和用於蛋白質結構預測的 Alpha-fold 2 現在已實現 CUDA 加速。我們正處於將價值 1 萬億美元的數據中心從通用計算現代化到加速計算的旅程的開始階段。這是第一點。第二點,Blackwell 是 Hopper 的一次階躍。Blackwell 是一個 AI 基礎設施平臺,而不僅僅是 GPU。它也恰好以我們的 GPU 命名,但它是一個 AI 基礎設施平臺。

隨着我們向合作伙伴和客户展示更多 Blackwell 和樣品系統,Blackwell 的領先程度變得清晰起來。Blackwell花了近五年時間和七款獨一無二的芯片才得以實現。Grace CPU、Blackwell 雙 GPU 和 cowos封裝、用於東西流量的 ConnectX DPU、用於北北南和存儲流量的 BlueField DPU、用於全到全 GPU 通信的 NVLink 交換機以及用於 InfiniBand 和以太網的 Quantum 和 Spectrum-X 可以支持 AI 的大規模突發流量。Blackwell AI 工廠是建築物大小的計算機。NVIDIA 從芯片、系統、網絡,甚至結構化電纜、電源和冷卻以及軟件安裝等方面端到端設計和優化了 Blackwell 平臺全棧,使客户能夠快速構建 AI 工廠。

這些都是資本密集型基礎設施。客户希望在拿到設備后立即部署,並提供最佳性能和 TCO。Blackwell 在功率有限的數據中心提供的 AI 吞吐量是 Hopper 的 3 到 5 倍。第三個是 NVLink。這是一個非常大的交易,它的全對全 GPU 切換改變了遊戲規則。Blackwell 系統讓我們將 144 個 GPU(72 GB 200 個封裝)連接到一個 NVLink 域,在一個機架中,總 NVLink 帶寬為每秒 259 兆字節。從這個角度來看,這比 Hopper 高出約 10 倍,每秒 259 兆字節,這有點道理,因為你需要在數萬億個令牌上增強數萬億參數模型的訓練。因此,自然數量的數據需要在 GPU 之間移動。

對於推理,NVLink 對於低延迟、高吞吐量、大型語言模型、令牌生成至關重要。我們現在有三個網絡平臺,用於 GPU 擴展的 NVLink、用於超級計算和專用 AI 工廠的 Quantum InfiniBand 以及用於以太網 AI 的 Spectrum-X。NVIDIA的網絡足跡比以前大得多。生成 AI 勢頭正在加速。生成 AI 前沿模型製作者正在競相擴展到下一個 AI 平臺,以提高模型安全性和 IQ。我們也在擴展以瞭解更多模態,從文本、圖像和視頻到 3D、物理、化學和生物。聊天機器人、編碼 AI 和圖像生成器正在快速增長,但這只是冰山一角。互聯網服務正在為大規模推薦器、廣告定位和搜索系統部署生成 AI。AI 初創公司每年消耗數百億美元的 CSP 雲容量,各國也認識到 AI 的重要性並投資於主權 AI 基礎設施。而NVIDIA AI和NVIDIAOmniverse正在開啟AI通用機器人的新時代。

現在,企業 AI 浪潮已經開始,我們已準備好幫助企業轉型。NVIDIA AI Enterprise 平臺由 NeMo、NIMS、NIM 代理藍圖和 AI oundry 組成,我們的生態系統合作伙伴和世界領先的 IT 公司使用這些平臺幫助客户——企業定製 AI 模型並構建定製的A 應用程序。然后,企業可以在 NVIDIA AI Enterprise 運行時上進行部署,NVIDIA AI Enterprise 以每年每 GPU 4,500 美元的價格在任何地方部署 AI 都具有非凡的價值。對於 NVIDIA 的軟件來説,隨着兼容 CUDA 的 GPU 安裝基數從數百萬增長到數千萬,TAM 可能非常重要。正如 Colette 所説,NVIDIA 軟件今年的運營率將達到 20 億美元。感謝大家今天加入我們

 

 

 

 

 

風險提示: 投資涉及風險,證券價格可升亦可跌,更可變得毫無價值。投資未必一定能夠賺取利潤,反而可能會招致損失。過往業績並不代表將來的表現。在作出任何投資決定之前,投資者須評估本身的財政狀況、投資目標、經驗、承受風險的能力及瞭解有關產品之性質及風險。個別投資產品的性質及風險詳情,請細閲相關銷售文件,以瞭解更多資料。倘有任何疑問,應徵詢獨立的專業意見。

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。