Contents ...
udn網路城邦
後黃仁勳時代3:面對 Google TPU、自研 ASIC 以及 AI 演算法不斷顛覆的長期變局,少了黃仁勳...
2026/11/19 13:09
瀏覽7
迴響0
推薦0
引用0

那cuda還有何優勢?總不能靠千萬⽤開源模型散⼾吧

google AI 答:CUDA 的核心優勢早已不是單純的「寫矩陣運算程式碼(Kernel)」,而是「超大規模萬卡互連的通訊效率(NVLink + NCCL)、極速迭代的架構演進,以及一機多用的通用靈活性」——這三點讓雲端巨頭與前沿實驗室即便掌握了多晶片技術,依然離不開輝達。

正如您所說,千萬個跑開源模型的開發者只是 CUDA 的「基本盤」,真正支撐輝達數兆美元市值的,是它在超大規模商業算力中難以被 ASIC 取代的四大結構性護城河:
1. 「萬卡級同步通訊」的系統級壁壘(NVLink + NCCL)
  • 單卡算力易追,萬卡互連極難:TPU 或自研 ASIC 在「推論(Inference)」或單一節點運算上性價比極高,但當進行最前沿大模型的「預訓練(Pre-training)」時,需要讓數萬顆晶片像同一顆巨型晶片般同步交換參數。
  • NCCL 與 NVLink 的組合拳:輝達透過自家的 NVLink 高速互連晶片、Spectrum-X 乙太網路交換器,搭配深度綁定硬體拓撲的 NCCL(集體通訊庫),把通訊延遲與資料封包遺失率壓到極致。其他晶片即便用 AI 寫出了單卡運算核心,在跨機櫃(Scale-out)的大規模通訊調度上,依然很難達到輝達的穩定度與算力利用率(MFU)。
2. 「一年一代」的架構迭代速度,讓競爭對手永遠在追趕
  • ASIC 開發週期過長:一顆客製化 ASIC(如 Google TPU 或自研推理晶片)從定義架構、設計到量產通常需要 18 到 24 個月,晶片設計定案時,AI 演算法往往已經演進了兩代(例如從純文字模型轉向多模態影片生成、世界模型與長思維鏈推理)。
  • CUDA 的通用可編程性:輝達維持 一年一代架構(Hopper → Blackwell → Rubin) 的狂暴迭代速度,且 GPU 具備高度通用可編程性。當 AI 產業突然出現全新的注意力機制(Attention)或稀疏混合專家模型(MoE)時,工程師透過 CUDA 幾天內就能在現有 GPU 上跑出最佳效能;反觀專用 ASIC 若硬體電路沒設計到該功能,效率就會大幅衰減。
3. 雲端大廠的「算力租賃通用性」與殘值保值
  • 不同客戶的混合負載:AWS、微軟 Azure、Google Cloud 與 Neocloud(如 CoreWeave)採購數十萬顆晶片後,需要租給成千上萬家不同需求的企业——有的跑大語言模型、有的跑 3D 物理模擬、有的跑基因定序或自動駕駛視覺訓練。
  • 只有 CUDA 能通吃所有場景:客製化 ASIC 只能跑特定 AI 矩陣運算,一旦模型架構過時,晶片殘值會大幅暴跌;而配備 CUDA 生態的輝達 GPU 是全球公認的「硬通貨」,既能訓練大模型、也能做推論與傳統高效能運算(HPC),在二級租賃與融資市場的資產保值率遠高於任何專用晶片。
4. 前沿新演算法的「第一站實驗場」
  • 前沿研發必須用最靈活的工具:即便是 Anthropic 自己,在 S-1 招股書中也坦言其最核心、最前沿的模型預訓練(佔比約 42%),依然主力放在輝達 GPU 上。因為在探索未知的次世代架構時,研究人員需要隨時修改底層運算邏輯,而 CUDA 依然是全世界除錯工具最齊全、對非標準運算支援度最高的開發環境。
總結:未來的算力分工格局
未來的 AI 算力市場並不是「CUDA 被消滅」,而是走向「分工共存」:
  • 大規模成熟推論(標準化、省電、求低成本):大量轉向 Google TPU、AWS Trainium 與各家自研 ASIC(去 CUDA 化最明顯的領域)。
  • 前沿模型預訓練、多模態物理 AI、雲端通用算力池(求速度、求靈活、萬卡互連):依然是輝達 CUDA 絕對統治的主戰場。
您想從哪個角度繼續深入探討?例如:
財務與估值比較:這波「推論轉向 ASIC、訓練留守輝達」的結構變化,對輝達(NVDA)未來毛利率與營收增速的實際影響技術細節延伸:輝達最新 Rubin 架構與 NVLink 互連技術是如何進一步拉高通訊護城河的
我問:前沿模型預訓練、多模態物理 AI、雲端通用算力池(求速度、求靈活、萬卡互連),依然牢牢握在 CUDA ⼿裡。
有沒有⿈仁勳,差異不⼤?
google AI 答:
短期內(2 至 3 年)技術護城河與產品藍圖已排定,營運慣性確實強大;但中長期來看,沒有黃仁勳的輝達在「跨世代豪賭決策」與「全產業生態統戰力」上會有顯著差異。
這就像當年的蘋果(Apple)在賈伯斯(Steve Jobs)離開後,憑藉既有的 iPhone 生態與晶片優勢,依然在交棒給庫克(Tim Cook)後創造了更龐大的市值與利潤;但企業的氣質與開創性會從「定義下一個時代的狂人遠見」,轉變為「極致化執行與守成」。具體差異體現在以下三個層面:
1. 短期差異不大:技術藍圖與訂單能見度已鎖死
  • 次世代產品已定案:半導體與系統架構的研發週期長達 3 至 5 年。從 Blackwell、Rubin 到更下一代的 Feynman 架構,以及配套的 NVLink、Spectrum-X 網路與 CUDA 軟體堆疊,都已經在執行軌道上。
  • 組織體系高度成熟:輝達內部擁有像 Ian Buck(CUDA 發明人、超大規模與 HPC 業務負責人)等跟隨黃仁勳超過二十年的核心技術團隊,加上高度扁平化、直接向執行長匯報的工程師文化,短期內不會因為單一領導人變動而讓 CUDA 的技術領先消失。
2. 中長期差異巨大:誰敢在「沒有市場時」壓上全副身家?
  • 逆風豪賭的膽識:CUDA 在 2006 年剛推出時,華爾街極度反對,因為它大幅拉高晶片成本卻幾乎沒有商業客戶,輝達股價曾因此低迷多年;後來轉向資料中心整機櫃(DGX)、網路晶片(收購 Mellanox)與如今押注「物理 AI(機器人與數位孿生)」,全是黃仁勳在市場還沒看懂時獨排眾議的豪賭。
  • 職業經理人的保守傾向:一旦換成傳統職業經理人掌舵,董事會與股東壓力往往會迫使管理層優先考量「維持 75% 高毛利率」與「短期財務回報」,面對下一個 10 年才會成熟的未知賽道(例如量子運算融合或全新運算範式)時,很難再有創辦人級別的魄力去燒錢開荒。
3. 產業外交與「AI 工廠」的生態號召力
  • 主權 AI 與科技巨頭的直接對話:如今全球各國元首(從中東、歐洲到日韓)建置「主權 AI」算力中心,以及台積電、鴻海、廣達等台灣供應鏈在產能吃緊時優先調撥 CoWoS 與先進製程資源,很大程度是建立在黃仁勳個人數十年累積的信任與「CEO 對 CEO」的直接拍板。
  • 定義產業敘事的能力:黃仁勳不只是賣晶片,他透過 GTC 大會不斷為整個科技業設定議程(從加速運算、生成式 AI 到物理 AI),讓全球開發者與資本市場相信「跟著 CUDA 走就不會被時代淘汰」,這種無形的「教主級號召力」是任何繼任者最難複製的資產。
總結
如果今天沒有黃仁勳,CUDA 的既有城牆在未來幾年依然堅不可摧,輝達依然是一台極強的印鈔機;但面對 Google TPU、自研 ASIC 以及 AI 演算法不斷顛覆的長期變局,少了他,輝達會從一間「主動定義遊戲規則、讓對手永遠在追趕的開創者」,慢慢變成一間「極度優秀但可以被預測的傳統硬體巨頭」——而一旦變得「可以被預測」,競爭對手就更容易找到繞過它的破口。
您想從哪個角度進一步探討?例如:
輝達的接班梯隊分析:目前內部最有機會接棒的核心高管(如 Ian Buck 等人)與組織文化特色科技巨頭創辦人交棒對比:對比蘋果(賈伯斯交棒庫克)與微軟(蓋茲、鮑爾默交棒納德拉)後的股價與護城河演變

限會員,要發表迴響,請先登入