輝達黃仁勳的豪賭:走在破產邊緣,打造上兆元 AI「軍火商」

作者 | 發布日期 2023 年 12 月 05 日 8:30 | 分類 AI 人工智慧 , GPU , 公司治理 line share follow us in feedly line share
輝達黃仁勳的豪賭:走在破產邊緣,打造上兆元 AI「軍火商」


營收翻兩倍至 181 億美元,利潤從去年同期 6.8 億飆升至 92 億美元。AI 浪潮下,輝達第一季以超於期待的「爆炸」表現,從台積電手上奪走桂冠,成為「晶片之王」。

「人工智慧領域正在打仗,而輝達是唯一軍火商」,華爾街分析師評論。

輝達今天享受的「AI 紅利」,來自黃仁勳十多年前的「豪賭」。《紐約客》最近深度報導,可看到這場決定性豪賭背後更多細節。從來沒法為成功打包票,破產永遠在旁邊等著。

點燃人工智慧的「大爆炸」時刻

那是第一台 8K 解析度遊戲機,占據整面牆,太美了。

2000 年史丹佛學生 Ian Buck 連結 32 張輝達 GeForce 顯示卡,外加八台投影機玩〈雷神之鎚〉,自己做了一台高清遊戲主機。輝達 GeForce 成功一開始就是〈雷神之鎚〉幫助,「死亡競賽」模式 GPU 平行運算讓玩家有速度優勢,故 GeForce 每次出新品都會有玩家跟上。Buck 也好奇,除了讓投手榴彈速度再快點 GeForce 還能做什麼,故駭進顯示卡原始程式設計工具「著色器」(shader),用並行計算將 GeForce 變成低成本超級電腦。

沒多久,Buck 就變成輝達員工。

▲ Ian Buck 現在是輝達副總裁。(Source:輝達

黃仁勳想請 Buck 做一套軟體,讓每張 GeForce 都變成超級電腦,也讓硬體團隊晶片結構跟著改造。2006 年 Buck 設計 CUDA 推出,支援研究員和程式設計人員用程式語言更個人化和高效使用 GPU 的運算力。但消費者對黃仁勳想普及的超級電腦沒興趣,矽谷科技Podcast「Acquired」如此評論:

他們為新晶片架構花費巨資。

他們花了幾十億美元,目標是服務學術和科學計算的小眾領域,當時還不是很大的市場,規模一定比投資的幾十億少。

輝達雖廣撒網,努力尋找目標客群,試過股票交易員、石油探勘公司、分子生物學家等等,但並沒有考慮過人工智慧領域。連「AI 教父」主動「上門」都沒有感覺。這也難怪。

▲「AI 教父」Geoffrey Hinton。(Source:Ramsey Cardy / Collision via Sportsfile, CC BY 2.0, via Wikimedia Commons)

今日人稱 Geoffrey Hinton 為「AI 教父」,但 2009 年 Hinton 是在資本嫌棄的 AI 領域研究小眾「神經網路」。Hinton 當年給輝達的信這樣寫:

我剛對上千位機器學習研究員說,他們都該去買輝達顯示卡。你們可以免費給我一張嗎?

結果?輝達當然是拒絕。

Hinton 曾試用輝達 CUDA 平台訓練神經網路辨識人類語言,發現成果品質比想像好很多,於是決定於產業會議示範。雖然輝達不肯給 Hinton 顯卡,但 Hinton 依舊鼓勵學生使用,最關鍵就是他門下兩位也很有名的程式設計師 Alex Krizhevsky 和 Ilya Sutskever。

眼尖讀者應該發現了,後者就是 OpenAI 首席科學家,ChatGPT 技術主導者。

2012 年,Sutskever 和 Krizhevsky 買了兩張輝達 GeForce 顯卡,一週內餵神經網路數百萬張圖片,訓練出「AlexNet」。Sutskever 回想:

GPU 出現了,感覺就像奇蹟。

他的感嘆不無理由。同年 Google 購買一萬六千多張 CPU 訓練神經網路,以辨識貓咪影片,AlexNet 卻能正確辨識電動車、獵豹、貨船等,只用到兩張 GPU。

2012 年仍相當權威的大規模視覺辨識挑戰賽(ImageNet Large Scale Visual Recognition Challenge),AlexNet 以 Top5 誤差 15.3% 成績奪冠,表現遠優於第二名和歷屆參賽者,出眾到一度懷疑是作弊。Hinton 評論:

那就是宇宙大爆炸時刻。模範式轉變。

雖然不是刻意為之,但輝達就這樣引發人工智慧的「大爆炸」時刻。

成為 AI 公司

(黃仁勳)週五晚上寄信,表示公司將圍繞深度學習展開,我們不再是圖像處理公司。

之後星期一清晨,我們就變成 AI 公司。

真的,就是那麼快。

輝達副總裁 Greg Estes 告訴《紐約客》。AlexNet 登場後,沒過幾年,幾乎所有參加大規模視覺辨識挑戰賽的人都選神經網路。到 2010 年代中期,GPU 訓練的神經網路圖片辨識準確度達 96%,甚至超過人類。黃仁勳的超級電腦願景成真,他開始找下一個目標:

我們能解決電腦視覺問題,完全無組織結構的問題,這事實指向另一個問題:「你還能教它什麼東西?」

黃仁勳內心的答案似乎是:一切

他認為神經網路會改變社會,他也可用 CUDA 壟斷硬體市場。他縱身一躍,開啟輝達的 AI 征途,這次 AI 界領導者不再需要寫信給輝達要免費顯卡了。2016 年 8 月,黃仁勳親自將世界首台 DGX-1 送至 OpenAI 辦公室,當時世界都不知道與 OpenAI 決裂的馬斯克親自開箱三千人耗時三年打造的成果。

(Source:MIT Technology Review

官方新聞稿黃仁勳開玩笑:

如果這是我們唯一出貨的產品,造價就會高達 20 億美元。

誰能想到,第二年 Google 就公布新神經網路訓練架構 Transformer。新突破再被 Sutskever 抓住,引領 OpenAI 建造第一個 GPT 模型,一切都建立在輝達超級電腦基礎上。一年前的今天,OpenAI 發表 ChatGPT,改變一切,也包括輝達。

訂單不止,供不應求。

今年輝達股價飆升超過 200%,成為全球首家市值破兆美元的晶片製造商。曾不被看好的 CUDA 也集合 400 萬名開發者,成為輝達 AI 領域的另一道護城河。無論航太、生物科學、機械或能源探索等,大部分都用 CUDA 進行。

輝達最新 AI 產品 DGX H100 是重達 370 磅的金屬盒,定價高達 50 萬美元。和送到 OpenAI 辦公室的 DGX-1 相比,新產品運作速度提升五倍,要從頭訓練出 AlexNet,一分鐘就可搞定。

總是「在破產邊緣」的成功者

9 月黃仁勳受邀回加州聖荷西那家丹尼餐廳。當年他就是在這家餐廳卡座和合夥人起草成立輝達,他們想設計讓競爭對手「嫉妒死」(green with envy)的晶片。黃仁勳想出「Nvidia」之名,融合拉丁文「嫉妒」(invidia)之意。現在輝達當然讓競爭對手眼紅,丹尼 CEO 都特意為他們做了一塊紀念牌,讓輝達的光也能照耀餐廳。

然而,輝達成功並不是典型故事。

輝達初成立時,喜歡電子遊戲的黃仁勳認為遊戲市場值得擁有更好顯卡,1995 年推出首款產品 NV1。但 NV1 沒有被主流市場接受過,一大原因在同年微軟推出 D3D API,但 NV1 不支援 D3D。下一代 NV2 也失敗了。「賭」輸一次的黃仁勳不服氣,1996 年辭退一半員工,收緊資金,全押未經測試的新產品:

機率一半一半,但無論如何我們都在破產邊緣。

當 RIVA 128 開售,輝達剩下現金只夠付一個月開支。所幸 RIVA 128 大成功,四個月就售出上百萬張,那時起黃仁勳就開始鼓勵員工帶著這種「絕望」工作。因對黃仁勳而言,困境和失敗並不陌生:

我發現,我在困境中想事情最清楚。

心率甚至會下降。

他甚至堅持「失敗一定要分享」。輝達曾出貨有問題顯卡,風扇運轉超級吵。黃仁勳沒有炒掉產品經理,而是開一場大會,聚集幾百人,讓經理分析每個導向這次失敗的決策。展現「失敗」,也成了輝達的「習俗」。

你也可以很快看出,誰會留下,誰不可以。

如果有人開始充滿防禦心,我就知道他們待不久了。

輝達軟體負責人 Dwight Diercks 說。

黃仁勳也喜歡鼓勵員工追求「0 億美元市場」(zero-billion-dollar market),挑戰不僅沒有對手,甚至連明確顧客都沒有的實驗性領域。畢竟如黃仁勳所言:

我一直覺得我們離破產只有 30 天。這點從來沒變。

沒什麼理由不拚命。

(本文由 愛范兒 授權轉載;首圖來源:輝達