AI 晶片搶貨激情停歇?傳微軟下修輝達 H100 訂單

作者 | 發布日期 2023 年 09 月 19 日 12:30 | 分類 AI 人工智慧 , GPU , IC 設計 line share follow us in feedly line share
AI 晶片搶貨激情停歇?傳微軟下修輝達 H100 訂單


市場消息傳出,微軟近期下修對輝達 H100 顯示卡的訂單量。這舉動也顯示,目前大規模人工智慧運算市場對於H100 顯示卡的需求已趨於緩和,近期已經很難再看到先前客戶瘋狂下單的狀況。

這波人工智慧風潮,AI 伺服器最大採購者來自大型雲端運算商。傳說微軟下修輝達 H100 顯卡訂單,市場人士指原因有兩個,一是不久前微軟發表 AI 協作工具 Microsoft 365 Copilot,使用狀況不如預期。Copilot 號稱可解決很多問題,如收到長到讀不下去的文件,可拖到 Copilot 上,讓 AI 總結文件,做到「量子速讀」。或請 AI 幫忙重寫或解釋內容,提高工作效率。

Copilot 雖不能完全取代工作,但能節省很多重複性工作。但服務並非免費,須支付每人每月 30 美元。7 月推出後反應似乎平平,使用者數也未如預期增加,使微軟加購 H100 顯卡的必要性漸漸降低。

第二原因應是 ChatGPT 本身。2022 年 11 月推出後,使用人數爆炸性成長,也是人工智慧風潮的開山始祖。但 6 月首次出現流量下滑。

數據公司 Similarweb 資料顯示,ChatGPT 的全球流量 6 月首次出現 9.7% 下滑,8 月連三個月下降,桌上型電腦、行動裝置網站流量下降 3.2%,數量為 14.3 億次,前兩個月分別下降約 10%,顯示 ChatGPT 吸引力逐漸降低,留下的都是真正的專業使用者,也讓微軟評估增購 H100 顯卡應暫時停止。

事實上,業內人士指出,微軟下修 H100 顯示卡訂單量的情況早就有機可循。回顧 5 月時包括伺服器製造商及直接客戶都表示,得等超過 6 個月才能拿到輝達的 H100 顯示卡。然而,特斯拉卻在8 月宣布啟動萬顆 H100 顯示卡叢集,意味著最晚下單爭搶H100產品的廠商,卻能在短短幾個月內就拿到足夠的晶片,顯示出先前包括微軟在內的客戶的需求皆已被滿足,代表著 H100 顯示卡需求已經不再像幾個月前那樣熱烈。

輝達 H100 顯卡 GPU 仰賴台積電 CoWoS 先進封裝產能,市場需求熱烈,台積電 CoWoS 產能不足,成為供貨瓶頸,市場需求回歸正常後,台積電 CoWoS 產能不再被追著跑,對台積電營運是利或弊,則有待觀察。

(首圖來源:NVIDIA)