全球 AI 推論需求快速升溫，帶動高階 GPU 與 AI 資料中心（AIDC）需求持續擴大。台灣大哥大今日於 COMPUTEX 宣布，與 GMI Cloud 簽署合作備忘錄（MOU），雙方將結合台灣大在機房建置、維運與電信基礎設施管理的能力，以及 GMI Cloud 在 GPU 算力平台、跨國算力調度與國際客戶開拓上的優勢，共同布局東南亞、東北亞、美洲及歐洲等海外市場。
台灣大與 GMI Cloud 去年已合作 AI Factory，並於桃園龜山打造總供電量達 25MW 的 TAIDC 機房。台灣大哥大企業服務事業商務長朱曉幸受訪時表示，雙方一開始其實是客戶與基礎設施合作商關係，GMI Cloud 原先承租台灣大的 AIDC 機房，用來建置 GPU 算力平台；但合作後發現彼此能力互補，因此進一步討論將台灣模式複製到海外市場。
朱曉幸指出，台灣大的強項在於機房建置、維運與管理，GMI Cloud 則是 NVIDIA Reference Platform 雲端合作夥伴，全球僅七家，具備高階算力平台調度、優化 Token 效率與國際銷售能力。她形容，雙方合作有點像「強強聯盟」，未來將從桃園案例出發，逐步進軍亞洲，甚至美洲與歐洲市場。
GMI Cloud 共同創辦人暨執行長葉威延也表示，台灣大在機房與網路基礎設施上具備天然優勢，GMI Cloud 則專注於 GPU 叢集建置，雙方在桃園的第一個基地合作順利，接下來希望將類似模式擴展至更多國家與市場。
對於海外布局進度，朱曉幸透露，目前東南亞有多個地點正在討論，美國、日本也都有在評估，快的話可能明年初會有進一步成果。她指出，AIDC 選址與一般資料中心不同，必須同時考量土地、電力與網路連線三大要素；土地條件、水電供應是否充足、周邊是否具備足夠的光纖部署與連線品質，都會影響算力中心能否有效運作。
葉威延補充，海外據點會優先評估能源與電力條件，同時也會看光纖部署、客戶分布、延遲表現、電力價格，以及當地政府配合度。朱曉幸則表示，東南亞的可能性較高，包括印尼、馬來西亞、泰國等市場都可能是候選地點，但實際優先順序仍要視條件成熟度與雙方共同討論結果而定。
台灣大指出，目前桃園龜山 TAIDC 機房與相關算力資源需求強勁。朱曉幸透露，GMI Cloud 一開始希望承租整棟機房，但台灣大仍希望保留部分容量服務本地企業客戶，因此雙方最後在配置上做出調整。不過目前 GMI Cloud 已承租大部分容量，整體資源幾乎銷售完畢，台灣大預計明年 1 月再透過技術調整擠出部分容量，供台灣企業使用。
葉威延也提到，桃園 AI 工廠第一批 GB300 機櫃已於上週進場，預計 7 月底正式啟用第一期 48 櫃，後續將一路交付到年底，總計約 100 櫃。他並指出，第一波客戶主要來自美國大型推論服務業者，需求集中在生成式 AI 服務背後所需的高頻推論運算。
朱曉幸進一步說明，外界常以為第一波 AIDC 需求會來自金融、製造等傳統企業，但實際上更快湧現的是擁有大量線上使用者的服務供應商。她舉例，過去網路服務的瓶頸可能是頻寬，現在隨著電商、影音、社群、遊戲等服務導入 AI 助理與生成式功能，瓶頸逐漸變成算力。這類非超大規模雲端業者、但又擁有大量消費端使用者的中型服務平台，會是第一波最需要大量推論算力的客戶。
她認為，金融與製造業等企業內部 AI 應用仍會成長，但比較像第二波需求，因為這些產業多半先從內部流程、資料治理與模型導入開始，與消費者互動頻率未必像線上平台那麼高。相較之下，面向大量會員與消費者的線上服務業者，因 AI 問答、推薦、購物助理與內容生成等需求快速增加，對 GPU 推論資源的壓力更直接。
台灣大表示，未來雙方將持續擴大海外據點布局，合作模式會依不同國家與當地條件調整，可能與在地或國際合作夥伴共同開發，也可能採取不同建置與承租模式。朱曉幸強調，台灣大擅長的是機房建置、維運與管理，GMI Cloud 則負責算力平台與全球算力調度，雙方將以此分工，共同爭取國際 AI 基礎設施市場商機。
（首圖來源：科技新報）
科技新報粉絲團
加入好友
訂閱免費電子報
