AI 雖然可以自動運作許多工作,的確是一項劃時代變革,但是現在企業面對 AI 已經不是用不用的問題,而是太貴,企業想要擁抱 AI,卻受限於預算。Alphabet 執行長稱,現在才 5 月,一些全球最大的公司就已經花光全年的 AI 預算,現在企業開始呼籲員工,使用 AI 要把錢花在刀口上。
AI 不只會回答問題,還會根據問題需要來執行任務,譬如 AI 客服會幫客戶預約、寫程式、管理文件,但每一項任務都涉及複雜的運算,每一筆運算都要錢。AI 公司用來向客戶計費的基本單位稱為代幣 (token),一個任務消耗的代幣數量,可能是發送一條簡單聊天訊息的幾十倍。
尤其是在開發者圈子裡,使用 AI 進行程式設計等工作的成本呈指數級增長。有些公司急於使用 AI,以至於過度使用,陷入一種被稱為「tokenmaxxing」的狂熱使用模式,因為過度使用,有些企業甚至發現代幣的成本,在使用一兩個月後就超過員工的成本。
員工自己要動點腦
外媒分析,一些公司將 AI 做為生產力實驗項目納入預算,但他們發現,他們低估 AI 做為營運基礎設施的成本。如 Uber 就在在短短四個月內,就花光 2026 年全年的程式開發工具 Claude Code 和「思考預算」(Thinking Budget)。
工程師可以直接在命令列中使用 Claude 來分析專案、閱讀多個檔案並自動生成或修改程式,而 Thinking Budget 是指 AI 在回答問題前,分配給它進行「深度推理」的運算資源或 Token。但是想得越久、消耗的 Token 越多,使用者的費用或點數消耗得越快。因此系統或開發者必須控制「思考預算」來平衡品質與成本。
微軟取消體驗與設備部門所有 Claude Code 的授權許可,統一改用微軟自家的 GitHub Copilot,除了安全,也是顧慮成本。今年稍早鼓勵員工盡可能使用代幣來衡量生產力的 Meta,也開始重新考慮這個問題,首席技術長稱,任何人都不應該為了使用而使用 AI 工具。
市場尋找專業小型模型
為了降低成本,一些公司正在轉向免費、開源的 AI 模型,任何人都可以下載這些模型,雖然不如 ChatGPT 或 Anthropic 的 Claude 強大,但足以完成許多任務。
另一些人則轉向規模較小、更專業的模型,這些模型是為房地產或金融等特定行業設計。市場上已經出現來自各大實驗室的小型化、高速化、低成本的 AI 產品。專家估計,巨型通用模型的價格是每百萬個代幣 15 美元,迷你模型可以把價格降到 5 美分左右。Alphabet 也推出 Gemini 3.5 Flash,價格只有同代旗艦版本的三分之一。
AI 成本管理競賽開始
總之,AI 正變得越來越像一種商品,具體的模型不再那麼重要,重要的是找到價格合適的合適模型,因此 AI 成本管理逐漸成為一門獨立的專項,能夠將模型能力與任務複雜度相匹配的公司,將比那些為所有任務部署最強大模型的公司擁有結構性的成本優勢。
但這不代表句通用模型沒有市場了,最頂尖的用戶總是願意為最好的東西付費。專家預期,隨著 AI 從基礎建設邁向「落地應用」的下半場,AI 已經是一個愈做愈大的市場大餅。
- After the AI binge, companies balk at soaring bills
- Google forced to make costly AI fix after companies crashout
(首圖來源:Unsplash)






