模型越來越便宜，AI 帳單卻越來越大
拆解 AI 支出為什麼難以預估，以及企業在選擇部署方式之前，應該先掌握哪些資訊。
為什麼你的 AI 預算總是算不準
過去兩年，AI 最常被提起的好消息是越來越便宜。 這件事一半是真的。今天，一個小型模型每百萬輸入 token 的價格是 0.05 美元，拿來做摘要、分類、改寫，便宜到幾乎可以忽略。 但如果看的是旗艦級模型，情況就不太一樣。GPT-5 剛推出時，每百萬輸入 token 是 1.25 美元，輸出則是 10 美元；後續世代的旗艦級模型，兩者分別來到 5 美元與 30 美元，Pro 等級則是 30 美元與 180 美元。最強的那一檔，單價不但沒降，反而一路往上。 現在，同一家供應商的模型之間，輸入單價差距已拉到 600 倍。 真正變便宜的是取得「同樣能力」的成本。今天用更小的模型，就能做到去年得動用旗艦模型才能完成的事，但這不代表取得「最好能力」的成本也在下降。 這個區別平常不太容易被注意到，等到帳單出現時，就變得很實際。 幾乎每一家開始認真用 AI 的公司，都會在某一次會議上遇到同樣的問題。財務部門看著帳單，問 IT：「這個月花了多少？」接著又問：「哪個部門用的？」 第一題通常答得出來，第二題就不一定了。
便宜是真的，貴也是真的
同一段時間，財務長聽到的是另一個版本的故事。 據路透社報導，2025 年有 71% 的企業遭遇 AI 成本超支。另有報導指出，連 Meta 都向員工示警，內部 AI 使用在 2026 年可能耗費數十億美元，並開始設定支出上限。 這兩件事可以同時成立。這並不矛盾，只是我們習慣盯著單價看，而帳單從來不是單價決定的。
價格輸了，用量贏了
幾年前，企業用 AI 多半是一問一答：丟一個問題，回一段文字。 現在不是了。越來越多應用開始採用「代理式 AI」，由 AI 自行規劃步驟、查資料、呼叫工具、檢查結果，再產出答案。完成一個任務，可能需要好幾輪甚至幾十輪的運算。有顧問機構實測發現，代理迴圈消耗的 token 往往是單次提問的三到十倍。 台灣企業也正在加快採用這類應用。iThome 2026 年 CIO 大調查顯示，台灣大型企業的代理式 AI 採用率從前一年的 17% 升到 32%，一年內幾乎翻倍。 單價降了幾成，用量卻可能翻了好幾倍，企業的 AI 支出未必會跟著下降。
麻煩的不是貴，是算不準
如果只是變貴，其實好處理，編更多預算就是了。真正難的是算不準。 按量計費的 AI 有一個很不討喜的特性：同一個任務，每次消耗的 token 也可能不一樣。提示詞改一句、換一個模型、代理多繞一圈，成本就變了。幾個代理串起來協作，變數還會增加。 另外還有兩個因素，會讓成本更難預估。 一是推理模型的思考過程。那些你看不到的推論步驟，也會以輸出 token 計費。同一個問題，模型想得多一點，帳單就多一點。 二是長上下文的門檻。以 GPT-5.5 為例，當單次輸入超過 27 萬 2 千個 token，整個 session 的輸入會以兩倍計價，輸出則以 1.5 倍計價。原本已經接近門檻時，多放幾頁文件，就可能讓單價跳上一級。 這讓傳統的預算方式難以直接套用。IT 採購習慣估算的是「一年需要多少授權、幾台主機」，AI 的支出卻更像一張電費單，用量還不容易事先掌握。 講到這裡，通常會有人問：「那設個上限不就好了？」 可以，但設上限之前，得先知道是誰在用、用在哪。這正是開頭提到的第二個問題。 這也已經不只是 IT 部門的事。FinOps 基金會調查了 1,192 位從業人員，發現負責管理 AI 支出的團隊比例在兩年內從 31% 升到 98%。另一份業者調查則指出，62% 的企業表示，意料之外的 AI 成本實質改變了某項商業決策，其中四成必須上報董事會。 一筆支出需要驚動董事會，它就不再只是技術議題了。
一邊在縮，一邊在長
台灣企業還多了一層壓力。 iThome 同一份調查顯示，台灣大型企業 2026 年 IT 預算成長 9%，低於前一年的 13%。投資策略轉趨謹慎，資源也更集中在看得見效益的項目。 預算成長放緩，AI 用量卻快速增加，每一筆投資又都被要求證明效益。在這樣的情況下，如果連錢花在哪裡都看不清楚，就很難判斷這些投入是否值得。
那搬回自己的機房呢？
面對持續增加的帳單，企業自然會考慮，是否該把 AI 搬回自己的機房。 這個方向值得評估，但做決定之前，得先了解實際用量。比較地端與雲端時，使用率是一個重要判準。依 IDC 的評估口徑，持續使用率高於八成的工作負載，自建的三年總持有成本通常較低；低於七成，公有雲多半仍較划算。 一台買了卻大半時間閒置的伺服器，一樣是浪費，只是換了個形式。 不過，實際的成本分界仍會因產業與工作負載而異。製造業與金融業的用量尖峰，就可能有很大差異。在看清楚自己的用量之前，無論決定搬到地端或繼續留在雲端，都缺乏充分的判斷依據。 對許多還在驗證階段的應用來說，公有雲仍是合適的起點。隨著用量與需求逐漸明確，企業才有條件判斷，何時需要調整部署方式。
三件現在就可以做的事
第一，回答開頭那兩個問題。 上個月的 AI 花了多少、哪些部門在用、用在哪些應用？答不出來，這就是起點。 第二，不是每個問題都需要最強的模型。 摘要一份會議紀錄、查一條內部規定，未必需要頂級能力。以輸入單價來看，頂級與入門模型之間的差距可達 600 倍。依任務難度分配模型，再搭配快取與精簡上下文，顧問機構估計，能在維持品質的前提下節省三到五成成本。 第三，讓每一筆 AI 支出都要有負責人和上限。 明確的負責人，才能持續追蹤用量、檢視效益，並在支出接近上限時判斷該如何調整。
看不見的，不只是成本
這篇談的是錢。但錢只是最容易被看見的那一層。 如果一家公司連 AI 花了多少都看不清楚，那麼 AI 做了什麼、碰了哪些資料、用了哪些權限，是否也同樣缺乏掌握？ 下一篇，我們談那個更難被看見的問題。