(文章)

AI 專案的費用怎麼估:為什麼估出來常差好幾倍

用輪數乘以每輪平均上下文來估,不用代理數或人數。差好幾倍多半出在重試的輪數、思考用掉的 token,以及快取沒有生效。

磨人開發團隊・2026-11-02

目錄

AI 專案的費用,不能用代理數、任務數或人數來估,要用輪數乘以每輪的平均上下文來估。低估多半出在三處:重試與驗證多出來的輪數、思考用掉的 token,以及快取其實沒有生效。2026 年 8 月到 10 月,開發團隊用 AI 代理做開發與資料處理,量過三組用量。只依代理數估算,兩組的實際花費是估算的約 10 倍與 5 到 8 倍,另一組的代理數則從約 6 個放大成 136 個。

估法:輪數乘以平均上下文

AI 代理每做一輪,就要把到目前為止的上下文重新讀一次。一個代理的費用,因此大致是輪數、每輪平均上下文長度與快取讀取單價三者相乘。代理數只說明有幾位在做事,沒有說明每位做幾輪,也沒有說明每輪要重讀多少內容,所以用代理數或任務數估,落差常是五到十倍。開發團隊承接 AI 導入與開發時,估價前先用這個算法抓量級。預估超過事先訂的門檻,就先報客戶;作業途中也會量用量。

一個人坐在小圓桌前寫字,桌上有兩個杯子

三組用量如下。費用是依官方牌價換算,這些工作跑在開發團隊自己的方案上,不是實際帳單,所以下表只列倍數與用量。

工作只依代理數估算的實際用量結果
全站瘦身4 個 Sonnet 代理每個代理跑 220 到 370 輪,每輪平均重讀 45 萬到 63 萬 token,快取讀取合計約 6.5 億 token實際費用約為估算的 10 倍
企劃流程8 個代理約 580 次工具呼叫,快取讀取合計約 1.46 億 token實際費用約為估算的 5 到 8 倍
稽核流程約 6 個代理136 個代理,合計約 830 萬 token批次驗證後約 7 個代理,成本約為原本的 5%

第三組是一次程式稽核。稽核流程找出約 120 則發現,若每一則各派一個驗證代理,找出多少就派出多少個。改成一個代理驗 15 到 20 則之後,代理數降到約 7 個,成本降到原本的約 5%。

圖 1每則發現各派一個驗證代理,代理數就隨發現數漲到 136 個;批次驗證後降到約 7 個
  1. 每則發現各派一個驗證代理136 個代理代理數隨發現數放大
  2. 合併後少掉的代理成本約為原本的 5%一個代理驗 15 到 20 則
  3. 批次驗證約 7 個代理派工前先算出發現數乘以驗證者數的上限

稽核流程。成本為依牌價換算,不是帳單。

開發團隊的做法是四條規則:

  • 動態派工(fan-out)之前,先算出發現數乘以驗證者數的上限;講不出數字,就不要那樣寫。
  • 把大任務拆小,並替每個任務設定輪數上限。
  • 作業途中就量用量,不等到結束才看帳。
  • 預估超過事先訂的門檻,先報客戶。

思考會先用掉大量 token

讓模型先思考再寫,輸出比較守規則,但思考的內容同樣算在輸出的 token 裡。在一個 AI 報告生成功能的測試站上,同一份報告一次寫完,模型啟用思考(強度設為低也一樣)時,輸出共 12,000 到 17,000 token,其中真正寫出來的文字約 3,000,其餘是思考。寫一份報告要 15 到 75 秒,13 題測試裡有 2 題超過寫作期限而失敗。

圖 2關閉思考能把寫作時間縮到 6 到 17 秒,但標題成功率從 11/11 掉到 2/13
寫作時間標題成功率
  • 15 到 75 秒
    啟用思考,一次寫完保留
    11/11
  • 6 到 17 秒
    關閉思考,一次寫完不採用
    2/13

測試站、真模型,13 題。被驗證程式刪掉的句子,關閉思考時是啟用思考的 3 倍。

開發團隊沒有採用關閉思考,而是把同一份資料包分給幾位「作者」同時寫:每個子問題一位,直接回答與標題一位,提醒一位,規劃一位,其餘一位。每位只拿到自己欄位的提示,總時間約等於最慢的一位。某一段失敗,只是那一塊留空,由程式用資料事實補底;全部失敗才算整份失敗。測試結果是 13 題全數完成,最慢 46 秒。

拆段是用更多次呼叫換等待時間,所以費用要照輪數乘以上下文的算法重新估,不能沿用一次寫完的估價。這類取捨也不能只看單一指標:語言模型評估的研究主張,應同時看多個指標,不能只看準確率,才看得出各種取捨(Liang 等,2023)。

快取的門檻會靜默失效

提示詞快取能讓重複送出的內容變便宜,但有最低長度的門檻。官方文件寫明,提示快取有依模型而定的最低可快取 token 數,低於門檻的提示,即使標記了 cache_control 也不會被快取(Anthropic,Prompt caching)。

乖獸(Cooking Monsters)的正式站為了成本,把模型從 gpt-4o 換成 Claude Haiku 4.5,並在系統提示詞加上快取。該站實測結果如下:同樣的工作量,換模型後成本約為原本的一半,快取命中時又比沒有快取低約 27%。

風險在提示詞的長度。這份系統提示詞約 4,900 token,而該模型的最低可快取門檻是 4,096 token,只高出約 800。這個數字以當時的官方文件為準,之後可能變動。日後若有人把提示詞精簡到門檻以下,快取就會失效,而且不報錯,只是快取讀取量變成 0,帳單卻變貴,沒有任何訊息提醒。

對策是讓失效看得見。日誌表記下輸入、輸出、快取寫入、快取讀取四種 token,費率放在後台可調整的設定,再做成用量與費用儀表板,成本變貴時就看得到是哪一欄變了。估價時也該一併問清楚:提示詞多長、用哪個模型、門檻是多少、誰在看快取讀取量。上線後怎麼持續盯用量與品質,另見AI 上線後的品質與維運。

大批量工作,審查比產出貴

一批上千份文件的段落重排與標籤,是典型的大批量工作。試跑兩輪、共 62 篇時,花費幾乎都在審查:兩輪審查的費用約為標註的 20 倍。花費集中在確認結果是否正確,不在產出本身。

一個人拉開檔案櫃的抽屜,手裡拿著幾張紙

全量因此不再讓最貴的模型逐篇讀。程式先整理出精簡的審查對照檔,審查者不必翻資料庫與原檔。標註交給 Haiku,一篇一個子任務;長篇先切段再合併;驗證器的結束碼是 0 才收,不靠人眼判斷。Sonnet 依風險抽審 10 到 15%,長篇、掃描檔、版面有疑慮的與新來源優先。升級條件寫成規則:只有被標出的難例,以及驗證器過不了的,才交給 Opus。

圖 3最貴的模型只處理抽審後標出的難例,沒有逐篇讀完全部語料
  1. 全部語料標註約 1,500 篇一篇一個子任務,由 Haiku 標註
  2. 未抽審的篇數只過程式驗證器結束碼 0 才收
  3. 依風險抽審約 160 篇約一成,由 Sonnet 審查
  4. 升級給 Opus9 個子任務只處理標出的難例與驗證器過不了的

子任務數:Haiku 約 1,600 個、Sonnet 約 50 個、Opus 9 個。篇數與子任務數均為約略值。

整批處理的成本落在數百美元等級,每篇不到一美元。這是依牌價換算的量級,不是帳單。

審查端也需要抽樣核對與程式驗證,不能只靠模型自己給分。用模型當評審,已知評審會偏好特定的答案位置、較長的回答,或自己產生的答案(Zheng 等,2023)。品質規則怎麼訂,另見批次內容的品質關卡。

額度要依用途分帳

使用者功能用的額度,不能被內部的批次處理或測試吃掉。常見的錯誤,是把只供最終使用者查詢解析的金鑰拿去跑批次標註:批次裡只要提示詞寫錯,整批丟棄的呼叫就是純浪費,前台的正當查詢卻可能因額度耗盡而全部失敗。批次試跑若用了後端金鑰,測試站的使用者功能也可能因額度不足全部失敗。

規則是劃線。批次、清理、測試一律不動使用者功能的金鑰;要用到該金鑰的批次試跑,先報預估花費,同意才跑;整批資料處理改走獨立的金鑰或本機,定期審核也不佔用使用者額度。另一個專案裡,金鑰只花在後台提交的需求上,金鑰壞掉時整輪中止,不重複打十幾次。

分帳也讓用量圖看得懂。額度混用時,失控的 fan-out 讓用量暴增,第一個反應往往是懷疑金鑰外洩,因為從用量圖上,分不出正常工作與金鑰被盜。用途分開之後,出現異常,就是異常。

先小量試跑,再放大

全量之前,先用小量樣本跑一輪,量出分數與每份的花費,再放大。前面那批文件,試跑 62 篇、兩輪之後才決定全量的做法,規則也固定下來,下一批新資料照同一套走。上線前的評估怎麼做,另見AI 上線前的評估。

  1. 取一小批具代表性的樣本,要包含長篇、掃描檔這類難處理的情況。
  2. 同時量品質分數與每份的花費,兩者都要有數字。
  3. 用輪數乘以平均上下文,把試跑的用量放大到全量,並替重試與審查留餘裕。
  4. 訂一個費用門檻,預估超過就先報客戶,全量途中再定期量用量。

試跑也讓「不做」成為可以在花大錢之前做出的決定:試跑兩輪後若評估成本偏高,可以在全量之前停掉。

哪些數字不該交給模型決定,見婚宴外燴的線上提案:價格一律依規格。

不適合的情況

  • 只有單次呼叫、提示詞固定的功能:輪數與上下文都固定,用呼叫次數乘以每次的 token 數就夠,不需要這套估法。
  • 還沒有可試跑的樣本,也沒有可檢查的品質規則:這時估不出輪數,先收樣本、訂規則,再談預算。
  • 預算必須在試跑前定成單一數字,而且試跑後不能調整:這套估法給的是區間,要靠試跑的實測值收斂。

下一步:要準備什麼

洽談前先備齊四項:要交給 AI 的任務清單與預計的量;一小批具代表性的樣本資料;品質怎麼算過關的可檢查規則;使用者功能與內部批次各自使用的額度。備齊之後,聯絡開發團隊,從小量試跑開始量。

(聯絡)

Start a project.

三個步驟,取得可判斷的做法與預算區間。

  1. 01預約第一場會議:選擇時段,不需要完整規格。
  2. 02線上諮詢 15 至 30 分鐘:取得做法方向、預算區間與時程草案。
  3. 03檢視素材後,約 3 至 5 個工作天提供報價單暨交付規格明細表。
信箱
hello@polish-design.com.tw
通訊地址
(104) 台北市中山區植福路191-1號3F

預約第一場會議

週一至週五 16:00–18:00線上 30 分鐘

先選時段,再用 Google 帳號或信箱確認,預約完成可加入行事曆。

選擇時段

或先送出資料

還沒想好時段,可以先留下專案內容,專人以信箱回覆。送出後也能接著預約。

補充資料(選填):服務項目、目前階段、現有連結、得知管道

資料僅用於本次專案評估。

ISO/IEC 27001:2022 證書

(Certificate)

ISO/IEC 27001:2022

驗證機構
ARES International Certification
驗證範圍
互動沉浸式 3D 系統之開發流程,及網路與基礎設施之維運與管理。

到驗證機構網站查證