AI 代理人的成本：為什麼跑一次要幾十塊
要理解代理人的帳單，建議把它拆成三層來看：
還有一個常被忽略的第四層：失敗與重試。多數團隊第一次算成本時只算「成功的那一次」，但實際上你會為了得到一次成功，付出 1.3 到 2 次的執行成本。這一層不寫在價目表上，卻實實在在刷在你的帳單裡。
二、代幣帳單：為什麼輸入比輸出更容易失控
大部分人憑直覺會以為「回答越長越貴」，所以拼命限制輸出長度。這個直覺在聊天場景成立，但在代理人場景經常搞錯重點。真正把帳單撐大的，通常是輸入。
上下文重送的複利效應
語言模型是無狀態的。它不記得上一輪說過什麼，所謂的「記憶」，其實是每一次呼叫時，把整段對話歷史、系統提示、工具定義、已抓到的資料，全部重新塞進去一次。
這意味著一個很反直覺的現象：同一個任務跑到第 30 步時，單次呼叫的輸入可能是第 1 步的十倍以上。因為第 30 步的上下文裡，塞滿了前 29 步所有的工具回傳結果。
我們用一個具體例子算給你看。假設系統提示加工具定義固定 3,000 代幣，每一步平均產生 300 代幣的新內容，跑到第 N 步時，輸入大約是 3,000 + 300 × N。第 1 步是 3,300 代幣，第 30 步是 12,000 代幣，第 50 步是 18,000 代幣。整段任務的總輸入不是 50 × 3,300，而是把每一階段的量加總，大約會是線性成長的兩倍以上。
這就是所謂的「上下文複利」。任務越長、工具回傳越囉嗦，成本不是等比例上升，而是接近平方級上升。很多代理人「跑得起、跑不久」，原因就在這裡。
推理模型的「思考」也要付費
另一個常見的驚嚇點是推理型模型（reasoning model）。這類模型在給出答案前，會先產生一段內部思考過程，這段思考通常被計入輸出代幣，而輸出代幣的單價往往是輸入的 3 到 5 倍。
換句話說，你看到的答案只有 500 字，但帳單上可能記了 3,000 字的輸出。用在高價值決策上很划算，但如果拿它去做「把這段文字改成條列」這種低階工作，就是拿高鐵票價去搭公車。這也是為什麼成熟的代理人系統幾乎都會做模型路由：規劃用貴的、執行用便宜的、格式化用最便宜的。
提示快取是唯一的下限救星
好消息是，主流模型供應商都提供「提示快取」（prompt caching）。原理是把重複不變的前綴（系統提示、工具定義、固定的參考文件）暫存起來，命中時只收原本價格的一小部分，常見折扣在三折到一折之間。
對代理人來說這是關鍵優化。因為系統提示與工具定義幾乎每次呼叫都一樣，但佔了輸入的一大塊。把這塊固定內容放在上下文最前面、保持一字不差，快取命中率就能拉高。實務上，一個設計良好的代理人光靠快取，就能把模型成本壓掉三到五成，而且不犧牲任何品質。沒有做這件事的系統，等於每次都在為同樣的 3,000 字重複付費。
三、工具呼叫：帳單上最容易被忽略的那一欄
模型成本看得見，工具成本常常看不見。但當代理人開始「真的做事」，工具費就會從配角變成要角。
搜尋、抓取、瀏覽器自動化的單價
以搜尋 API 為例，主流服務大約落在每千次查詢 3 到 10 美元之間，換算下來單次查詢約 0.1 到 0.3 元。一個做競品調查的代理人，跑一次任務發出 30 次搜尋是很正常的，這就是 3 到 10 元。
網頁抓取服務則按頁計價，簡單的靜態抓取每頁可能只要 0.03 元，但需要渲染 JavaScript、處理反爬、等待載入的服務，每頁可能到 0.3 元以上。如果你的代理人一次要看 40 個頁面，這筆錢就不小。
最貴的是瀏覽器自動化。開一個雲端瀏覽器讓代理人自己點擊、填表、滾動頁面，計價單位是「瀏覽器小時」，一小時常在 1 到 3 美元之間。任務跑 10 分鐘，大約 5 到 15 元。這筆錢很多人根本沒算進預算，因為它不在模型帳單上，而是在另一個服務商那裡。
程式沙盒與長時間執行的伺服器費
如果代理人是寫程式、跑測試、處理檔案的那種，還會有一筆執行環境的費用。雲端沙盒通常按 CPU 秒數或執行次數計價，單次執行便宜到幾乎無感，但一個除錯型代理人可能跑上百次測試，累積起來也是十幾二十元。
再加上排程器、狀態儲存、日誌、追蹤系統，這些基礎設施單價極低，但會隨著任務數量與執行時長穩定累積。它們不會讓單次成本爆掉，卻會讓「每千次任務」的總帳變得難看。
失敗重試與人工覆核
還有一筆更隱形的成本：重試。假設你的代理人單次成功率是 70%，那麼平均每完成一個任務要跑 1.4 次，成本直接乘上 1.4。如果成功率只有 40%，就是 2.5 倍。這也解釋了為什麼「同一件事，別人跑 20 元、你跑 60 元」——不是你的模型比較貴，是你的循環比較沒效率。
最後是人。當代理人卡住、產出格式錯誤、抓到明顯錯誤的資料，就需要人進場看。人的時間成本不會出現在雲端帳單上，但它才是很多團隊真正的成本大頭。一個每次都要人盯 15 分鐘的代理人，即使雲端只花 20 元，整體成本也遠高於帳面數字。
四、實際拆解：一個「幾十塊」的任務長什麼樣
下面用三個具體情境，把數字攤開來算。匯率以 1 美元約 32 元台幣估算，模型單價取中高階旗艦模型（輸入每百萬代幣 2.5 美元、輸出每百萬代幣 10 美元）作為基準。
情境 A：市場調查代理人（順利型）
假設任務跑了 35 次呼叫，每次平均輸入 9,000 代幣（含系統提示、歷史、工具定義），平均輸出 600 代幣。
模型小計：約 1.0 美元 ≈ 32 元
搜尋 API 30 次：約 0.15 美元 ≈ 5 元
網頁抓取 25 頁、每頁 0.005 美元：約 0.13 美元 ≈ 4 元
合計大約 41 元。如果提示快取命中率做到七成，模型那 32 元可以砍到 15 元左右，總成本降到 24 元附近。這就是為什麼同樣功能，有人報價 20 元、有人報價 40 元——差別不在模型，在工程。
情境 B：程式除錯代理人（高代幣高重試型）
假設跑了 80 次呼叫，每次平均輸入 25,000 代幣（塞入程式碼片段與錯誤日誌），平均輸出 800 代幣。
總輸入：2,000,000 代幣 → 5.0 美元
總輸出：64,000 代幣 → 0.64 美元
模型小計：約 5.6 美元 ≈ 180 元
加上沙盒執行 60 次、每次 0.01 美元：0.6 美元 ≈ 19 元
接近 200 元。這類任務的成本為什麼高？不是模型單價貴，而是每次呼叫都帶著一大包上下文。程式碼本來就佔代幣，錯誤訊息又長，加上重試，成本很快就上去。這也是為什麼很多人發現「寫程式的代理人特別貴」，因為它的輸入密度天生就高。
情境 C：推理模型做規劃（少量但高單價）
如果只跑 10 次呼叫，但用的是推理模型（輸入每百萬 15 美元、輸出每百萬 60 美元），每次輸出包含 3,000 代幣的思考過程加 800 代幣答案：
總輸入：50,000 代幣 → 0.75 美元
總輸出：38,000 代幣 → 2.28 美元
合計約 3.0 美元 ≈ 96 元
只跑了 10 次就接近百元，單次呼叫將近 10 元。這種模型不該拿來跑迴圈，而該用在「一次性高價值決策」——例如任務開始時的拆解規劃、或最後的品質審核。
成本敏感度：哪個變數最會吃掉預算
把上面的數字做個敏感度排序，會發現影響力大致是：
變數
變動幅度
對成本的影響
呼叫次數（迴圈長度）
多 10 次
成本約 +25%～35%
每次輸入的上下文長度
多 5,000 代幣
成本約 +40%～60%
任務成功率
從 70% 降到 40%
成本變 1.75 倍
是否啟用提示快取
命中率 0 → 70%
成本約 −30%～50%
模型層級選擇
旗艦 → 小模型
成本約 −80%
看懂這張表，你就知道優化的優先順序：先砍上下文，再砍循環，最後才去談模型降級。反過來做（一開始就換便宜模型），往往換來更高的失敗率與重試次數，總成本反而上升。
五、為什麼你會覺得貴：三個常見的認知落差
落差一：拿「聊天」的價格比「做事」的價格
聊天是單輪、低上下文、無工具。代理人是多輪、高上下文、有工具。兩者相差十到五十倍是完全正常的。就像你不會拿一杯咖啡的價格去質疑一頓商業午餐太貴，因為它們根本不是同一種商品。
落差二：把失敗的執行也當成免費
很多人在估算時只算「成功那次花多少」，但實際帳單包含所有失敗嘗試。一個平均要跑 1.5 次才成功的代理人，真實單價就是帳面數字乘 1.5。要降低這個落差，唯一辦法是把成功率當成核心指標來優化，而不是只優化單次成本。
落差三：忽略評估與維運
代理人不是部署完就沒事。你需要建測試集、跑回歸、監控異常、更新工具描述。這些工作在雲端帳單上可能只占一成，但在人力上占三成以上。當你問「為什麼跑一次要幾十塊」，別忘了那幾十塊買的不只是代幣，還有一整套讓你不用自己動手查資料的流程。
六、把成本壓下來的六個做法
模型路由：不是每個步驟都需要最貴的腦
把任務拆成「規劃、執行、格式化」三類。規劃用最強的模型，執行用中階模型，格式化與摘要用最便宜的小模型。實務上這一步就能砍掉五到七成的模型成本，而且品質幾乎不掉。判斷標準很簡單：這個步驟做錯了，後面的步驟會全毀嗎？會，就用好模型；不會，就用便宜模型。
上下文工程：少送一點，省得比砍價多
具體做法包括：工具回傳結果先截斷或摘要再塞回上下文、把已完成且不再需要的歷史壓縮成一句結論、固定內容放最前面以提高快取命中、避免把整份文件原封不動丟進去。經驗上，一個沒有做上下文工程的代理人，輸入體積通常是必要量的三到五倍。把這些冗餘砍掉，效果比換模型更明顯，也更安全。
流程設計：把迴圈收斂
迴圈要有明確的停止條件與預算上限。設定「最多 30 步」、「工具呼叫上限 20 次」、「單次任務成本上限 50 元」，超過就停下來回報，而不是無止境地重試。同時把常見錯誤做成明確的處理分支，而不是讓模型每次自己判斷要不要重試。這一步能同時降成本與提升可預測性。
把重試變成有策略的重試
失敗時，不要用同一個提示原封不動再跑一次，那只是把同樣的錯誤付費重播。應該是：換工具、換來源、降低任務粒度、或直接回報需要人介入。重試次數與成本必須掛鉤，否則重試就是一個無底洞。
建立成本可觀測性
至少要能回答三個問題：這次任務花了多少錢？錢花在哪個步驟？哪個步驟的重試率最高？沒有這三個數字，所有優化都是猜的。多數團隊在導入成本追蹤後，第一個月就能發現 20%～30% 的浪費來自少數幾個明顯的設計問題。
區分「值得」與「不值得」的任務
不是所有事情都該交給代理人。低價值、高頻、規則明確的任務，用傳統腳本或工作流程工具更便宜也更穩。代理人應該留給「需要判斷、需要彈性、需要跨系統」的任務。把這個邊界畫清楚，比任何技術優化都省錢。
七、成本會往哪裡走
單價下降，但用量成長更快
過去兩年，同等級模型的單位代幣價格下降了一個數量級以上，推理速度也快了許多。但同期間，代理人的任務複雜度與呼叫次數也同步上升，因為能力變強之後，人們會把更難的事情交給它做。結果是：單次任務的單價可能持平甚至上升，而總支出快速成長。這是每個導入 AI 的組織都會遇到的曲線。
成本結構會從代幣轉向工具與維運
隨著小模型能力提升與快取普及，代幣在總成本中的占比會逐步下降，工具費、執行環境費與人力維運的占比則會上升。這意味著未來的成本優化重點，不會只在「選哪個模型」，而會在「流程怎麼設計、工具怎麼串、成功率怎麼拉高」。誰能把任務成功率從 60% 拉到 90%，誰就掌握了成本優勢。
八、常見問題
為什麼同樣的任務，隔天跑價格差三倍？
最常見的原因有三個：一是快取沒命中，隔天前綴變了導致全額計價；二是任務路徑不同，模型選擇了不同來源，抓取的頁面數與長度不同；三是重試次數不同。建議在日誌中記錄每次呼叫的代幣數與工具呼叫次數，才能定位是哪一種。
用便宜模型是不是就一定省？
不一定。便宜模型的失敗率往往較高，導致重試與人工介入增加，總成本可能反而上升。正確做法是「分層使用」：關鍵步驟用可靠模型，其餘用便宜模型。判斷指標應該是「完成一個成功任務的總成本」，而不是「單次呼叫的單價」。
幾十塊的成本，怎麼判斷值不值得？
把它換算成時間。如果這個任務原本要花你 40 分鐘，而你的時間成本遠高於 40 元，那 30 元的代理人成本就是划算的。真正的判斷標準不是「絕對金額」，而是「替代成本」與「錯誤成本」。如果代理人出錯會造成嚴重後果，那再便宜都不值得；如果它只是幫你省下重複勞動，那幾十塊通常很超值。
結語：幾十塊不是異常，而是「代理人真的在做事」的價格
回到最初的問題：為什麼 AI 代理人跑一次要幾十塊？因為它跑的不是「一次」，而是幾十次模型呼叫、十幾次工具操作、加上重試與彙整的總和。這幾十塊買到的是一個會規劃、會查資料、會修正自己、最後交出一份成果的流程，而不是一句回答。
真正該問的問題不是「為什麼這麼貴」，而是「這幾十塊換到了什麼，以及我能不能用同樣的錢換到更多」。把上下文砍乾淨、把迴圈收斂、把模型分層、把成功率拉高，你會發現同樣的任務可以從 40 元降到 15 元，而品質不變。成本從來不是不能優化，它只是需要被看見——看見它花在哪一層、哪一步、哪一個重試裡。
當你能清楚回答「這一次的錢花在哪」，那幾十塊就不再是讓你皺眉的帳單，而是一個你可以主動設計、主動定價的變數。
```