AI 代理人的推理鏈：從思維樹到圖靈完備
二、思維樹與思維圖：當線性推理不夠用
思維鏈的問題在於它是線性的：一條路走到黑。如果第一步就選錯了方向，後面再怎麼努力也很難挽回。對於有明確解法的算術題，這或許還能靠自一致性投票補救；但對於需要探索、需要嘗試、需要放棄重來的任務，線性結構就明顯不足。
於是研究者開始把「鏈」推廣成「樹」，再推廣成「圖」。這不只是資料結構的變化，而是把推理從「一次生成」變成了「一次搜尋」。
2.1 Tree of Thoughts：分支、評估與回溯
2023 年，Yao 等人提出思維樹（Tree of Thoughts, ToT）。它的核心想法是：把每一個「部分解」視為樹上的一個節點，模型可以從當前節點生成多個候選的下一步，然後用某種評估機制判斷哪些分支值得繼續探索，不值得的就剪掉，走不通的就回溯。
以經典的「24 點」遊戲為例，給定四個數字，要用加減乘除湊出 24。思維鏈的做法是一次性生成一整串算式，錯了就錯了。思維樹的做法則是：先列出幾種可能的兩兩運算組合，分別評估哪個組合比較有希望，再從有希望的分支繼續往下展開。如果某條分支走到死路，就退回上一個節點換條路走。
這個過程其實就是古典的啟發式搜尋。思維樹真正的貢獻，在於它示範了如何用語言模型同時扮演「生成器」與「評估器」：生成器負責提出候選想法，評估器負責給出分數或判斷。論文中使用了廣度優先搜尋與深度優先搜尋兩種策略，並在創意寫作、迷你填字遊戲等任務上取得明顯優於思維鏈的表現。
當然，代價也很明顯。分支意味著更多的模型呼叫，評估意味著額外的推理成本，回溯意味著更複雜的控制邏輯。思維樹把「一次生成」變成「多次生成加搜尋」，換來的是更高的正確率與更長的回應時間。
2.2 Graph of Thoughts 與思維程序：從樹到有向圖
樹的結構仍然有一個限制：每個節點只能有一個父節點。也就是說，不同分支之間的結論無法合併、無法共享、無法交叉驗證。但在真實的複雜任務裡，我們經常需要「把 A 分支的結論和 B 分支的結論結合起來，再推出 C」。
思維圖（Graph of Thoughts, GoT）就是把樹推廣成有向圖：節點是想法，邊代表依賴關係，允許一個節點有多個前驅，也允許把多個想法聚合成一個新想法。這樣一來，推理過程就從「單向生長」變成「可以合併、可以複用、可以遞迴」的網路。論文中展示了用圖結構來合併多個排序結果、進行文件合併等任務，效率與品質都優於純樹狀結構。
另一條相近的路線是「思維程序」（Program of Thoughts）與各類推理模組組合方法。它們的共同精神是：不要讓模型在一個提示詞裡硬解所有事，而是把推理拆成可組合的模組，例如分解、檢索、計算、驗證，再依照任務動態組裝。Self-Discover 這類研究更進一步，讓模型自己挑選並組合推理模組，形成針對該題目的「推理結構」。
從鏈到樹再到圖，我們看到的是一條很清楚的主線：推理的結構越自由，能表達的解題策略就越豐富，但控制成本與搜尋成本也越高。
2.3 搜尋策略與評估器：價值函數從哪裡來
不管是樹還是圖，只要涉及搜尋，就一定會遇到兩個問題：怎麼展開分支，以及怎麼判斷哪個分支值得走。前者是策略，後者是價值函數。
在語言模型代理人的場景裡，價值函數的來源大致有幾種。第一種是模型自評，也就是讓另一個提示詞要求模型對候選想法打分；第二種是多數投票，用多次採樣的一致性當作信心指標；第三種是外部驗證器，例如單元測試、型別檢查、計算機執行結果；第四種是過程獎勵模型（Process Reward Model），針對每一個推理步驟給出分數，而不是只看最終答案。
這四種來源的可靠性差異很大。模型自評便宜但不穩定，容易出現「自信地選錯」；外部驗證器昂貴但可信，只要驗證器本身正確，就能提供硬性訊號。實務上最穩健的做法，是把外部驗證放在關鍵節點，把模型自評放在探索階段，用便宜訊號做粗篩，用昂貴訊號做最終把關。
LATS（Language Agent Tree Search）則是將蒙地卡羅樹搜尋引入代理人迴圈，把推理、行動與規劃統一起來：每個節點是一次狀態，邊是一次行動，透過模擬與回饋來更新價值估計。這類方法的精神，與其說是「讓模型想得更久」，不如說是「讓模型學會取捨」。
三、從推理到行動：ReAct、工具呼叫與代理人迴圈
到目前為止，我們談的都還是「在腦內推理」。但真正的代理人不能只會想，它還得能動手。查資料、跑程式、呼叫 API、寄信、修改檔案，這些動作會改變外部世界，也會回過頭來改變推理的依據。這就是 ReAct 範式出現的背景。
3.1 ReAct 範式：思考、行動、觀察
ReAct 的名稱來自 Reasoning 與 Acting 的結合。它的做法是把推理軌跡與行動軌跡交錯生成：模型先產生一段思考（Thought），決定要做什麼；接著產生一個行動（Action），例如搜尋某個關鍵字或呼叫某個工具；然後環境回傳觀察結果（Observation）；模型再根據觀察結果產生下一輪思考。
這個迴圈看起來簡單，卻解決了一個關鍵問題：推理不再只是模型單方面的想像，而是被外部環境持續校正。當模型檢索到一份文件，它就必須根據文件的內容調整後續推理；當模型執行的程式回報錯誤，它就必須處理這個錯誤，而不是繼續假裝一切順利。
ReAct 的另一個貢獻，是把「工具使用」正式納入推理鏈的一環。工具不只是外掛，而是推理的延伸：計算機延伸了算術能力，檢索引擎延伸了知識邊界，程式執行環境延伸了可驗證性。從這個角度來看，工具呼叫不是代理人的附加功能，而是它之所以能被稱為代理人的關鍵。
3.2 規劃與反思：Plan-and-Execute 與 Reflexion
ReAct 是逐步反應式的，走一步算一步。對於複雜任務，這種方式容易迷失方向，因此出現了「先規劃、再執行」的路線。Plan-and-Execute 的做法是先讓模型產出一份高層次計畫，把大任務拆成子任務，再逐一執行；執行過程中若發現計畫不可行，再回頭修改計畫。
另一個重要機制是反思（Reflection）。Reflexion 讓代理人在完成一次嘗試後，用語言總結「哪裡做錯了、下次應該怎麼改」，並把這段反思存入記憶，供下一次嘗試參考。這本質上是一種以自然語言進行的強化學習：沒有梯度更新，只有經驗累積。
規劃與反思的組合，讓代理人具備了某種「後設認知」的味道：它不只知道要做什麼，還能評估自己做得如何。當然，這種後設認知仍然建立在語言模型的自評之上，所以也會繼承自評的不穩定。這也是為什麼後面的章節要特別談驗證層。
3.3 記憶與上下文工程：推理鏈的基礎設施
如果說推理鏈是代理人的思考過程，那麼記憶就是它的工作台。代理人的記憶大致可以分成三層：短期的工作記憶，也就是當前上下文窗口裡的内容；長期的語義記憶，通常用向量資料庫或檢索系統實作；以及情景記憶，記錄過去執行過的任務與反思。
上下文工程（Context Engineering）因此在近年成為一門顯學。它的核心問題是：在有限的上下文窗口裡，應該放入哪些資訊？哪些該摘要、哪些該壓縮、哪些該丟棄？如何避免關鍵指令被後面的大量檢索內容稀釋？如何讓子代理人之間共享必要的狀態，而不互相污染？
這些問題聽起來很工程，但其實直接決定了推理鏈的品質。一份被錯誤檢索內容污染的工作記憶，會讓再精巧的推理結構都失去意義。反之，一個乾淨、結構化、重點突出的上下文，往往能讓簡單的思維鏈發揮出接近複雜搜尋的效果。
四、圖靈完備的意涵：推理鏈何時成為一種「計算」
接下來要處理一個容易被過度簡化、也容易被過度神化的概念：圖靈完備。這個詞在技術社群裡經常被隨意使用，例如「這個系統是圖靈完備的，所以它什麼都能算」。這種說法既不精確，也容易誤導。我們需要先把定義講清楚。
4.1 圖靈完備的嚴格定義與常見誤用
圖靈完備，指的是某個計算系統在計算能力上等價於圖靈機。更精確地說，給定足夠的記憶體與時間，它可以計算出所有可計算函數。要達到這個標準，系統通常需要具備幾個要素：無界的儲存空間、條件分支、迴圈或遞迴、以及讀寫儲存的能力。
常見的誤用有三種。第一種是把「圖靈完備」等同於「聰明」或「有意識」，這兩者完全無關；圖靈完備只談計算能力，不談智慧。第二種是把「理論上可計算」等同於「實際上做得到」，忽略了時間複雜度與資源限制。第三種是忽略「無界記憶」這個前提，把一個記憶體有限的系統也稱為圖靈完備。嚴格來說，任何實體電腦的記憶體都是有限的，所以真正圖靈完備的只有數學模型，而不是實體機器。
理解這一點很重要，因為接下來我們要談的「代理人具備圖靈完備性」，同樣是原理層面的主張，而不是說你現在手上的那個代理人真的能計算任何東西。
4.2 為什麼帶工具迴圈的代理人接近圖靈完備
單一次前向傳播的 Transformer 並不是圖靈完備的。它的計算深度固定，能表達的函數類別受到限制，而且沒有內建的迴圈與可變記憶。這也是為什麼單純把模型做大，並不會自動讓它具備通用計算能力。
但當我們把語言模型放進一個代理人迴圈，情況就不同了。模型可以產生指令、呼叫工具、讀寫外部檔案、根據結果決定下一步，然後重複這個過程。這時候，模型扮演的角色不再是「計算機」，而是「控制器」：它負責決定下一個動作，而真正的儲存與執行由外部環境提供。
有研究（例如 Schuurmans 等人於 2023 至 2024 年間的論文）論證，一個凍結參數的大型語言模型，若搭配可讀寫的外部記憶與適當的迴圈控制，在原理上可以模擬通用圖靈機。關鍵在於：模型不需要自己記住所有狀態，它只需要能夠按照規則讀取記憶、修改記憶、並決定是否繼續。這正是圖靈機的基本操作。
用更直觀的方式說：如果一個代理人能夠（一）把狀態寫到外部記憶、（二）根據記憶內容做條件判斷、（三）重複執行直到滿足終止條件，那麼它就具備了模擬圖靈機的基本零件。語言模型提供的是「規則的靈活執行者」，外部記憶提供的是「紙帶」，而代理人迴圈提供的是「讀寫頭的前進」。三者合起來，就構成了圖靈完備的雛形。
4.3 可計算性的邊界：停機問題與不可判定性
不過，圖靈完備不是免費的午餐，它同時帶來了一個深刻的限制：停機問題不可判定。也就是說，不存在一個通用演算法，能在有限時間內判斷任意程式會不會停下來。既然代理人系統在原理上具備圖靈完備性，那麼「這個代理人會不會無限迴圈」這個問題，在本質上也無法被通用地靜態判定。
這聽起來很抽象，但在實務上有直接後果。你無法用一個靜態檢查工具，百分之百保證代理人不會陷入無窮迴圈、不會反覆呼叫同一個工具、不會在兩個矛盾的目標之間來回擺盪。你能做的，是設定步數上限、預算上限、逾時機制，以及外部監督。這些都是工程上的防護欄，而不是數學上的保證。
同樣地，萊斯定理告訴我們，程式的許多非平凡性質都不可判定。這意味著「這個代理人是否安全」「這個推理鏈是否正確」這類問題，無法單靠形式分析完全解決。這也是為什麼我在下一節要談實務架構：既然原理上無法保證，我們就只能用工程手段去逼近可靠性。
重點整理：圖靈完備談的是「能不能算」，不是「算得對不對」，更不是「值不值得算」。一個系統具备圖靈完備性，只代表它的計算能力上限很高，不代表它在有限時間與有限預算內能給出可靠答案。
五、實務架構：把推理鏈做成可運行的代理人系統
談完理論，我們回到工程。一個能在生產環境運作的代理人系統，通常不會只靠單一推理結構，而是把多種結構分層組合。以下是我認為最值得關注的三個層次。
5.1 控制器層：策略、路由與模型分級
控制器層負責決定「什麼時候用哪種推理結構」。簡單的問題走單次生成，中等難度走思維鏈，需要探索的走思維樹，需要外部資訊的走 ReAct，需要長期任務的走 Plan-and-Execute。這種路由機制可以大幅降低成本，因為不是每個任務都值得動用最貴的搜尋策略。
模型分級也是同一思路。用小型模型處理格式整理、意圖分類、初步篩選；用大型模型處理複雜推理與最終決策。這種「大小模型協作」的架構，在實務上往往比單一巨型模型更經濟，也更容易針對不同環節做最佳化。
5.2 驗證層：單元測試、形式檢查與人工關卡
驗證層是代理人系統能否被信任的關鍵。最可靠的驗證，永遠是外部可執行的檢查：程式碼跑單元測試、SQL 跑在唯讀副本上、數學結果用符號計算核對、格式用 schema 驗證。這些檢查的共通點是，它們不依賴模型自評，因此不會繼承模型的自信偏誤。
對於無法自動驗證的任務，則需要設計人工關卡。例如金額超過某個門檻的動作需要人工批准，對外發送的信件需要人工審閱，修改生產環境的指令需要二次確認。這些關卡會降低自動化程度，但換來的是可控的風險邊界。
5.3 可觀測性：追蹤、評估與成本
代理人系統最怕的不是出錯，而是出錯了你不知道。因此可觀測性必須是架構的一部分，而不是事後補救。每一次模型呼叫、每一次工具呼叫、每一個中間狀態，都應該被記錄下來，形成可回溯的追蹤紀錄。
在評估方面，除了最終答案的正確率，更應該關注過程指標：平均步數、工具呼叫成功率、無效迴圈比例、每次任務的 token 成本與延遲。這些指標能告訴你，推理鏈是在變得更聰明，還是只是變得更冗長。
推理結構
核心機制
適合任務
主要成本
思維鏈 CoT
線性展開中間步驟
數學題、常識推理
上下文長度
自一致性
多路徑採樣後投票
有明確答案的推理
多次採樣成本
思維樹 ToT
分支、評估、回溯
需要探索的規劃任務
搜尋與評估成本
思維圖 GoT
分支合併與聚合
多來源整合任務
圖管理複雜度
ReAct
思考與行動交錯
需外部資訊的任務
工具延遲與錯誤處理
Plan-and-Execute
先規劃再逐步執行
長流程任務
計畫維護成本
六、風險與治理：推理鏈帶來的新問題
推理鏈越長、代理人越自主，風險的種類也越多。這一節談三個我認為最需要正視的問題。
6.1 錯誤累積與幻覺放大
推理鏈的第一個風險是錯誤累積。每一步推理都有出錯機率，步數越多，累積出錯的機率就越高。更麻煩的是，模型傾向於讓後續步驟與前面的錯誤保持一致，於是錯誤不但沒有被修正，反而被「合理化成一套完整的論述」。這種現象有時被稱為幻覺的自我強化。
對策之一是引入獨立驗證，讓驗證者不共享生成者的上下文，避免被同一套錯誤邏輯帶著走。對策之二是把不確定性顯式化，要求模型標註信心程度，並在信心不足時主動求助或停下。對策之三是縮短推理鏈，能用工具算的就不要用文字推。
6.2 提示注入與工具濫用
當代理人開始讀取外部內容、呼叫外部工具，它就暴露在提示注入的風險之下。攻擊者可以把惡意指令藏在網頁、文件、甚至程式碼註解裡，誘導代理人做出原本不該做的動作。推理鏈越長，攻擊者能插入指令的環節就越多。
治理的重點在於權限設計：最小權限原則、工具白名單、敏感動作的人工審批、外部內容與指令的嚴格分離。同時要假設「模型一定會被騙」，因此不能把安全邊界建立在模型的判斷力上，而要建立在系統的權限結構上。
6.3 可解釋性的錯覺
推理鏈讓人產生一種錯覺：既然步驟都寫出來了，我們就理解了模型的想法。但實際上，模型生成的解釋未必忠實反映它內部的計算過程。也就是說，我們看到的推理鏈，可能是一套「事後合理化」的說法，而不是真正的因果軌跡。
這不代表推理鏈沒有價值。它的價值在於讓人類可以檢查、可以干預、可以建立測試案例。但我們不應該把它當成模型內部的鏡子。對於高風險的應用，仍然需要外部驗證與獨立審計，而不能只靠閱讀模型的自我說明。
七、結論：從「更長的回答」到「可驗證的計算」
回顧這條演進線，我們可以看到一個清楚的軌跡。思維鏈解決了「單次計算不足」的問題，把推理攤開到序列上；思維樹與思維圖解決了「線性結構無法探索」的問題，把推理變成搜尋；ReAct 與工具呼叫解決了「推理脫離現實」的問題，把行動納入迴圈；而圖靈完備的討論，則提醒我們這個迴圈在原理上具備多大的計算潛力，以及多大的不可判定邊界。
但真正決定代理人價值的，不是它能不能在理論上模擬圖靈機，而是它能不能在有限預算內，穩定地完成有價值的任務。圖靈完備是一個關於上限的陳述，而工程是關於下限的藝術。我們需要的是可靠的推理鏈、可驗證的中間步驟、可控的權限邊界，以及可觀測的執行紀錄。
對開發者而言，下一步或許不是追求更複雜的推理結構，而是把已有的結構做得更紮實：把驗證層建起來，把追蹤做完整，把成本控制住，把失敗模式摸清楚。對使用者而言，則需要建立一種新的素養：看見推理鏈時，不只問「它說得有沒有道理」，更要問「這個結論有沒有被獨立驗證過」。
從思維樹到圖靈完備，這條路走得很遠，但真正值得期待的，是當這些推理結構變得足夠便宜、足夠可靠之後，AI 代理人能從「會聊天的工具」變成「可以被委託的夥伴」。那時候，圖靈完備不再是行銷詞彙，而是一個安靜的背景事實：我們終於把計算、推理與行動，接成了一條完整的鏈。
（本文為「雅寶社區 · 頂客論壇」AI 趨勢分類專欄內容，歡迎在討論區延伸交流你對代理人架構的實作經驗。）