當你遇到的問題不再是「按步驟算數學」，而是需要「腦力激盪、嘗試不同決策路線，甚至需要動手去上網查資料、呼叫不同的應用程式」時，單純的線性思考（CoT）就不夠用了。這時候我們需要更高級的思考架構：

• Self-consistency（自我一致性/多路投票）：就像「找多位專家投票」。讓 AI 針對同一個問題以較高隨機度思考好幾次，產生多條不同的解題路徑，最後看哪個答案出現最多次（多數決），選出最穩定可靠的結果。
• Tree of Thoughts, ToT（思維樹）：就像「下西洋棋時評估各種步法（樹狀分歧）」。不局限於一條路走到黑，而是將思考過程分叉成樹狀圖，同步評估多條可能性與後續分支，隨時探索最佳解答路徑。
• ReAct, Reason & Act（推理與行動/代理模式）：就像「邊思考邊動手查資料的實習生」。AI 在解決複雜問題時，形成「思考（Thought）→ 行動（Action，如上網搜尋/呼叫工具）→ 觀察結果（Observation）」的循環，動態調整下一步，逐步完成任務。

🎯 核心重點

1. Self-consistency（自我一致性）：
   • 原理：結合「多樣化抽樣（較高 Temperature）」與「多數決投票（Majority Voting）」。對同一提示詞重複生成多條推理路徑，抽取每條路徑的答案，選擇出現頻率最高的答案。
   • 優勢：顯著提升解答的準確度與一致性，並提供類似偽機率（Pseudo-probability）的穩定度參考。
   • 代價：需要多次呼叫模型生成大量 Token，運算成本極高。
2. Tree of Thoughts, ToT（思維樹）：
   • 原理：將 CoT 的單向線性推理拓展為「樹狀結構」。每個節點代表一個中間思考步驟（Thought），模型可以在樹狀結構中進行分枝、評估與探索多條推理路徑。
   • 適用場景：適合需要系統化探索、規劃與多步決策的極複雜任務（如策略規劃、棋局解謎）。
3. ReAct（Reasoning & Acting，推理與行動）：
   • 原理：將「語言推理（Reasoning）」與「外部行動（Acting）」結合，形成 Thought 思考→ Action 行動→ Observation觀察 的循環迴路（Loop）。
   • 代理（Agent）第一步：讓模型能與外部工具（如 Google 搜尋、API、代碼執行器）互動，克服 LLM 無法取得實時數據或精準計算的限制。
   • 工程注意細節：ReAct 在運作時會不斷將之前的提示或回應，重新發送並且修剪，且會產生大量 Token，因此需要嚴格控制輸出長度（Output length restriction）以避免產生無效 Token。

💡 實際例子

• Self-consistency 範例（複雜郵件判讀）：
  • 對於一封內容語氣諷刺、提及網站安全漏洞的郵件，AI 被要求重複分析 3 次：
    • 第一次推導結論：IMPORTANT（涉及漏洞與資安風險）。
    • 第二次推導結論：NOT IMPORTANT（語氣隨意、缺乏緊迫感）。
    • 第三次推導結論：IMPORTANT（資安影響極高，即使語氣輕鬆仍需處理）。
  • 最終結果：IMPORTANT 出現 2 次（多數決獲勝），避免了單次推理可能發生的漏判。
• ReAct 範例（查詢複雜實時的事實）：
  • 任務：「Metallica 樂團的成員總共有幾個小孩？」
  • 思考 (Thought 1)：先確認 Metallica 有 4 位成員。 -> 行動 (Action 1)：搜尋成員名單。
  • 思考 (Thought 2)：查詢主唱 James Hetfield 有幾個小孩。 -> 行動 (Action 2)：搜尋並得知有 3 個。
  • (持續循環搜尋其他 3 位成員的小孩數量並累加)
  • 最終答案 (Final Answer)：10 個孩子。
• Tree of Thoughts, ToT（思維樹）：請見後註。

❌ 常見錯誤

1. 在 Self-consistency 中把 Temperature 設為 0：Self-consistency 的前提是生成「多樣化」的思考路徑。如果 Temperature = 0，每次生成的路徑會完全相同，多數決投票就會失去意義。（關於Temperature的概念，請見單元02 https://blog.udn.com/tku_89056/192572031））
2. 混淆 CoT 與 ToT 的結構差異：CoT 是單條直行的線性思維（Linear chain），而 ToT 是具備分支與多路徑探索能力的樹狀結構（Tree structure）。（關於CoT 的概念，請見單元05 https://blog.udn.com/tku_89056/192590919 ）
3. 在 ReAct 模式中忽視 Output Length 控制與歷史記錄清理：ReAct 循環會迅速累積龐大的 Token，若沒有適當限制 Output length 或修復/剪裁過往對話，容易導致成本暴增或超越限制。

📖 來源依據

本單元內容依據《Prompt Engineering》教材：

• Self-consistency 定義、步驟與郵件分類範例：第 32–36 頁
• Tree of Thoughts (ToT) 定義與 CoT 結構對比圖：第 36–37 頁
• ReAct 概念、Thought-Action-Observation 循環與 Metallica 樂團範例：第 37–40 頁
• ReAct 與 Output Length 設定：第 9 頁、第 39 頁

📝 3 題理解測驗

第 1 題（單選題） 關於 Self-consistency（自我一致性） 提示技術的運作原理與設定，下列何者描述最為正確？ (A) 它要求將 Temperature 設為 0，確保每次生成的推理過程完全相同。 (B) 它透過較高的 Temperature 生成多條不同的推理路徑，並以「多數決（Majority voting）」選出最穩定的答案。 (C) 它不需要進行多項推理，只會讓模型重新閱讀問題 3 次。 (D) 它的主要優勢是極大幅度地節省 Token 成本與回應時間。

第 2 題（單選題） ReAct（Reason & Act） 提示技術的核心機制是建立了哪一種循環（Loop）？ (A) Prompt → Output → Fine-tuning (B) System → Role → Context (C) Thought（思考） → Action（行動） → Observation（觀察） (D) Temperature → Top-K → Top-P

第 3 題（應用比較題） 請簡單說明 Chain of Thought (CoT) 與 Tree of Thoughts (ToT) 在「思考結構」上的最大差異是什麼？（請用一至兩句話對比說明）

測驗答案：（參考）
第1題：B。Self-consistency（自我一致性）是透過較高的 Temperature ，生成多條不同的推理路徑，並以「多數決（Majority voting）」選出最穩定的答案。
第2題：C 。ReAct（Reason & Act）就像「邊思考邊動手查資料的實習生」。AI 在解決複雜問題時，形成「思考（Thought）→ 行動（Action，如上網搜尋/呼叫工具）→ 觀察結果（Observation）」的循環，動態調整下一步，逐步完成任務。

第3題：

• Tree of Thoughts (ToT)思維樹是分支 (Branching) → 節點評估 (Evaluation) → 探索與剪枝 (Search/Backtracking)，完全是在模型內部的「多路徑思維探索」，不涉及對外部工具的 Action行動。它是具備分支與多路徑的探索能力的樹狀結構（Tree structure）。
• 然而，Chain of Thought (CoT)是要求AI必須透過「中間推理步驟（Intermediate reasoning steps）」的一步一步的線性思考過程，進而得到答案。
• 一句話區分三者：
  • CoT（思維鏈）：單條直線（一步一步算到底）
  • ToT（思維樹）：樹狀分支（邊想邊分叉、評估好壞、打叉剪枝）
  • ReAct（推理與行動）：對外動手（Thought 思考 → Action 呼叫工具 → Observation 觀察結果）

註1：
這「學習系列」的文章，是記錄自己與AI一起探索知識的過程，也是我將AI做為私人家教的一項實驗。對於如何藉由Ai輔助自我學習，請參考這篇：
https://blog.udn.com/tku_89056/192561353
https://goldenbird-willy.blogspot.com/2026/09/gemini-notebook-ai.html

學習教材：《Prompt Engineering》
本書探討了提示工程的核心概念、多種進階技巧、以及最佳實務（use cases）。內容涵蓋如何設定大型語言模型的輸出長度與取樣參數，並且介紹零樣本、少樣本、角色扮演、思維鏈、以及如何結合外部工具的推理與行動等實用策略。此外，本書也示範了如何利用人工智慧來編寫、解釋、翻譯和除錯程式碼。最後，本書提供了多項專業的建議，例如簡化提示設計、優先使用正面指令、利用如JSON的結構化格式、以及落實詳盡的版本記錄與迭代。
本書作者Lee Boonstra是一名人工智慧軟體工程師、技術主管和系統架構師，在谷歌全球首席技術官辦公室（OCTO）、應用創新工廠等擁有10年以上的資歷。
免費下載：https://www.kaggle.com/whitepaper-prompt-engineering

註2：思維樹的實例
Tree of Thoughts (ToT，思維樹) 的核心在於把思考過程變成像「樹狀圖」一樣：邊分枝、邊評估、邊決定要繼續往下推導還是退回重選。

以下提供一個極具代表性的實務企劃例子（公司新產品發表會策略），可以直觀感受 ToT 是如何運作的：

🌳 Tree of Thoughts (ToT) 實際範例：發表會企劃案

【目標問題】：預算只有 10 萬元，如何在 2 週內為一款 AI 新軟體舉辦一場高曝光度的發表會？

🔍 ToT 運作的 4 個關鍵步驟說明：

1. 第一步：產生多個思維分支（Branching）

   • LLM 不急著給最終企劃，而是先針對問題提出 3 個不同的第一階段思路（分支 A：實體會、分支 B：線上直播、分支 C：純發新聞稿）。

2. 第二步：節點評估（Thought Evaluation）

   • 對這 3 個思維節點進行可行性與條件評估：
     • 分支 A 評估後發現預算嚴重超標（淘汰/剪枝）。
     • 分支 C 評估後發現無法達成「高曝光」目標（淘汰/剪枝）。
     • 分支 B 符合預算與時間，獲得高分，繼續向下延伸。

3. 第三步：進階擴展與回溯（Lookahead & Backtracking）

   • 針對通過評估的分支 B，繼續往下分枝出細節執行方案（B1：找科技 Youtuber vs B2：找遊戲 KOL），並再次進行精準度與轉化率的評估。

4. 第四步：選擇最佳樹狀路徑（Optimal Path Selection）

   • 最終選出整體評分最高的推導路徑（B1），得出一個經過多方探索與過濾後的最優解。

💡 總結比較：

• CoT（思維鏈） 就像是：直接沿著「分支 B -> B1」一路想到底，沒想過其他可能性。
• ToT（思維樹） 則是：同時展開 A、B、C 三條路，發現 A、C 不對勁立刻打叉（剪枝），專注把 B 發展得更完美。