當你遇到的問題比較複雜，例如數學算術、邏輯推導或創意企劃時，直接叫 AI 給答案，AI 很可能會犯錯、或給出太過平庸的答案。這時候我們需要幫它「開外掛」：

• Step-back Prompting（抽象性退後提示）：就像「先後退一步看大局」。面對一個具體問題時，不急著直接回答，而是先問 AI 一個「更廣泛、更具底層原理」的大問題，啟動它的背景知識庫，再拿這個大原理來解決原本的具體問題。
• Chain of Thought, CoT（思維鏈提示）：就像「要求把計算過程寫出來」。強迫 AI 不能直接報出最終答案，而是要像小學生算數學題一樣，把中間的每一步思考過程（Step-by-step）逐步列出來，一步步推導出正確答案。

🎯 核心重點

1. Step-back Prompting（抽象性退後）：
   • 原理：先引導模型思考與當前任務相關的「一般性原理 / 高階概念 / 大方向問題」，再將該普遍為人所接受的知識作為情境（Context），放入下一個提示中來解決特定問題。
   • 效益：啟動模型的背景知識與推理機制、提升準確度、鼓勵批判性思考，並透過一般化原則來減少偏差（Bias）。
2. Chain of Thought, CoT（思維鏈）：
   • 原理：透過產生「中間推理步驟（Intermediate reasoning steps）」，顯著提升 LLM 在數學、邏輯與複雜任務上的推理能力。
   • 類型：
     • Zero-shot CoT：直接在提示詞末尾加上關鍵字，例如 Lets think step by step（讓我們一步步思考）。
     • Few-shot CoT：在提示詞中提供包含「推理步驟」的示範範例，引導模型模仿該思考邏輯。
   • 優勢：低成本高回報、無需微調（Off-the-shelf）、具備可解釋性（Interpretability，能看清推導過程及除錯），且能提升模型跨版本遷移的堅固性（Robustness）。
   • 缺點與成本：會產生更多 Output Token，導致生成時間變長、運算成本增加。
3. CoT 的最佳實踐（Best Practices）：
   • 推理步驟必須放在最終答案之前：因為中間生成的推理 Token 會作為上文，直接影響模型對最終答案的預測。
   • Temperature 必須設為 0：邏輯推理與數學問題通常有唯一標準答案，使用貪婪解碼（Greedy decoding）設為 0 能確保答案的精確與穩定。（註：關於Temperature的概念，請見單元02 https://blog.udn.com/tku_89056/192572031）

💡 實際例子

• Step-back Prompting 範例（撰寫第一人稱射擊遊戲關卡劇情）：
  • 直接提示（一般提示）：直接叫 AI 寫一個極具挑戰性的射擊遊戲關卡劇情。結果往往流於平庸或過於隨機。
  • 退後一步（Step-back）：先問「熱門射擊遊戲中，有哪些能夠打造出挑戰性與吸引力的 key settings（關鍵場景/主題）？至少列出5個。」AI 列出了「海底研究設施、廢棄軍事基地」等主題。
  • 結合解答：再把這 5 個深層主題作為 Context，要求 AI 挑選一個撰寫劇情，產出的關卡故事便極具深度與吸引力。
• Chain of Thought (CoT) 範例（邏輯應用題）：
  • 未採用 CoT：

    提示：當我 3 歲時，我夥伴的年齡是我的 3 倍。現在我 20 歲，我夥伴幾歲？ 模型直接回答：63 歲（❌ 錯誤，直接心算混淆了乘法與年齡差）。

  • 採用 CoT（Zero-shot CoT）：

    提示：當我 3 歲時，我夥伴的年齡是我的 3 倍。現在我 20 歲，我夥伴幾歲？讓我們一步步思考。 模型輸出：

    1. 當我 3 歲時，夥伴是 3 * 3 = 9 歲。
    2. 這代表夥伴比我大 9 - 3 = 6 歲。
    3. 現在我 20 歲，所以夥伴是 20 + 6 = 26 歲。 答案是 26 歲（推導與最終答案均正確）。

❌ 常見錯誤

1. 將最終答案放在推理過程前面：如果讓 AI 先回答「答案是 26」，後面再補推導過程，就無法讓推理步驟影響最終答案 Token 的預測，失去 CoT 的意義。
2. 在做 CoT 推理時把 Temperature 設得太高：邏輯推理需要嚴謹度，如果 Temperature 設高會讓中間推導步驟出現隨機幻想或算術錯誤，教材明確建議 CoT 的 Temperature 應設為 0。
3. 忽略 Token 成本與延遲：CoT 會輸出大篇幅的中間推理，在即時性要求高或 Token 預算有限的系統中，需要衡量使用CoT 的成本。

📖 來源依據

本單元內容依據《Prompt Engineering》教材：

• Step-back Prompting 定義與關卡劇情範例：第 25–28 頁
• Chain of Thought (CoT) 定義與優缺點：第 29–30 頁
• Zero-shot 與 Single-shot CoT 數學範例：第 30–31 頁
• CoT Best Practices（推理在前、Temperature=0）：第 64 頁

📝 3 題理解測驗

第 1 題（單選題） 關於 Chain of Thought (CoT) 提示技術，下列哪一項敘述是正確的？ (A) CoT 要求模型將最終答案寫在最前面，然後再補上原因說明。 (B) CoT 的缺點是會產生更多 Output Token，導致回答時間變長且成本增加。 (C) 使用 CoT 處理邏輯推理問題時，Temperature 應該設定為 1.0 以增加思考創意。 (D) CoT 必須對模型進行微調（Fine-tuning）才能生效，無法直接用於現成的 LLM。

第 2 題（單選題） 當我們遇到一個極為複雜且缺乏方向的特定問題時，採用 Step-back Prompting（抽象性退後提示） 的主要操作方式是什麼？ (A) 直接把輸入長度 Limit 設定為最小，強迫模型退後簡化回答。 (B) 先向模型提出一個更廣泛、具備底層原理或高階概念的問題，再將其解答作為背景情境來解決具體問題。 (C) 叫模型重複讀取提示詞 3 次之後再開始回答。 (D) 把情境設定為「退後一步的歷史學家」角色。

第 3 題（應用簡答題） 假設你正在開發一個「自動幫使用者解微積分與邏輯應用題」的 AI 聊天機器人。 為了確保解題精準度，請依據本單元學到的最佳實踐（Best Practices），回答以下兩點：

1. 你會如何設定模型的 Temperature 參數？
2. 在 Prompt 中，你會要求模型先輸出「解題過程」還是「最終答案」？為什麼？

測驗答案：（參考）
第1題：B。CoT 會輸出大篇幅的中間推理，在即時性要求高或 Token 預算有限的系統中，需要衡量使用CoT 的成本。CoT 的核心代價（Trade-off）就是會輸出大量的中間推理 Token，這在需要即時回應（Low latency）或 Token 預算有限的系統中，是需要仔細權衡的工程成本。
第2題：B 。先引導模型思考與當前任務相關的「一般性原理 / 高階概念 / 大方向問題」，再將該普遍為人所接受的知識作為情境（Context），放入下一個提示中來解決特定問題。Step-back Prompting 的精髓就是「先抽象後具體」，透過提問底層原理，喚醒模型庫存的高階知識，再拿來解決具體問題。
第3題：

• 設定模型的 Temperature 參數是0。因為數學解題的邏輯推理需要嚴謹度，如果 Temperature 設定較高，會讓中間推導步驟出現隨機幻想或算術錯誤。邏輯推導需要極高的確定性與嚴謹度，設為 0 能避免中間步驟出現隨機漂移或幻覺。
• 在 Prompt 中，最好要求模型先輸出「解題過程」。因為使用思維鏈的提示，會讓LLM產生「中間推理步驟（Intermediate reasoning steps）」，顯著提升其在數學、邏輯與複雜任務上的推理能力。因為大語言模型是自迴歸（Autoregressive）運作的，它預測下一個 Token 完全依賴先前的文字；先讓模型印出中間的推理步驟，這些步驟就會變成下文的上下文（Context），從而極大地提升預測最後答案的正確率。

註：

這「學習系列」的文章，是記錄自己與AI一起探索知識的過程，也是我將AI做為私人家教的一項試驗。對於如何藉由Ai輔助自我學習，請參考這篇：
https://blog.udn.com/tku_89056/192561353
https://goldenbird-willy.blogspot.com/2026/09/gemini-notebook-ai.html

學習教材：《Prompt Engineering》
本書探討了提示工程的核心概念、多種進階技巧、以及最佳實務（use cases）。內容涵蓋如何設定大型語言模型的輸出長度與取樣參數，並且介紹零樣本、少樣本、角色扮演、思維鏈、以及如何結合外部工具的推理與行動等實用策略。此外，本書也示範了如何利用人工智慧來編寫、解釋、翻譯和除錯程式碼。最後，本書提供了多項專業的建議，例如簡化提示設計、優先使用正面指令、利用如JSON的結構化格式、以及落實詳盡的版本記錄與迭代。
本書作者Lee Boonstra是一名人工智慧軟體工程師、技術主管和系統架構師，在谷歌全球首席技術官辦公室（OCTO）、應用創新工廠等擁有10年以上的資歷。
免費下載：https://www.kaggle.com/whitepaper-prompt-engineering