CoT和ToT差在哪裡?Prompt Engineering技巧總整理

Chain-of-Thought(CoT)是讓AI一步一步進行連續推理;Tree of Thoughts(ToT)則是讓AI同時探索多條推理路徑,再比較選擇最佳解。這兩個是 iPAS AI應用規劃師考試中已經實際考過的 Prompt Engineering(提示工程)概念。這篇一次整理 Zero-shot、Few-shot、Role Prompting、CoT、ToT、Graph、RAG、ReAct、Self-Consistency、Structured Output 等必背技巧,用漫畫圖解+能源管理情境例子,帶你快速掌握每種技巧的判斷關鍵字。

iPAS AI 初級・漫畫式圖解教材

Prompt Engineering 提示工程大全

從「好好問 AI」一路進化到 CoT、ToT、Graph、RAG、ReAct!

🎬 第一幕:AI 為什麼有時候很聰明,有時候很笨?

① 小白問法
「幫我分析一下。」
🤖

AI:???
「你到底要我做什麼?」

② 好的 Prompt
角色+背景+任務+格式+限制
📝

AI:收到!
「這題我懂了。」

③ 進階 Prompt
「如果問題很複雜,
換個推理策略!」
🧠

CoT/ToT/Graph/ReAct/RAG

⭐ 先講結論:iPAS 最值得背哪些?

依目前 iPAS AI 應用規劃師初級的評鑑架構,生成式 AI 應用與「如何善用生成式 AI 工具」屬於初級範圍;而公開的歷屆試題已直接考過 Chain-of-Thought(CoT)與 Tree of Thoughts(ToT) 的情境判斷。

優先度提示技術考試要記什麼
🔥 必背Zero-shot / Few-shot零範例 vs 給範例讓 AI 模仿
🔥 必背Role Prompting指定 AI 扮演角色
🔥 必背Chain-of-Thought(CoT)把複雜問題拆成連續推理步驟
🔥 必背Tree of Thoughts(ToT)同時探索多條推理路徑,再比較選擇
🔥 必背RAG先找外部資料,再生成答案
⭐ 很值得懂ReAct推理+行動/工具使用交替
⭐ 很值得懂Prompt Chaining大任務拆成多個 Prompt 串接
⭐ 很值得懂Self-Consistency產生多條推理,再用一致性選答案
⭐ 很值得懂Graph / Graph Prompting用節點與關係表示複雜資訊/推理結構
➕ 補充Structured Output要求 AI 輸出固定格式,例如 JSON、表格

🎭 第二幕:Prompt 工法角色大集合

🎯 ① Zero-shot

「不給範例,直接下指令。」

請將以下客服留言分類為:抱怨/詢問/稱讚。

👉 適合:任務簡單、模型已知道怎麼做。

🎯 ② Few-shot

「先示範幾題,再叫 AI 照著做。」

例:
「很爛」→ 抱怨
「請問價格?」→ 詢問

現在分類:「服務很好」→ ?

👉 重點:提供範例建立輸出模式。

🎭 ③ Role Prompting

「先告訴 AI 你要它當誰。」

你是一位資深建築能效工程師。
請分析這棟大樓的空調節能機會。

👉 關鍵:角色、專業背景、任務情境。

🧱 ④ Prompt Chaining

「一個大任務,拆成很多小任務。」

📄
擷取
🧹
整理
📊
分析
📝
報告

👉 比「一次叫 AI 做完所有事」更容易控制流程。

🧠 第三幕:CoT vs ToT vs Graph——最容易混淆的三兄弟

🔗 Chain-of-Thought(CoT)

「一條路,一步一步走。」

問題 → 步驟1 → 步驟2 → 步驟3 → 答案

適合:需要連續、多步驟推理的問題。

🎯 記憶:Chain = 一條鏈。

🌳 Tree of Thoughts(ToT)

「不要只走一條路,開很多條路比較!」

問題
↙ ↓ ↘
路徑A 路徑B 路徑C
↘ ↓ ↙
比較 → 最佳路徑

適合:有多種可能方案,需要探索與比較

🎯 記憶:Tree = 很多分支。

🕸️ Graph / Graph Prompting

「不是只有一條鏈,而是看整張關係網。」

[空調] ──影響──> [耗電]
 │       │
 └─關聯─> [使用型態]
        │
        └→ [EUI]

適合:資訊有多個節點、關係、相互連結的問題。

🎯 記憶:Graph = 關係網。

🥊 三者一秒比較

CoT:➡️ 一條路

ToT:🌳 多條路

Graph:🕸️ 整張關係網

⚠️ 「Graph Prompting」不是與 CoT、ToT 完全相同的單一標準術語;考試若出現,先看題幹是否強調「節點、關係、網路結構」。

🔎 第四幕:RAG——AI 不知道,就先去「查資料」

① 直接問 AI
🤖❓

「你知道公司最新規章嗎?」

② RAG 出場
🔎📚

先搜尋/擷取相關文件

③ 再回答
📚 ➜ 🤖 ➜ 💬

把檢索到的內容當上下文再生成答案

🎯 記憶:RAG = Retrieval → Augmented → Generation,先「找」,再「答」。

🤖 第五幕:ReAct——AI 不只想,還會「做事」

🧠
Reason
思考下一步
🛠️
Act
使用工具
👀
Observe
取得結果
🔁
再循環
直到完成

例如:AI 想查「某大樓今日用電」→ 呼叫資料庫工具 → 讀取結果 → 再分析 → 回答。

🎯 記憶:ReAct = Reason + Act

🔄 第六幕:Self-Consistency——「不要只問一次」

同一個複雜問題,讓模型產生多條推理路徑:

🧠
路徑 A
答案 42
🧠
路徑 B
答案 42
🧠
路徑 C
答案 41
🏆
一致性
42 勝出

🎯 核心:不是只相信一條推理,而是比較多個推理結果,選擇較一致的答案。

📦 第七幕:Structured Output——「不要只回答,照我的格式回答」

❌ 普通問法

請分析這棟大樓。

AI 可能寫成一大篇文字。

✅ 結構化 Prompt

請輸出 JSON:
{
「問題」:…,
「原因」:…,
「改善方案」:…
}

👉 適合:系統串接、資料處理、自動化。

🏢 第八幕:全部套進「能源管理 AI」

情境適合的 Prompt 技術為什麼?
請 AI 直接分類電費單Zero-shot任務明確,不一定需要示範
先給 AI 5 張正確電費單範例Few-shot讓 AI 模仿範例
要求 AI 扮演 BERS 專家Role Prompting加入角色與專業情境
分析大樓能效,要求逐步處理CoT連續多步驟問題
提出 5 種節能方案並比較ToT多條方案路徑探索
分析空調、EUI、使用型態的關聯Graph / Graph Prompting強調節點與關係
查詢公司內部 BERS 文件再回答RAG先檢索外部/內部知識
查資料庫、計算、再做判斷ReAct推理與工具行動交替
同題產生多次答案後比一致性Self-Consistency比較多條推理結果
輸出可直接給系統讀取的 JSONStructured Output固定輸出格式
OCR → 清理 → 分析 → 報告Prompt Chaining把複雜流程拆開串接

🧠 iPAS 考前超級口訣

🎯 Zero=沒範例 Few=有範例 Role=演角色
🔗 CoT=一條路 🌳 ToT=多條路 🕸️ Graph=關係網
🔎 RAG=先找資料 🤖 ReAct=思考+行動
🔄 Self-Consistency=多次推理比一致 📦 Structured Output=固定格式

如果考題問「哪一種最適合?」不要死背名稱,要看題目的情境

🎯 iPAS 模擬題

Q1:某問題需要模型進行連續的多步驟推理,最適合哪一種?

Chain-of-Thought(CoT):一條推理鏈。

Q2:某決策問題有多個可能方案,需要探索不同路徑並比較結果,最適合哪一種?

Tree of Thoughts(ToT):多條分支路徑。

Q3:企業希望 AI 先查詢內部文件,再根據文件內容回答問題,最適合哪一種?

RAG:先 Retrieval,再 Generation。

Q4:AI 必須查資料庫、使用計算工具,再根據觀察結果決定下一步,最適合哪一種?

ReAct:Reason + Act。

Q5:使用者希望 AI 將結果固定輸出成 JSON,方便後端程式直接讀取,最適合哪一種?

Structured Output
📌 特別提醒:目前公開的 114 年第 4 次 iPAS 初級公告試題第 39 題,已直接以情境考 CoT 與 ToT 的選擇,因此這兩個概念屬於準備初級考試時非常值得優先掌握的提示工程內容。

📌 最後一張「考場看到關鍵字就反射」表

看到題目腦中立刻跳出
「不提供範例」🎯 Zero-shot
「提供幾個範例」🎯 Few-shot
「扮演專家/角色」🎭 Role Prompting
「一步一步推理」🔗 CoT
「多條路徑、探索、比較」🌳 ToT
「節點、關係、網路」🕸️ Graph / Graph Prompting
「先搜尋文件/知識庫再回答」🔎 RAG
「推理+呼叫工具+觀察」🤖 ReAct
「多次推理、選一致答案」🔄 Self-Consistency
「固定 JSON/表格格式」📦 Structured Output
「大任務拆成多個 Prompt」⛓️ Prompt Chaining

⭐ 最終口訣:
「一條鏈 CoT、多條路 ToT、關係網 Graph;
先找資料 RAG、邊想邊做 ReAct。」

常見問題 FAQ

Chain-of-Thought(CoT)是什麼?

CoT是一種提示技巧,讓AI針對複雜問題進行連續、多步驟的推理,一步一步把思考過程展開,而不是直接跳到答案。適合需要邏輯推導的問題。記憶關鍵字:Chain=一條鏈。

Tree of Thoughts(ToT)是什麼?

ToT是讓AI同時探索多條不同的推理路徑,再比較各條路徑的結果,選出最佳方案,而不是只走一條路。適合有多種可能方案、需要探索與比較的問題。記憶關鍵字:Tree=多條分支。

RAG是什麼?

RAG(Retrieval-Augmented Generation)是先檢索外部或內部的相關文件資料,再把檢索到的內容當作上下文,讓AI根據這些資料生成答案。適合AI本身不知道、需要查詢最新或內部資料的情境。記憶關鍵字:先找,再答。

ReAct是什麼?跟CoT、ToT有什麼不同?

ReAct(Reason + Act)是讓AI在「思考」與「使用工具、採取行動」之間交替進行,例如查資料庫、呼叫API,再根據觀察結果決定下一步。CoT和ToT著重於「推理路徑」本身,ReAct則強調推理與實際行動的交替循環。

iPAS AI應用規劃師考試會怎麼考Prompt Engineering?

常見題型會描述一個情境,要求判斷該情境最適合哪一種提示技巧。目前公開試題已直接以情境考過CoT與ToT的判斷,因此建議優先掌握Zero-shot、Few-shot、Role Prompting、CoT、ToT、RAG這幾個「必背」技巧的關鍵字對應。

想進一步掌握生成式AI的應用與規劃,可以搭配 生成式AI有哪些應用?常見工具整理鑑別式AI和生成式AI差在哪裡?企業導入生成式AI要注意什麼?評估與風險管理整理 一起複習,建立完整的AI應用規劃師知識體系,為 iPAS AI應用規劃師初級考試做好準備。

Related Post

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *