RAG(Retrieval-Augmented Generation)解決的是「AI不知道」的知識問題,讓AI先查資料再回答;Temperature則是控制「AI怎麼說」的生成隨機性參數,跟AI知不知道無關。這是 iPAS AI應用規劃師考試中很容易搞混的兩個生成式AI概念,這篇用漫畫圖解+電商情境例子(含官方考題解析),帶你 3 分鐘分清楚判斷關鍵。
RAG vs Temperature
一個解決「AI 不知道」,一個控制「AI 怎麼說」!
🎬 第一幕:電商老闆遇到兩種問題
這是知識問題 → 想到 RAG!
這是生成隨機性問題 → 想到 Temperature!
RAG:「我幫你找正確資料。」
Temperature:「我控制回答有多敢變化。」
🧠 先背這一句就不會搞混
🔎 RAG
「AI 不知道 → 先去找資料,再回答。」
RAG(Retrieval-Augmented Generation)把外部或企業內部知識檢索結果放進模型上下文,協助生成答案。
知識補充文件查詢最新資料🌡️ Temperature
「AI 知道了 → 控制它回答得保守還是發散。」
Temperature 是生成模型的採樣控制參數之一;一般而言,較低的 temperature 讓輸出更集中、較高則增加隨機性與多樣性。
隨機性多樣性生成風格🔎 第二幕:RAG 是「AI 的資料室」
📚 什麼時候用 RAG?
當問題的答案「不在模型原本的知識裡」或需要依據特定文件時。
- 公司內部 SOP
- 最新產品規格
- BERS 手冊
- 最新法規/政策
- 企業自己的資料庫
🎭 漫畫:AI 去圖書館
AI:先從知識庫找相關文件 → 把找到的內容放進上下文 → 再回答。
🌡️ 第三幕:Temperature 是「AI 的創意旋鈕」
同一個 Prompt,不同 Temperature
「請幫我寫一段咖啡商品描述。」
🌡️ 低 Temperature:比較穩定、保守、用詞較一致
🌡️ 中 Temperature:穩定中帶一些變化
🌡️ 高 Temperature:比較有變化、創意與不可預測性
🛒 第四幕:回到你的考題——為什麼答案是 C?
A. 擴充語料庫並微調模型,使風格統一
B. 增加提示詞複雜度,引導模型風格一致
C. 降低生成溫度,以減少隨機性並提升風格一致性
D. 使用全連接神經網路對生成結果後期篩選
題目有兩個超重要線索:
① 「風格與用詞保持一致」 → 要降低輸出的隨機性
② 「不需要新增專業知識」 → 不需要 RAG,也不需要先擴充知識庫
所以最直接的方法就是:降低 Temperature。
🥊 第五幕:RAG、Temperature、Prompt 到底怎麼選?
| 你遇到的問題 | 最先想到 | 為什麼 |
|---|---|---|
| 「AI 不知道公司最新 SOP」 | 🔎 RAG | 需要把外部/內部知識找進上下文 |
| 「AI 不知道最新產品規格」 | 🔎 RAG | 需要最新、指定資料來源 |
| 「AI 常常亂編內部文件內容」 | 🔎 RAG+良好檢索/引用設計 | 先提供可靠的相關資料,再要求依據資料回答 |
| 「商品描述每次風格差很多」 | 🌡️ 降低 Temperature | 降低生成隨機性,讓輸出更穩定 |
| 「希望文案更有創意、更有變化」 | 🌡️ 提高 Temperature(視模型支援) | 增加生成多樣性 |
| 「要求 AI 扮演品牌文案專家」 | 🎭 Role Prompting | 用提示詞指定角色與任務情境 |
| 「希望固定輸出 JSON」 | 📦 Structured Output | 控制輸出格式 |
🏢 第六幕:套進你熟悉的能源管理
📚 情境 A:查 BERS 手冊
「請根據公司提供的 BERS 文件回答 AHU 的定義。」
👉 需要指定文件內容 → RAG
📝 情境 B:寫節能建議
「同一種格式,產生 100 棟大樓的改善建議。」
👉 要求穩定、一致 → 可考慮較低 Temperature+清楚 Prompt
🔎 情境 C:最新電價
「根據最新台電電價資料分析這棟大樓。」
👉 最新外部資料 → RAG/檢索
🎨 情境 D:產生節能宣傳文案
「同一主題產生 10 種有創意的標題。」
👉 想要多樣性 → 可考慮較高 Temperature
🧠 iPAS 考前超強口訣
🌡️ Temperature=「AI 知道了,控制怎麼講」
看到「最新資料、外部文件、企業知識庫」→ RAG
看到「隨機性、多樣性、創意、穩定一致」→ Temperature
⭐ 最重要:
RAG 是「知識問題」;Temperature 是「生成隨機性問題」。
🎯 iPAS 模擬題
Q1:公司希望 AI 回答問題時參考最新的內部規章,應優先考慮?
Q2:電商希望同一批商品描述的語氣與用詞更穩定,不需要增加新知識,應優先考慮?
Q3:想讓 AI 一次產生 20 個完全不同、富有創意的廣告標題,哪個參數方向比較合理?
📌 考前最後一張小抄
| 題目關鍵字 | 答案 |
|---|---|
| 最新資料/公司內部文件/知識庫 | 🔎 RAG |
| 需要外部知識補充 | 🔎 RAG |
| 降低隨機性 | 🌡️ 降低 Temperature |
| 提高多樣性/創意 | 🌡️ 提高 Temperature |
| 風格一致+不需要新增知識 | 🌡️ 降低 Temperature(本題 C) |
| 固定品牌語氣 | 🎭 Prompt/Few-shot+適當 Temperature |
⭐ 最終口訣:
「RAG 管資料,Temperature 管隨機。」
常見問題 FAQ
RAG是什麼?
RAG(Retrieval-Augmented Generation)是先從外部或企業內部知識庫檢索相關文件,再把檢索到的內容放進模型的上下文,協助AI根據這些資料生成答案。適合「AI不知道最新資料、需要依據特定文件回答」的情境。
Temperature是什麼?
Temperature是生成模型的採樣控制參數之一,用來控制輸出的隨機性與多樣性。較低的Temperature讓輸出更集中、穩定;較高的Temperature則增加隨機性與創意變化。它跟AI「知不知道」答案無關,只影響AI「怎麼表達」。
RAG和Temperature要怎麼快速分辨?
記住一句話:「RAG管資料,Temperature管隨機。」看到「最新資料、外部文件、企業知識庫、AI不知道」就是RAG;看到「隨機性、多樣性、創意、風格一致、穩定」就是Temperature。
為什麼「希望風格一致但不需要新增知識」的題目答案是降低Temperature,而不是RAG?
因為RAG解決的是「知識從哪裡來」的問題,而這類題目強調「不需要新增專業知識」,代表AI已經知道答案,只是希望輸出的風格更穩定一致——這正是Temperature(生成隨機性控制)的作用範圍,跟知識補充無關。
iPAS AI應用規劃師考試會怎麼考RAG和Temperature?
常見題型會描述一個情境,同時給出「是否需要新知識」和「是否需要控制輸出穩定性/多樣性」兩個線索。看到「AI不知道、需要最新資料、企業知識庫」選RAG;看到「風格穩定或更有創意、不需要新增知識」選調整Temperature。
想進一步掌握生成式AI的提示工程與應用規劃,可以搭配 CoT和ToT差在哪裡?Prompt Engineering技巧總整理、生成式AI有哪些應用?常見工具整理 與 鑑別式AI和生成式AI差在哪裡? 一起複習,建立完整的AI應用規劃師知識體系,為 iPAS AI應用規劃師初級考試做好準備。

