先說結論：別讓 AI 幻覺毀了你的客服形象
很多企業在把 AI 接到 Line 官方帳號後，第一時間就看到回覆速度提升，但如果沒做好資料控管，錯誤資訊會像野草一樣快速蔓延，最終讓客戶失去信任，甚至直接流失。
使用前先了解：AI 幻覺到底是什麼
所謂「AI 幻覺」指的是模型在缺乏正確來源時，會自行編造看似合理卻錯誤的答案。常見的觸發點包括資料來源不完整、Prompt 指令不夠明確、沒有限制回答範圍等。尤其在 Line@ 自動回覆裡，若沒有事先建立產品 FAQ，AI 很容易說出錯誤價格或虛構優惠。
雙模型驗證：Gemini + ChatGPT 的實務做法
目前許多企業會同時串接 Gemini 與 ChatGPT，讓兩個模型互相驗證。Gemini 主要負責即時語意判讀，先確認客戶的問題意圖；再交給 ChatGPT 產出符合品牌口吻的回覆。這樣的流程能大幅降低單一模型過度推測的機會，同時支援多輪上下文記憶，讓客服對話更自然。
避免幻覺的設定技巧
從資料庫到 Prompt，都需要明確限制。具體做法包括：
1. 建立固定的 FAQ 知識庫，並在 Prompt 中加入「只能引用此資料」的指令。
2. 設定「超出範圍自動轉真人客服」的機制，避免 AI 隨意猜測。
3. 定期更新產品資訊與敏感詞過濾規則，確保 AI 的參考資料永遠是最新。
4. 採用雙模型驗證時，讓 Gemini 先回傳意圖程式碼，只有在意圖明確時才讓 ChatGPT 產出回覆。
FAQ
Q: 為什麼只用單一模型會容易出現幻覺？
A: 單一模型在缺乏限制時會自行推測答案，缺少交叉驗證的機制，錯誤資訊更難被即時捕捉。
Q: 如何設定「超出範圍自動轉真人」？
A: 在 Prompt 中加入條件判斷，若 AI 無法在知識庫內找到匹配答案，就回傳預設程式碼，系統再將對話切給真人客服。
延伸閱讀
