為甚麼 AI 會產生幻覺，以及如何管理

生成式系統產生的是合理延續內容，而不是保證正確的事實。因此，流暢語言可能令缺乏支持的輸出看起來比實際更可靠。

重點摘要

• 看似合理的語言並不能證明背後存在事實檢索流程。
• 資訊缺失、罕見或需要最新資料時，產生無支持輸出的風險會增加。
• 來源、不確定性及獨立驗證必須納入工作流程。

識別高風險條件

當要求涉及罕見事實、最新資訊、精確引文、無法取得的私人背景，或在缺少證據時仍要求答案，風險會上升。

調整指示與證據

提供已批准來源、允許系統明確表示資訊缺失，並要求把聲明、假設及引用分開列出。

在模型之外驗證

開啟原始來源、重新計算重要數字，並由合資格審查人員處理後果重大的內容。

不要用信心水平證明準確性

模型自行報告的信心分數，也可能在缺乏可靠依據下被生成。應優先採用審查人員可檢查的證據，以及使用已知答案進行測試。

應提供明確的「資訊不足」及升級處理結果，而不是強迫系統一定完成答案。

按後果衡量失敗

追蹤無支持聲明、錯誤引用、忽略不確定性及修正工作量。對可能影響權利、金錢、安全或公眾信任的錯誤給予更高權重。

行動檢查清單

1. 識別每項重要事實聲明。
2. 要求使用已批准來源，否則標示證據缺失。
3. 開啟引用並查核上下文。
4. 獨立重新計算重要數字。
5. 把後果重大的輸出交由合資格人士審查。

合理的下一步

選取一份近期的 AI 輔助文件，建立聲明記錄表，列出來源、驗證狀態及審查人員。之後可參考實用 AI 工作流程指南、比較已審查的 AI 工具，或使用 AI Finder 縮小下一步選擇。