為甚麼 AI 會產生幻覺，以及如何管理

生成式系統產生的是看似合理的延續內容，而不是有保證的事實。因此，流暢的語言可能令缺乏依據的輸出看起來比實際更可靠。

重點摘要

• 看似合理的語言並不能證明背後曾進行事實檢索。
• 資料缺失、冷門或需要最新資訊時，產生缺乏依據輸出的風險會增加。
• 來源、不確定性及獨立核實必須納入工作流程。

識別高風險情況

當要求涉及冷門事實、最新資訊、精確引文、無法取得的私人背景資料，或在缺乏證據的情況下仍要求提供答案時，風險會上升。

調整指示及證據

提供已批准的來源、允許系統表明資料不足，並要求將陳述、假設及引用分開列出。

在模型以外進行核實

開啟原始來源、重新計算重要數字，並讓具適當資格的審核人員檢視具有重大後果的內容。

不要以信心程度證明準確性

模型自行提供的信心評分，同樣可能在缺乏可靠依據下生成。應優先使用審核人員可以直接檢查的證據，以及以已知答案進行測試。

應設定明確的「資料不足」及升級處理結果，而不是強迫系統完成答案。

按後果衡量失敗

追蹤缺乏依據的陳述、錯誤引用、未有表明的不確定性及修正工作量。對可能影響權利、金錢、安全或公眾信任的錯誤給予更高權重。

行動檢查清單

1. 識別每項重要的事實陳述。
2. 要求使用已批准來源，或清楚標示缺乏證據。
3. 開啟引用來源並核實上下文。
4. 獨立重新計算重要數字。
5. 將具有重大後果的輸出交由具適當資格的人員審核。

合理的下一步

選取一份近期使用 AI 輔助製作的文件，建立一份陳述核實記錄，列明來源、驗證狀態及審核人員。您可以繼續參考 實用 AI 配方、比較 經評審的 AI 工具，或使用 AI Finder 收窄下一步選擇。