如何負責任地在客戶服務中使用 AI

客戶服務 AI 應協助人們獲得正確且及時的支援，而不是令聯絡真正負責人員變得更困難。

重點摘要

• 優化正確解決問題及客戶信任，而不只是降低轉交真人的比例。
• 回答應建立在持續維護的政策來源上，並清楚顯示不確定性。
• 為客戶提供清晰路徑聯絡真正負責的人員。

選擇合適角色

先從 agent assist、搜尋、摘要或分流開始，再考慮允許自動化系統直接處理面向客戶的問題。

以已批准政策作為回答依據

使用有負責人及生效日期的持續維護來源；如政策缺失或互相衝突，應停止而不是自行補充。

設計人工升級處理

對低信心、敏感、脆弱人士、爭議及後果重大的個案應直接升級給人員處理，不要迫使客戶反覆經過自動化流程。

保護客戶資訊

把模型可取得的對話及帳戶資料降至最低，強制執行角色式存取，並防止一位客戶的資訊出現在另一段互動中。

把客戶自由文字輸入視為不受信任資料，並保護已連接工具免受 prompt injection 攻擊。

衡量服務品質與傷害

除了速度及解決率，亦應追蹤修正、重複聯絡、升級品質、投訴、脆弱客戶結果及政策錯誤。應在適當隱私控制下審查對話樣本。

行動檢查清單

1. 定義允許的支援範圍。
2. 準備有負責人、有日期且易於存取的政策來源。
3. 設計不確定性處理及人工升級流程。
4. 測試敏感、模糊及對抗性案例。
5. 監控客戶結果，並暫停不安全主題。

合理的下一步

先在一種低風險查詢類型上使用 agent assist，比較與目前流程之間的準確度、處理時間及修正工作量。之後可參考實用 AI 工作流程指南、比較已審查的 AI 工具，或使用 AI Finder 縮小下一步選擇。