如何在客户服务中负责任地使用 AI

客户服务 AI 应帮助人们获得正确、及时的支持，而不是让客户更难找到真正能够承担责任的人。

关键要点

• 应以正确解决问题及客户信任为优化目标，而不只是减少人工处理。
• 回答应基于持续维护的政策来源，并清楚显示不确定性。
• 为客户提供清晰的路径，以便联系能够承担责任的人员。

选择合适的角色

应先从客服人员辅助、搜索、总结或路由开始，再考虑允许 AI 自主完成面向客户的问题解决。

让回答基于获批政策

使用有明确负责人及生效日期的持续维护来源。当政策缺失或相互冲突时，应停止处理，而不是自行编造答案。

设计人工升级机制

对于低信心、敏感、涉及脆弱客户、有争议或后果重大的情况，应升级至人工处理，不要迫使客户反复经过自动化流程。

保护客户信息

尽量减少模型可访问的对话及账户数据，执行基于角色的访问控制，并防止某位客户的信息出现在另一位客户的互动中。

将客户自由输入的文本视为不可信内容，并保护已连接工具免受 prompt injection 影响。

衡量服务质量及潜在伤害

除了速度及解决率，还应追踪修正情况、重复联系、升级质量、投诉、脆弱客户结果及政策错误。在适当的隐私控制下审查对话样本。

行动检查清单

1. 定义允许的支持范围。
2. 准备有明确负责人、有日期且可访问的政策来源。
3. 设计不确定性表达及人工升级机制。
4. 测试敏感、模糊及对抗性情况。
5. 监控客户结果，并暂停处理不安全的主题。

合理的下一步

先针对一种低风险咨询类型使用客服人员辅助模式，并将准确性、处理时间及修正工作量与当前流程进行比较。接下来可查看实用 AI 配方、比较已评审的 AI 工具，或使用 AI Finder 缩小下一步决策范围。