如何在客户服务中负责任地使用 AI

客户服务 AI 应帮助人们获得正确、及时的支持，而不是让他们更难找到能够负责处理问题的人。

要点

• 不要只追求减少人工介入，而应以正确解决问题和客户信任为目标。
• 回答应以持续维护的政策为依据，并清楚显示不确定性。
• 为客户提供清晰的渠道，让他们能够联系到负责人员。

选择合适的角色

先从客服人员辅助、搜索、摘要或分流开始，再考虑让 AI 自主完成面向客户的问题处理。

让回答以获批政策为依据

使用有负责人和生效日期且持续维护的资料；当政策缺失或互相冲突时，应停止处理，而不是临场编造。

设计人工升级机制

对低置信度、敏感、涉及弱势客户、有争议或后果重大的情况升级给人工处理，不要迫使客户反复经过自动化流程。

保护客户信息

尽量减少模型可访问的对话和账户数据，执行基于角色的访问控制，并防止某位客户的信息出现在另一位客户的互动中。

将客户输入的自由文本视为不可信内容，并保护已连接的工具免受提示注入攻击。

衡量服务质量与潜在伤害

除速度和解决率外，还应跟踪更正、重复联系、升级质量、投诉、弱势客户结果和政策错误。应在适当的隐私控制下抽查对话样本。

行动清单

1. 定义允许的支持范围。
2. 准备有明确负责人、注明日期且可访问的政策资料。
3. 设计不确定性处理和人工升级机制。
4. 测试敏感、含糊和对抗性情形。
5. 监测客户结果，并暂停不安全主题的自动化处理。

合理的下一步

先在一种低风险咨询类型上使用客服人员辅助功能，并与现有流程比较准确率、处理时间和更正工作量。接着可查看实用 AI 配方，比较已评测的 AI 工具，或使用 AI Finder 来缩小下一项决策的范围。