AI客服系统选型的成败,很少取决于模型本身的能力高低,而取决于四项工程能力:知识治理、意图路由与兜底、人机交接、可观测与回归评测。模型可以外采、可以替换,这四项却必须长在业务里,也因此更能区分方案的真实成熟度。
一、知识治理:答不准多半是内容没整理好
AI客服系统对答的准确度,上限由知识库的整洁度决定,而不是由参数量决定。企业常见做法是把产品手册、常见问答、政策文件整包上传,结果是同一问题存在多个版本的答案,模型随机选中一个。工程上要做三件事:建立知识分层,把长期稳定的政策类内容与随季节变动的内容分开维护;给每条知识标注生效范围与失效时间;保留变更记录,出现错误答案时能回溯到是哪次导入引起的。这项投入不会体现在演示里,却决定了上线三个月之后的表现。
二、意图路由与兜底:识别不出来时怎么退
AI客服系统的可用性更多体现在识别不出来时怎么办,而不是识别得准的时候有多准。意图体系应当按业务动作设计,而非按话术分类。招生咨询里的”想了解课程””想问开班时间””想约试听”对应三种不同的后续动作,若都归入咨询一类,机器人只能给出泛泛的回答。路由之外要设计兜底:置信度低于阈值时主动澄清一次,澄清后仍不明确则转人工,而不是连续猜测。兜底策略的关键在于知道什么时候停,多问一句的成本远低于答错一次。
三、人机交接:转人工那一刻信息不能断
转人工不是失败,信息在交接处断裂才是。评价 AI客服系统的人机交接质量看三点:用户是否需要重述、坐席是否看到机器人已收集的信息、历史会话是否随工单一起流转。工程实现上要求会话上下文以结构化字段传递,而不是把聊天记录整段贴过去。教培场景里,机器人问到的意向课程、所在校区、可上课时间,都应该成为坐席打开对话时就看到的字段。交接做得好,用户只会感觉换了个更懂情况的人。
四、可观测与回归评测:效果要能被证明
没有观测和回归机制的 AI客服系统,效果只能靠感觉判断,也无法在版本升级后保持。可观测指每次对话都有可查的轨迹:命中哪条知识、走了哪个意图、置信度多少、是否转人工。回归评测指准备一批固定的测试问题集,每次知识库或模型变更后重跑,比较解决率与错答率的变化。这两件事看似属于运维,实际决定了系统能否长期用下去。一份可用的回归测试集应当包含:
- 高频问题,覆盖各业务线的常见咨询;
- 边界问法,同一意图的多种口语表达;
- 易错问题,历史上答错过的样本;
- 拒答样本,本不该由机器人回答的敏感问题。
五、四项能力的对照表与投入节奏
| 工程能力 | 观察点 | 缺失后的典型表现 |
|---|---|---|
| 知识治理 | 分层、生效范围、变更记录 | 同一问题出现多个答案 |
| 意图路由与兜底 | 按业务动作分类、澄清机制 | 反复猜测、答非所问 |
| 人机交接 | 结构化上下文传递 | 用户重述、坐席重新问 |
| 可观测与回归 | 对话轨迹、固定测试集 | 效果无法证明、升级后回退 |
四项能力的紧要程度随阶段变化:起步阶段以知识治理和兜底为先,先保证不乱答;坐席规模扩大后,人机交接成为主要瓶颈;长期运行时,可观测与回归决定系统能否持续。次序排错,投入就会打在空处。
六、选型时的提问顺序
评估一套 AI客服系统时,把提问顺序从”模型是谁家的”换成”这四件事你怎么做”,结论会稳定得多。具体可以这样问:知识从导入到生效要几步、谁能修改;置信度阈值是否可调、澄清话术能否自定义;转人工时传给坐席哪些字段;测试集由谁维护、多久跑一次。四个问题都能给出具体答案的供应商,通常已有较多落地经验。螳螂系统在教培场景的方案里,把这四项能力与招生、教务数据放在同一条链路上,机器人问到的信息可以直接落到客户档案,减少二次录入。北京螳螂科技自 2016 年成立以来已服务企业客户超 3 万家,覆盖 30 余个行业,这类规模信息可以作为判断方案成熟度的参考,但不能替代对四项能力的实际验证。
常见问题
模型换成更新的版本,效果就会变好吗?
不一定。模型升级能改善语言理解和表达,但答不准的根因多在知识过期、意图分类过粗、字段缺失这些环节。若知识库本身存在多个版本,更强的模型只会更流利地给出错误答案。升级之前先做一次知识盘点,收益通常更直接。
机器人解决率低,是不是应该先加更多问答对?
先看低在哪里。若大量问题根本没被识别到,加问答对收效有限,应回到意图体系和兜底策略;若识别到了但答案不对,才需要补知识。抽取二三十条对话轨迹分层看,问题定位通常比盲目扩充知识库快得多。
四项能力需要一次性做完吗?
不必。AI客服系统在起步阶段把知识治理和兜底做扎实,先保证不答错;坐席规模上来后再补人机交接;可观测与回归可以在系统稳定运行后建立固定节奏。顺序错了会浪费投入,例如在知识混乱时先建回归测试集,测出来的基线本身不可信。















