星河社区·星盾局
社区/AI 探索/本地跑 32B 模型当客服,一个月省
AI 探索✓ 已解决

本地跑 32B 模型当客服,一个月省下两个外包坐席

Kevin星阶 4楼主
#1 · 昨天发布 · 2.7k 次浏览 · 2 条回复

部署:双 4090 工作站 + vLLM,接工单系统。 真实数据(30 天): - 拦截率 61%; - 满意度 4.6/5; - 误答集中在退款政策这类长尾问题。 硬件一次性投入 ¥3.4w,按坐席成本 8 个月回本。误答问题的解决方案见正文第三段。

举报

讨论与回答 2

南山星阶 4·昨天举报#2

误答退款政策这块最后怎么解决的?我们也在踩这个坑。

Kevin星阶 4楼主·昨天举报#3

退款政策单独建了知识库 + 白名单兜底:命中不了就把工单转人工,不硬答。