- 需求
- 制度、工艺文件数万页分散各处,新老员工查找全靠问人;公有云 AI 存在数据泄露顾虑。
- 方案
- 开源大模型本地 GPU 服务器部署 + 企业文档 RAG 知识库,回答附引用来源,企业微信内直接提问。
- 成果
- 文档检索从平均 20 分钟降至秒级,常见制度类咨询 80% 由 AI 应答,数据全程不出内网。
客户为制造集团,制度、工艺、设备手册累计数万页,员工查找困难且涉密文件不能上公有云。项目采用开源大模型 + RAG 方案:
方案要点
- 本地 GPU 服务器部署开源大模型,数据全程不出内网;
- 文档向量化入库,新文件后台一键更新知识库;
- 回答自动附引用来源(原文档 + 页码),可点开核对;
- 与企业微信集成,员工在群内 @助手 即可提问。
上线后常见制度类咨询 80% 由 AI 直接应答,新员工入职培训成本明显下降。