某集团企业 · 大模型私有化知识库问答系统
需求
制度、工艺文件数万页分散各处,新老员工查找全靠问人;公有云 AI 存在数据泄露顾虑。
方案
开源大模型本地 GPU 服务器部署 + 企业文档 RAG 知识库,回答附引用来源,企业微信内直接提问。
成果
文档检索从平均 20 分钟降至秒级,常见制度类咨询 80% 由 AI 应答,数据全程不出内网。

客户为制造集团,制度、工艺、设备手册累计数万页,员工查找困难且涉密文件不能上公有云。项目采用开源大模型 + RAG 方案:

方案要点

  • 本地 GPU 服务器部署开源大模型,数据全程不出内网;
  • 文档向量化入库,新文件后台一键更新知识库;
  • 回答自动附引用来源(原文档 + 页码),可点开核对;
  • 与企业微信集成,员工在群内 @助手 即可提问。

上线后常见制度类咨询 80% 由 AI 直接应答,新员工入职培训成本明显下降。