企业 AI 智能助手怎么做？

结论：企业 AI 助手先选一个高频、有可靠资料、错答可控的岗位场景，做成“答案有引用、权限不越界、答不准会转人工”的只读助手。评测稳定后再连接 ERP、CRM 等工具；不要第一期就做覆盖全公司的全能 Agent。

企业 AI 助手失败，通常不是模型不会说话，而是资料过期、岗位权限混乱、问题范围无限扩大，或者系统没有把错答和用户反馈沉淀下来。正确顺序是先明确谁在什么入口，用哪些资料完成哪类任务，再决定模型、知识库和接口。

三种建设范围直接对比

范围	典型能力	上线难度	主要风险	直接建议
企业搜索 / FAQ	找制度、手册和固定答案	低	关键词搜不到同义表达，答案仍靠人整理	资料少且问题固定时足够
RAG 知识助手	理解问题、检索资料、带引用回答	中	过期资料、召回错误、无依据生成	企业首期推荐范围
可执行 Agent	查订单、建工单、发通知、修改系统数据	高	越权、误操作、重复执行和外部输入攻击	只给已验证任务逐项开放工具

先选一个值得做的场景

候选场景可以按四个问题筛选：每月有多少重复咨询；是否存在权威资料或确定数据源；错答后果能否通过引用、拒答和人工复核控制；节省的检索或处理时间能否测量。内部 IT 报修指引、产品手册查询、售后知识检索通常比合同自动审批、财务决策更适合首期。

把成功标准写成任务指标。例如“售后工程师能在 30 秒内找到对应型号的有效排障步骤，回答必须显示文件版本和页码”；不能只写“建设智能知识库”或“回答准确率达到 90%”。还要明确不做范围，如不替代安全负责人判断、不自动修改订单、不回答无权访问的项目资料。

知识、权限和回答链路

资料入库前要标注文档所有者、版本、生效日期、失效日期、产品线和可访问角色。切分时保留章节和表格上下文，检索结果必须经过权限过滤；权限不能只写在提示词里。生成答案时要求引用具体片段，找不到依据、资料冲突或问题超出范围就拒答或转人工。

用户入口可放在 Web 工作台、企业微信、钉钉或飞书，但登录身份应映射到企业账号。管理员需要看到资料同步状态、命中来源、用户反馈、模型与提示词版本、成本和异常日志。人工修正不能直接覆盖历史记录，应经过内容负责人确认并形成新版本。

从只读助手升级到业务助手

首期通过后，可以逐个增加只读工具，如查库存、查订单状态、查设备告警。写操作要单独评审：为工具设置字段白名单、最小权限、幂等键、额度限制、二次确认和撤销路径。模型返回的参数必须经过程序验证，外部文档与网页中的文字不能改变系统权限或绕过审批。

评测集应包含高频问题、同义问法、缺资料、过期资料、冲突资料、越权请求和提示词注入。分别统计任务正确率、有效引用率、引用定位准确率、应拒答问题的拒答率、越权次数、P95 延迟、人工接管率和每个成功任务成本。上线后按岗位看真实使用和节省时间，不能用演示问题的通过率代替生产效果。

滚水科技在 BMS 电池管理 和 AI 智能招聘系统 等项目中积累了知识、设备数据与业务流程结合的经验。实际实施会先做一个部门、一个资料域的评测基线，再交付资料后台、问答入口、权限、引用、反馈和监控；是否扩大范围由试点数据决定。

参考依据

• Retrieval-Augmented Generation 原始论文：说明以外部检索结果辅助生成的技术来源；论文数据不等同于企业知识库效果。
• NIST Generative AI Profile：用于核对生成式 AI 的可靠性、隐私、信息完整性和人工监督风险。
• OWASP GenAI LLM Top 10 2026：用于检查提示词注入、敏感信息泄露、过度授权和不安全输出处理。

企业 AI 助手的结论必须由本企业资料和固定评测集验证；外部框架只能帮助识别风险，不能替代验收。