AI 问诊是不是不合规?
结论:不能仅凭“AI 问诊”这个名称判断合规。健康知识检索、就诊前问卷、病史结构化和医生侧草稿辅助,与直接向患者作出诊断、调整用药或生成处方不是同一类产品。现行互联网诊疗规则明确人工智能软件不得冒用、替代医师本人提供诊疗服务,并禁止 AI 自动生成处方;因此患者侧 AI 必须限制医疗结论,真正诊疗由合资格医疗机构和医师完成。
产品名称写“健康助手”不能改变实际功能。如果用户输入症状后,系统给出具体疾病概率、用药剂量或“无需就医”的确定判断,它可能已超出一般科普;反过来,医生使用 AI 整理病史也不代表当然安全,医生仍需核对来源、错误和遗漏。还要判断软件是否具有医疗目的、是否可能按医疗器械管理,这应通过国家药监部门的分类规则和具体产品界定确认。
| 产品输出 | 主要使用者 | 核心风险 | 直接边界 |
|---|---|---|---|
| 经审核的健康知识检索 | 公众 | 过时、误读、把科普当诊断 | 标明来源、适用范围和就医提示,不个体化下诊断 |
| 就诊前症状与病史采集 | 患者和医务人员 | 漏掉急症、问题诱导、敏感数据过量 | 用于信息整理,设置急症转介,不宣称已完成诊断 |
| 病历或沟通草稿 | 医师 | 虚构事实、复制错误、责任混淆 | 医师查看原始资料并确认后才能进入正式记录 |
| 临床决策支持 | 医务人员 | 错误建议影响诊疗、自动化依赖 | 明确医疗用途、证据、验证和适用人群,判断器械监管 |
| 面向患者诊断或治疗建议 | 患者 | 延误治疗、误用药、资质和责任 | 只能在合规诊疗体系内由医师作出并负责 |
| 自动处方 | 患者或药房 | 无医师审查直接用药 | 互联网诊疗监管细则明确禁止 |
在落实合规责任、证据与技术控制时,还可以对照 AI外呼或自动打电话合规风险有哪些? 和 把需求和创意告诉你们,会不会被抄去做给别的客户?怎么保护我的想法?;这些内容补充了需要放在同一项决策中考虑的上下文。
先定义输出会改变什么医疗决定
立项材料要写清用户、输入、输出、使用场景、预期用途和失败后果。AI 是把十页病历归纳为待确认摘要,还是根据影像提示病变,还是直接让患者服药?输出是否进入病历、是否影响医师处方、是否提供给未成年人、是否覆盖急症?这些事实决定医师监督、医疗机构准入、软件验证和可能的医疗器械分类,不能用统一免责声明解决。
《互联网诊疗监管细则(试行)》适用于医疗机构开展互联网诊疗,要求医疗机构和医务人员接受监管,明确其他人员、人工智能软件不得冒用、替代医师本人提供诊疗服务;处方应由接诊医师本人开具,严禁使用 AI 自动生成处方。规则还要求不适宜互联网诊疗时终止并引导线下就医。因此系统要有明确转介条件,而不是让模型在所有问题上继续回答。
医疗评测不能只看语言流畅度
测试集由目标专科医师设计,覆盖常见问题、长尾疾病、矛盾信息、缺失信息、药物与过敏、孕产、儿童、老年和自伤急症。分别统计事实错误、危险遗漏、不当确定性、错误用药、未触发转介、引用不支持和隐私泄露;严重错误单独设上线红线,不能被总体准确率平均掉。医生对草稿的修改、拒绝和确认要记录,模型或知识库升级后回归。
急症流程使用确定性规则和人工通道兜底。胸痛、呼吸困难、意识改变、自杀风险等示例需由医疗专业方按业务和地区定义;命中后清晰提示紧急服务或线下就医,并避免 AI 继续给出可能延误的长篇判断。系统不应把模型置信度当临床概率,也不应展示未经验证的疾病百分比。
健康和诊疗数据通常高度敏感。只收完成当前服务所需内容,明确医疗机构、技术方和模型供应商角色;上传大模型前确认是否用于训练、保存位置、子处理方和删除机制。医生与运营权限分离,日志不记录不必要的完整病历,患者能访问、更正和按适用规则处理自己的信息。
滚水科技会先与医疗机构、临床负责人、律师和必要的药监专业方确认产品定位,再开发数据采集、知识检索、医生审核、转介、日志和评测工具。我们可以实现 AI 辅助,但不会以“仅供参考”掩盖实际诊疗输出,也不会把通用模型直接接给患者作为医生替代品。
参考资料:
- 互联网诊疗监管细则(试行)(国家卫生健康委):用于核对互联网诊疗主体、医师本人服务、处方、病历和质量安全要求。
- 国家药监局医疗器械分类办事指南:用于在医疗用途软件分类不明确时查询正式分类界定路径。
- 滚水科技企业级解决方案:用于了解滚水科技公开的 AI 与业务系统研发方向。