8月2日,一场看似只与“AI生成内容”有关的规则变化,正式进入医疗服务的前台。欧洲市场开始执行人工智能透明度要求:聊天机器人、智能代理和数字人不能再让用户误以为自己正在与真人交流;部分由AI生成或修改的内容需要带有可识别标记;使用情绪识别、生物特征分类等工具时,也要向相关人员作出说明。发布规则的欧盟委员会是欧洲统一市场主要行政与监管机构,其下设AI办公室,负责相关规则的监督协调。对医疗AI而言,这次变化并非一纸遥远的合规预告,而是已经开始执行的产品规则。
结论先说:这条新闻成立,而且已经落地。但它不等于“所有医疗AI高风险要求在8月2日全面生效”。真正立即影响行业的,是面向患者和公众的交互界面、内容生成与身份披露;诊断软件、医疗器械AI等更完整的高风险合规要求,仍有单独的实施时间表。这个时间差,恰恰给产品团队留下了一个窗口:先把透明度做成能力,而不是等它变成补丁。
AI医疗先面对透明度考试,患者必须知道对面是不是人 新规最直接的一刀,落在患者看得见、摸得着的入口上。在线问诊助手、用药随访机器人、预约与分诊代理、康复陪伴数字人,只要属于直接与个人互动的AI系统,原则上都需要明确告知用户正在与AI交流。过去,一些产品喜欢用拟人化头像、自然语音和连续记忆制造“真人感”,把身份披露藏在冗长协议或页面角落。现在,合规逻辑开始反过来:披露应当清楚、及时,不能依赖用户自己猜。 这项要求对医疗场景的价值,不只是避免误导。患者面对疾病、检查结果和治疗选择时,对信息来源的信任阈值远高于普通消费场景。一个系统到底是在提供行政协助、健康教育,还是已经接近临床建议,用户必须能够辨认。亮明AI身份,相当于给产品划出第一道责任边界,也让人工接管、升级转诊和风险提示更容易被理解。 第二个变化来自内容。生成式AI提供商需要让合成或修改后的文本、图像、音频和视频具备机器可读标记,以便来源能够被检测。对于面向公众的重要信息,如果文本没有经过人工审查和编辑负责,部署方还可能需要进行清晰披露。放到医疗领域,自动生成的疾病科普、公共健康说明、筛查宣传、患者教育材料都需要重新审视发布流程。并不是所有AI辅助写作都必须在显眼位置贴标签;经过人工审查、由明确主体承担编辑责任的文本存在例外。但“人工看过”不能只是一句口头声明,而要落到审稿记录、责任人和版本管理上。 医疗AI还有一个容易被忽略的交叉点:情绪识别与生物特征分类。若系统通过面部、声音、行为或生理信号推断情绪状态,或者进行特定生物特征分类,部署者需要告知相关人员。对于精神健康、疼痛评估、老年照护、远程监测和可穿戴设备,这意味着产品不能只强调“无感识别”,还要设计可理解的提示、同意与退出机制。越是无感,越需要有感的边界。 真正的机会不是贴标签,而是把信任做成产品基础设施 透明度要求看起来像是在界面上增加一句“本服务由AI提供”,但真正的工作远比一句提示复杂。一个成熟的医疗AI产品,需要知道何时披露、向谁披露、披露什么、如何证明已经披露,还要处理多语言、语音通话、弱视人群、老年用户和紧急场景。身份提示、内容标记、日志留存、人工接管、版本追踪与模型供应链,将逐渐从法务清单变成产品基础设施。 这也会改变行业的竞争方式。过去,医疗AI常把准确率、响应速度和部署数量放在最醒目的位置;接下来,能否解释系统身份、记录内容来源、追踪模型版本、证明人工审核、在风险上升时交还给专业人员,会成为采购和合作时更硬的指标。医院或健康平台购买的不只是一个“会回答问题”的模型,而是一套能够被管理、被审计、被追责的服务流程。 需要特别澄清的是,8月2日生效的透明度义务并不依赖医疗器械风险等级。官方医疗器械协调文件已经明确,相关透明度要求是否适用,不取决于产品在医疗器械法规中的分类。也就是说,即便某个健康助手尚未被认定为高风险医疗器械,只要它直接与用户互动、生成特定内容,或者使用规定范围内的识别工具,仍可能需要立即处理透明度问题。与此同时,集成于受监管产品中的高风险AI系统,完整要求已根据新的时间表延后至2028年8月。这不是监管放松,而是把“马上要做的透明度”与“随后到来的高风险体系”分开推进。 执法也已经具备现实压力。监管机构和AI办公室开始承担监督职责,企业违规罚款最高可达1500万欧元,或全球年营业额的3%,并对中小企业考虑比例原则。对于在2026年8月2日前已经进入市场的生成式AI系统,机器可读标记义务存在约4个月过渡期,延至12月;但交互式AI亮明身份等要求不应被误读为普遍延期。留给产品团队的时间,并没有看上去那么宽裕。 更值得期待的是,这套规则可能把医疗AI从“功能演示”推向“可信运营”。当身份、来源和责任能够被系统性记录,医疗机构才更容易把AI放进长期服务链条,患者也更可能在知道其局限的前提下持续使用。下一阶段的赢家,不一定是最像人的AI,而是最清楚地告诉用户自己不是人,同时又能在正确时刻把人请回来的AI。
免责声明:
智慧医疗网转载其他网站内容,出于传递更多信息而非盈利之目的,内容仅供参考。版权归原作者所有,若有侵权,请联系我们删除。
本平台所发布信息的内容和准确性由提供消息的原单位或组织独立承担完全责任!
凡来源注明智慧医疗网的内容为智慧医疗网原创,转载需获授权。