医药经济报数字报
医药经济报医药经济报 > 正文

数智化中医应防御AI幻觉

发布时间:2025-04-07 11:52:02作者:本报记者 于成林来源:医药经济报

日前,国务院办公厅印发《关于提升中药质量促进中医药产业高质量发展的意见》,提出运用数智技术、绿色技术赋能全产业链等要求。从互联网到AI,中医药以博大精深的底蕴,凭借开放包容的生态优势奔赴时代浪潮。但在应用AI过程中,数据污染、AI幻觉、身份边界等风险问题也开始出现。

AI中医弄潮

譬如,阿里健康小鹿中医依托阿里云生态和阿里云百炼模型构建在线诊疗平台,推动中医诊疗的数字化升级。同仁堂近年来也积极布局AI中医医疗产业,开发了基于AI的中医智能问诊系统,利用AI图像识别和传感器技术研发了智能舌诊仪和脉诊仪。此外,中医服务连锁机构固生堂也在探索AI提升诊疗效率和服务质量,结合大数据和使用场景优势,构建了涵盖智能诊断、健康管理、远程医疗等多个领域的AI医疗生态系统。
AI这个新工具正在不断刷新老中医的行业认知。今年年初,向港交所递交招股书的问止中医,其优势之一就是“中医大脑”,通过AI实现中医医疗服务的支持。正在布局“AI+中医诊疗”的互联网科技巨头还有腾讯、百度等,微医、平安好医生等医疗科技公司也在利用AI优化服务系统并开发AI诊疗助手。

AI幻觉挑战

不可否认的是,新技术从出现到成熟的过程中,面临着大量的问题纠错与困难解决。中医AI需要投喂海量真实病例数据,还要面对基层病例质量参差不齐、恶意投喂“脏”数据污染AI等行为。
对此,讯飞医疗科技股份有限公司AI诊疗助理产品线总经理马文君表示:“数据来源要区分启动阶段和大规模训练、迭代阶段。中医讲传承、讲经验体系,所以启动阶段的数据一定是来自于三甲医院或者名老中医的、经过人工精标处理的高质量中医数据。随后在大规模训练、迭代阶段才加入基层数据。此外,还要对运行数据进行反向校验,筛出可以迭代的数据飞轮,源源不断地获取过滤后的高质量数据。我们要辨证地看“脏”数据的影响,既要规避应用过程中模型跑偏,也要利用机制去验证模型会不会被带偏。所以需要通过对抗性训练,刻意地在训练过程中改造高质量数据,或者输入污染数据对其进行强化学习。”
除此之外,AI还会出现幻觉,生成看似合理但实际错误的信息。“AI幻觉”的成因很多,包括基于统计关系的预测、训练数据的局限性、过拟合问题、生成流畅回答的设计等。应用AI必须慎重看待这个问题。
小鹿中医CEO陈志宇表示:“AI幻觉成因很多,而医疗诊断又是很严肃的学科和工作,在规避中医AI幻觉风险过程中,我们除了基于AI逻辑的风险控制,还在探索‘用魔法打败魔法’的解决思路,即混合架构。简单来说,就是制造两个AI模型,一个AI处方,一个AI审方。AI的出现给中医药行业带来了非常大的冲击,但必然不是替代中医,而是成为非常强大的效率工具。”
“AI的定义仍然是医生诊疗助手,如果AI继续发展,会替代医生的不是AI,而是会用AI的医生,会用AI并不代表依赖AI,依赖AI或者完全依靠AI的医生恰恰是不会用AI的。”马文君补充道。

此内容为《医药经济报》融媒体平台原创。未经《医药经济报》授权,不得以任何方式加以使用, 包括转载、摘编、复制或建立镜像。如需获得授权请事前主动联系:020-37886610或020-37886753;yyjjb@21cn.com。



医药经济报公众号

肿瘤学术号免疫时间

医药经济报头条号

分享到