随着人工智能（AI）技术的蓬勃发展，深度伪造技术（Deepfake）的使用屡见不鲜。深度伪造是利用深度学习技术中的“对抗生成网络”模型形成的智能视频处理技术。换脸视频是该技术最为典型的应用，此外还包括语音模拟、人脸合成、视频生成等。正确认识该技术利弊，才能更好发挥其效用，促进医学发展。

明晰双刃剑性质

随着深度伪造的不断发展，数字假冒产品已经悄悄潜入关键行业，银行和金融成为目标，医疗保健也面临风险。

医疗保健立足于信任和信息的准确性，而深度伪造很容易扰乱这个生态系统，误导患者，削弱对医生的信任。例如，若一个知名医生或名人的深度伪造视频走红，可能促使数百上千名网络用户遵循错误医疗建议，影响患者决策，甚至危及生命。事实上，深度伪造技术捏造的名人代言未经证实的疗法正在消耗欧美公众的信任。

但需指出的是，深度伪造是把双刃剑。该技术可被用于合成医疗影像数据，如肺癌检测、视网膜疾病检测、阿尔茨海默病的分类等，从而有助于医生的医疗诊断，扩展训练数据集，提高机器学习模型的性能。此外，其还可用于创建虚拟医生助手、参与患者教育流程、规划和培训手术、早期疾病监测、增强远程医疗体验等方面。

因此，规范深度伪造在医疗中的应用至关重要，需进行技术、伦理和监管等多方面权衡考量。

落实多主体责任

处理医疗保健中的深度伪造问题，需多方主动作为。针对社交媒体平台，应改进检测技术，移除虚假音视频。越早识别深度伪造，其影响就越小。因此，社交媒体平台应确立相关政策，研究可以检测并自动删除可能误导用户的图像和视频的技术，识别医学图像、文本、音频和视频中的深度伪造内容。

这些审核用途模型可以首先通过社区反馈进行训练，然后自动标记恶意内容。此外，社交媒体平台还应与同行、AI供应商合作，使用其工具（如谷歌的SynthID），标记各自平台生成的内容。

面向患者的教育和宣传活动至关重要。医疗保健专业人员和公众必须了解何为深度伪造，并提高辨别意识。医疗保健专业人员还应遵守国际道德人工智能标准，形成国际共识。如此不仅有助于医务人员在内部使用AI，还可以推动全行业规范使用，并降低深度伪造滥用的风险。

最后，各国政府应主动介入，更新监管措施。政策制定者应按严格准则规范医疗内容，并对那些恶意使用深度伪造的人进行处罚。有效的监管可以保持医疗保健信息的完整性。例如美国在2019年先后发布了《深度伪造责任法案》《2019年“深度伪造”报告法案》《生成对抗性网络法案》；欧盟于2024年5月生效的《人工智能法案》规定使用深度伪造技术生成的内容必须明确标识，要求高风险AI系统在投入市场之前进行合规性评估等。

通过合作，医疗保健专业人员、技术开发人员、监管机构和公众可以保护医疗保健系统的完整性，确保患者的福祉。

此内容为《医药经济报》融媒体平台原创。未经《医药经济报》授权，不得以任何方式加以使用， 包括转载、摘编、复制或建立镜像。如需获得授权请事前主动联系：020-37886610或020-37886753；yyjjb@21cn.com。