数据显示，医疗事故诉讼在美国非常普遍，每年约有17000起医疗诉讼，并产生约40亿美元的赔付款项。

当医生陷入医疗事故诉讼时，仍需进行日常工作。这便要求医生与法律顾问、医疗保险公司等多方协同取证以证明自己已履行职责的同时，仍准确诊疗其他患者。如此繁杂的多线程工作无疑是巨大挑战，为此有业内人士提出，可应用生成式人工智能（AI）减少医疗事故诉讼发生率。

“增强智能”辅助

具体来看，约31%的医疗事故源自延迟诊断/未能正确诊断；约29%的医疗事故源自治疗方案导致不良并发症；约26%的医疗事故源自治疗过程中患者病情恶化；约16%源自延误治疗/未能充分治疗；约13%源自非正常死亡。其他原因还包括用药错误、记录不当、缺乏适当的知情同意等。如何降低医疗事故诉讼发生率成为业内思考的关键问题之一。

生成式AI具有感知能力，基于复杂算法运作。该算法已根据互联网文本进行数据训练，能对人类措辞和自然语言进行数学模仿。研究显示，目前ChatGPT等生成式AI能够以大约60%的准确率通过美国医疗执照考试（USMLE）笔试。在医疗领域，以ChatGPT为代表的生成式AI存在感逐渐增强，这也引发一些医生对人工智能取代自身职业的担忧，许多医生困惑于如何谨慎明智地使用生成式AI。

或许美国医学会（AMA）对其的定义可为定位该工具提供参考。AMA认为，此类型的人工智能应被成为“增强智能”（augmented intelligence），重点关注AI的辅助作用，而非取代人类智能。

人工智能专家Lance B.Eliot试图通过说明生成式AI在医疗领域应用的利弊，使公众及医疗行业从业者对生成式AI有更具体客观的认知。

减少事故发生

在Eliot看来，生成式AI一大特点是提供面向交互式对话的体验，有高度交互感。他建议医生可考虑五种使用思路：

1.医学头脑风暴 使用生成式AI提出医学创新想法启发医生。

2.辅助文书工作 生成医疗内容，用于填写表格或准备所需医疗文件。

3.审查医疗场景 对医学文献、临床案例、治疗方案等与医疗健康有关的问题进行评估，提供更全面的分析，帮助医疗专业人员和政策制定者做出更明智决策。

4.总结医疗信息 提炼总结要点密集或冗长的医学信息（文献、临床指南和报告、政策法规、教育材料等）。

5.医疗术语转化 利用生成式AI将医学术语转化为简单易懂的通俗语言，加强医生与患者及家属的沟通。

不仅如此，理想状态下，生成式AI还可通过提升诊断速度、发出不良并发症可能性预警、识别治疗恶化情况等，帮助医生降低医疗事故诉讼发生率。

六大安全隐患

但实际情况真的有这么理想吗？Eliot并不这样认为。其指出，生成式AI最大缺点之一便是可能会产生错误、谎言、偏见，甚至在所谓的“人工智能幻觉”（AI hallucinations）中胡乱编造。而生成式AI高交互性的特点，会使得使用者不自觉地对该工具加强信任，认为生成式AI的表现与人类医疗顾问相当，逐渐对其产生依赖。但一旦其出现错误，很可能对医生诊断造成较大影响。

在Eliot看来，医生使用生成式AI可能存在包括但不限于以下的陷阱和潜在问题：

1.存在错误、偏见、谎言和人工智能幻觉 可能会误导或混淆正在生成的任何医疗内容。医生在匆忙或过度劳累心态下可能无法充分仔细检查生成式AI发出的医疗指示，并可能对其产生过度依赖。

2.数据缺乏针对性 通用生成式AI通常是在互联网上进行数据训练，而不是针对医疗内容的具体情况，可能存在误差或不具备医学合理性。

3.信息相对滞后 以免费版ChatGPT为例，其训练数据截至2021年9月，无法提供可用的最新内容。

4.缺乏理解力 生成式AI呈现的内容只是现有医学文献的数学和计算模式匹配，没有感知能力和常识等。需指出的是，其进行分析时引用的文献可能来自非权威文献，但因未提供文献来源，医生可能就此产生错误判断。事实上，生成式AI并不适合医疗诊断和决策具体情况。

5.信息安全隐患 医生将患者相关信息输入生成式AI可能会侵犯隐私，违反相关法律。不仅如此，将患者相关信息输入生成式AI可能会很繁琐，并成为医生另一个耗时的文书工作。

6.法律灰色地带 使用生成式AI进行医疗决策违反了一些AI制造商的软件许可规定，并使医生和医疗提供者处于脆弱的法律地位。同时也可能引发新型医疗事故诉讼。

因此，Eliot指出，医疗领域中生成式AI的使用是“双刃剑”，医生需要意识到他们不能也不应该盲目遵守生成人工智能发出的任何信息。生成式AI可被视为现代医学实践的风险管理关键组成部分，需谨慎对待。

（原文标题：Generative AI Is Stoking Medical Malpractice Concerns For Medical Doctors In These Unexpected Ways, Says AI Ethics And AI Law，来源：Forbes）

此内容为《医药经济报》融媒体平台原创。未经《医药经济报》授权，不得以任何方式加以使用， 包括转载、摘编、复制或建立镜像。如需获得授权请事前主动联系：020-37886610或020-37886753；yyjjb@21cn.com。