人工智能，医疗保健领域的天使还是恶魔？科学自动化sectiontitle

在世界各地的医疗保健系统中，人工智能（AI）或许存在质疑者

但我们不能忽视那些能缓解基础设施所面临的与日俱增的压力的技术，这些基础设施正艰难运转

AI的前景

但这并非仅仅关乎自动化行政任务。

人工智能在医疗保健领域如何偏离正轨

对于这个问题，答案不止一个。但需要考虑的一个关键因素是一些最流行的人工智能工具所出现的误差幅度，特别是像GPT-4这样的黑箱大型语言模型（LLM）。

它们的推出引发了极大的轰动。

开发人员迅速利用可免费获取的大量数据，精通技术的医生也同样迅速地利用其看似无穷的见解。

虽然人工智能在自动化繁重任务方面的好处显而易见，但行事谨慎很重要。

不可避免的是，其中一些工具正在向均值回归。

这就如同晚宴上喝醉了的叔叔。虽然他可能自信地说话，似乎知道自己在说什么，但过了一会儿就会出现破绽，你会意识到他说的大部分都是废话。下次他再来的时候，你还会相信他说的话吗？当然不会。

大型语言模型的优劣取决于其接受的训练数据——而问题源于许多模型所使用的大量公开可用的互联网数据。在医疗保健领域，这会带来潜在风险。人工智能工具可能会根据可靠的研究提供临床建议，但也可能会根据随意博客中的可疑建议提供临床建议。这些不一致的情况致使医疗保健专业人员对人工智能持谨慎态度，担心不准确的信息可能会对患者护理产生负面影响，并导致严重后果。

此外，围绕医疗保健人工智能的监管环境一直不健全，特别是在美国，其框架直到最近才开始赶上欧洲标准。这就形成了一个缺口，使得一些供应商能够绕过法规，从第三方获取信息，并在出现数据质量和责任问题时推卸责任。

倘若没有强有力的监管框架，医疗保健专业人员很难相信人工智能工具能够遵循最高的数据完整性和患者安全标准。

我们如何解决

直言不讳地说，重建对医疗保健人工智能信任的方法更偏向于“平淡无奇”，这种说法可能有些激进。医疗保健专业人员接受的培训是依靠研究、证据和经过验证的方法，而不是魔法。为了获得他们的信任，人工智能需要透明、经过彻底测试并以科学为基础。

我们还需要明确规定，所有医疗保健人工智能工具只能基于可靠的医疗保健数据进行训练，而不是未经过滤的大量互联网内容。与任何领域一样，为程序提供特定行业的数据只会有利于提高记录、处理和生成建议的信息的准确性和质量。这些改进不仅对患者安全至关重要，还将提供见解，有助于提高未来检测疾病和个性化治疗计划以改善患者结果的能力。

一个坚实的监管框架将有助于支持提高数据质量的努力，市场终于开始意识到其重要性。对于希望投资于人工智能数据处理工具的医疗保健组织来说，供应商遵守诸如ISAE3000、SOC2Type2和C5等监管标准应是不容商榷的，这体现了对数据完整性的尊重和承诺。

我们不能自满。要成为最具创新性的，也就意味着要成为最负责任的。随着人工智能的不断发展，我们的社会将需要积极参与监管，以跟上步伐，并防范生成式人工智能技术的潜在过度扩张。

如果我们能把这一切都做好，恢复对医疗保健领域人工智能的信任所带来的好处是巨大的。

最终，通过解决人工智能中的信任差距，我们可以释放其潜力来改变医疗保健，使其更高效、更有效、更以患者为中心。