临床影像学人工智能项目的顺利启用需要四个要素：1）数据存取和数据安全：构建一个数据安全的环境，保护患者信息完整且脱敏；2）跨模态：在一个位点实现对电子病历（EMR）、医学影像、基因组学和生理监测数据的存取；3）临床交付：通过临床决策支持平台，将新发现引入临床护理实践；以及4）数据科学：为临床研究人员提供数据科学的培训和工具，以便更好地利用这些数据。随着人工智能应用日趋复杂化，需要构建一个完善的基础设施来保障算法的实施。基础设施需要纳入临床数据，并应与AI解决方案相结合（图1）。
图1.临床启用人工智能的要素
人工智能监管和管理架构
影像学人工智能监管组织的职责是定义目标、优先级、策略和范围；建立运作框架，并与组织使命、价值观、愿景和战略联系起来。人工智能监管架构制定相应机制，决定应该在本地部署哪些人工智能工具/解决方案，以及如何最佳分配机构和/或部门资源，以支持在临床启用最有价值和最具影响力的人工智能工具，从而改善患者临床获益。监管组织应建立流程来对基于人工智能的解决方案进行客观评分和评估。
本文为人工智能在临床中的启用所需的基础设施构建出一个框架，并提出管理路线图，路线图回答了4个关键问题:1）谁来决定、使用哪些人工智能算法？2）评估启用人工智能算法时应考虑哪些因素？3）在临床实践中应如何使用人工智能？4）临床使用后应如何对人工智能模型进行长期监测和维护？执行这4步路线图，可以监督临床人工智能的启用（图2）。
图2.人工智能监管路线图
人工智能管理流程
当用户确定临床需求，可以选定一款能够解决该需求的人工智能解决方案，并向监管组织申请使用。监管组织应根据一套标准流程对该需求进行评估，评估包括以下几个维度：本地性能指标和易用性、疗效的证据基础、技术准备情况、患者安全价值、临床护理质量或成本效率，以及具体的临床价值。每个评估维度都设定从0~15或0~30的具体的评分标准，根据最后得分来决定是否通过这项申请（图3）。
图3.模拟评分规则
举例而言，下表分别列出了2种算法——骨龄评估算法和新冠肺炎死亡率预测算法依据上述规则获得的评分。算法1在性能和易用性、科学证据等方面得分很高，得以在临床应用，而算法2未能通过评估。除能保证应用人工智能的各项指标符合临床标准之外，这种评估管理流程还有一个好处：随着人工智能应用数量的增长，评估管理将为临床机构提供“记忆”，以免临床在重复申请其他人工智能工具解决类似临床问题。
表1.2种人工智能算法模拟评分
临床应用AI算法的建议
一旦算法被监管组织批准，相应对接人应与供应商或内部开发人员合作进行鲁棒性和集成测试，理想情况下分别进行分阶段的“影子”和试点部署（图4）。在“影子”部署模式中，临床数据被实时提供给算法，收集结果以评估算法的性能和安全性，但生成的结果不会提供给临床用户，对临床决策没有影响。在这个阶段，算法将在临床使用前进行测试和完善。在试点部署中，选定的临床用户先在部分临床实践中对模型进行测试，并在全面临床部署前进行反馈。分阶段部署后，对预先选择的指标进行审核，以确定是否要全面使用AI算法，或仍需进一步评估、或审核不通过。每款AI工具的初始部署模式都会根据风险和环境而有所不同。在没有临床医生输入的情况下选择病历报告的分类算法可能需要进行大量的影子测试。如果有良好的回顾性性能验证数据，需要人工审核批准其输出的测量算法可以在试点模式中使用。以提高效率为主要功能的AI算法通常可以在模拟环境中进行测试，以评估其对临床工作流程的影响。
图4.人工智能在临床实践中的启用和集成模式
人工智能的长期监测和维护
小结：考虑要点和未来方向
随着更多的人工智能算法被考虑用于临床，制定适用于每款人工智能工具生命周期的标准策略就极有必要。建立一套支持各种场景的工具，将使得人工智能在临床的应用效率更高、协作衔接更流畅。监管组织应建立风险分层流程，并确定启用和监测的适宜途径。本文提出的监管流程可能需要机构层面的财务和资源投资，但这项投资对于确保人工智能在临床中的高质量和安全应用至关重要。
从成立之初，放射学始终引领技术革命。重大变革会带来挑战，但转变对这个学科并不陌生，我们总能适应。人工智能的出现标志着放射学历史上又一个分水岭时刻。得当的监管和管理架构将使放射学科能够适应并拥抱这一变化，即使成熟的人工智能工具可能需要数年才能常规进入临床实践。人工智能临床启用需要一定的基础设施和投资，而且迫在眉睫的变化将带来许多挑战，尤其是不确定性和恐惧，但这种转变终将利于放射学的发展，并为我们带来引领人工智能促进医学实践的机会。
参考文献
DaniaDaye,WalterFWiggins,MatthewPLungrenetal.ImplementationofClinicalArtificialIntelligenceinRadiology:WhoDecidesandHowRadiology.2022Aug2;212151.doi:10.1148/radiol.212151.Onlineaheadofprint.
EuropeanSocietyofRadiology(ESR).Currentpracticalexperiencewithartificialintelligenceinclinicalradiology:asurveyoftheEuropeanSocietyofRadiology.InsightsImaging.2022Jun21;13(1):107.doi:10.1186/s13244-022-01247-y.
作者简介
刘雨奇
阅影科技
CCI心血管医生创新俱乐部
本期策划：沈雳
责任编辑：陈宝麟
本文作者：刘雨奇
后期制作：汪蕊
不感兴趣
看过了
取消
人点赞
人收藏
打赏
我有话说
0/500
同步到新浪微博
您的申请提交成功
您已认证成功，可享专属会员优惠，买1年送3个月！开通会员，资料、课程、直播、报告等海量内容免费看！