医疗人工智能前沿研究：特征、趋势以及规制
由于医疗行为本身为社会所必需，人工智能（artificialintelligence,AI）作为引领世界科技前沿的战略性技术，将AI嵌入医疗领域，以AI技术创新驱动、AI高质量供给引领和创造医疗新需求，医疗AI将不断呈现创新发展及高速增长的态势，有利于从更高层次、更广范围保护患者的生命健康安全。进一步说，人体本身就是一座大数据库，AI要补足最后一里路，医疗AI已经推动了数字化健康革命，促使医学领域产生了巨大的改变。AI的介入使得深度学习、智能机器人、大数据等在医疗领域的应用成为可能，也使得精准医疗与AI深度整合，连接医患双方、医疗器械等医疗行动主体和介质，以技术创新为依托，结合制度转型，促进医疗AI创新研发。
新冠疫情的防控，更是彰显了医疗AI诞生的初衷：帮助医生从重复性劳动解救出来，促进解决优质医疗资源稀缺的问题。但是，医疗行为本身具有高度的复杂性、不确定性和风险性。据此，科技风险与医疗需求将推动AI规制的政策伦理在本体、价值、运行和实施等方面创新变革，尤其亟需在医疗大数据的规范、智能机器人的调适、算法伦理的治理以及准入机制的完善四个方面打好制度基础，形成一个向外AI临床运用、向内数据反馈与底层AI反向驱动的圈层式创新联盟。
1医疗AI创新发展的现状特征
1.1深度学习是医疗AI技术创新的基础领域
1.2智能机器人是医疗AI创新应用的重要形式
1.3医疗大数据是医疗AI创新发展的关键要素
随着医疗数据库的不断壮大，医疗AI也逐渐从早期的“数据整合”阶段过渡到“数据共享+感知智能”阶段[6]。例如，IBM的Watson系统允许将患者与临床试验者的数据进行匹配，协助肿瘤科医生制定个性化治疗方案。医疗AI可以依据医疗数据对患者进行病况预测，包括并发症的发生率、致死率、回诊率等，以促进医疗资源公平分配。例如，谷歌于2008年便针对棘手的流感展开了建模趋势研究，基于内部搜索引擎中用户的浏览数据量化预测流感的发展轨迹[7]。目前已经进入认知智能+健康大数据阶段，极大创新了医疗服务提供方式，患者和公众可以更多参与并突破时空限制，例如，借由穿戴装置掌握病况和搜集数据，以获得健身建议与疾病警告。AI诊疗方式的精准化，促使医疗AI体系进行科学布局，为医疗体系协同创新构建奠定信息化基础。但是，高度不透明的数字化医疗设备却逐渐使得数据安全成为疑虑[8]，长此以往无疑会降低公众对医疗AI的信任，对AI的创新研发极为不利。值得注意的是，就连医疗影像本身都有机会对患者进行再识别，如使用大脑影像将脸部构造进行重组后，便可以成功地再识别患者。
2医疗AI的发展方向与风险识别
基于医疗AI创新发展的现状特征，对于医疗AI的趋势研判应当在整体观察的基础上辩证分析：一方面，医疗AI的技术创新正处于强力突破阶段并持续不断进行中，对医疗生态圈或者诊疗模式会产生颠覆性影响，未来会快速成长、变动性高、可能将于几年内到达极峰等趋势。另一方面，鉴于医疗AI的自主性、应急性与不确定性，其自身发展的各类风险尤其是伦理问题已经日益凸显，再加上现行的法律法规以及规则指南已无法涵盖涉及医学AI研究所提出的伦理和法律要求。因此，对于医疗AI的风险识别也是趋势研判的关键环节。
2.1关于医疗AI创新的发展方向
2.1.1建构深度学习的全新模式
2.1.2创新人机协同的诊疗体系
2.1.3依托“认知智能+健康大数据”助力精准医疗
目前，医学数据的碎片化、数据利用的低效性及不连贯性等问题阻碍了医疗数据的开发与应用。未来在医疗AI的应用基础上，依托认知“智能+健康大数据”的模式，精准医疗和AI真正实现了交集整合、相生相进、系统生发。具体来说，医疗AI可以对医疗数据进行综合提取与交叉分析，通过高效计算和精准匹配使得个性化健康管理成为可能。由于个人肯定会受整个群体及地域的影响，现在更要将精准医疗自然延伸到公共卫生领域，整合基础研究与临床实践，打造以数据为基础的医疗模式，聚焦人体基因、环境因素与复杂疾病的相互关联，准确计算危险因子以及致病概率，对传统医疗领域进行了颠覆性地创新改造，见图1[13]。此次新冠病毒传播路径复杂，疫情防控多次出现技术瓶颈。也正因为如此，新药研发面临研发周期长、研发成功率低和研发费用高三大痛点问题。凭借算法和算力优势，医疗AI不仅可以压缩新药测试周期，降低防控成本[14]，还可以通过深度学习等方法对疫情发展进行精准预测，以实现加速研究、设计及制造新药物、预测药物脱靶效应及毒性等。
2.2关于医疗AI发展的风险识别
2.2.1医疗AI的数据伦理问题
2.2.2医疗AI的责任伦理问题
2.2.3医疗AI的算法伦理问题
2.2.4医疗AI的法律监管问题
目前，医疗AI应属最高等级的“物”，属于医疗器械。但是，传统监管方式已经明显滞后，显然不能因应医疗AI的创新发展，其主要表现在以下几个方面：（1）传统的监管方式要求大多数医疗AI执行严格的、耗时的资料审查、临床试验等过程。但是，医疗大数据可能会随时更新，再加上审查时长过长，这些都将会在一定程度上扼杀医疗创新。（2）传统的监管方式还容易导致过度监管或监管不足双重疑虑。过度监管包含将所有黑箱属性的医疗AI全部归类为风险最高的第三级医疗器械，这无疑在一定程度上扼杀医疗创新。监管不足的问题则是当监管单位未经严格监督时，制造商有更多的空间来生产低质量的AI产品，这些AI产品供应可能导致消费者受损并降低消费者对AI的信任度。（3）2018年新修订的《创新医疗器械特别审批程序》明确规定了对创新医疗器械实行优先审评程序。由于我国之前便存在审批队伍能力差异较大且基层审批人员专业性缺乏的困境，该条文的出台必然会导致医疗AI申报增多，加重了审批队伍人员的工作负担[20]。
3医疗AI创新发展的优化路径
3.1构建开放安全的健康医疗信息环境
3.1.1建构数据开放的诱因机制
3.1.2多维协同保护医疗大数据
3.2调适智能机器人的责任伦理
3.2.1尽快构建明确的伦理规范和归责制度
基于智能机器人的自身特点，一方面，智能机器人的拟人性。尤其是在强AI状态下，智能机器人已经完全具备了因应不同医疗情景的“思考力”和“决策力”；另一方面，所有智能机器人演算的基础资料、演算方法、价值判断都是由人类预设立场提供的[25]。事实上，医疗AI在本质上并没有摆脱其作为一种技术的本质属性，它的自主性实质上最终转换为技术自主性问题。对技术伦理问题的讨论归根到底是对人的问题的探讨，机器只能被设计成遵守规则，却不能理解规则，应站在“人”的立场上对现实存在的责任伦理进行理性审度[26]。在规制智能机器人所衍生的风险责任时，既要塑造优质的创新环境，又要防止严苛标准对积极性的负面打击。考虑到医疗AI在不断地学习和进化，严格的产品责任显然不利于技术的创新和发展。因此，应遵循最小化原则和程序化原则，制造缺陷与设计缺陷应统一适用无过错责任原则。同时，现阶段的医疗AI产品责任应当适当软化，以合理替代设计原则代替消费者合理期待原则。此外，为覆盖强制责任保险无法控制的侵权风险，还应当组建补偿医疗基金进行管理与执行赔偿，并以此作为强制责任险的补充。
3.2.2全面提高医生的医疗水准和道德标准
3.3构建协同管控的算法伦理风险防范路径
3.3.1建立健全伦理审查委员会以嵌入价值导向
伦理审查委员会的职能在于制定医疗AI的伦理标准并对伦理问题进行专门审查，将医学伦理学原则和法律准则嵌入到算法中，发挥AI专家、医学专家、伦理专家、法律专家的协同作用，并在尊重民族文化差异、宗教信仰不同的基础上探讨和建构一个多层次多角度的伦理风险应对系统。具体而言，伦理审查内容主要包括两个方面：一方面，对研发人员进行伦理审察。审查研发人员的道德伦理也成为防范AI道德伦理风险中至关重要的前置环节。算法决策程序渗透着研发者的道德素养，因此，规范伦理教育、增进算法设计者和开发者的伦理自觉，并在自主和智能系统的设计和开发中优先考虑伦理问题[29]。另一方面，对医疗AI本身进行伦理审查。尤其是在强AI时代，AI的自主选择甚或超出研发人员的预制，对医疗AI本身的道德伦理约束就显得尤为必要。在审查过程中以患者的需求为出发点，运用伦理规范捍卫个体尊严，充分尊重患者的各项权利和意愿。尤其是，缺乏伦理上可接受的代价产生时必须坚守某些特定、绝对的基本权利，如尊重患者、服务社会的伦理意识应贯彻始终，患者利益至上的安全原则不容撼动。
3.3.2创新监管模式以保证算法决策科学可信
3.4完善AI在医疗领域的准入管理
3.4.1制定注册技术指导原则并科学调整监管范围
3.4.2创新注册审批队伍建设的支持机制和培训体系
我国应当尽快完善注册审批队伍建设机制，增加监管机构的资金投入。在物理设施上，加大对医疗AI有关的大型科研设施和图书馆的建设，为科学研究提供基础研发设施。在信息化设施上，拓展更新医疗AI信息数据库，开放共享的医疗技术创新平台。具体而言，第一，完善AI领域医疗平台模式。推动创新系统、专家体系、用户群体在AI平台中实现多元互动，以开放式协作模式建立“每个人都使用的AI判读系统”，鼓励公众理解和参与医疗AI研究。第二，加大人才引进力度。建立医疗AI审批人才精准引进机制，通过产学研医生态环境整合的诱因机制，加快科研成果转化行业应用，建构完善的跨域应用人才培育环境，保障审批队伍的专业化程度。第三，建立医疗AI审批培训体系。明确医疗AI审批的业务流程、管理标准与产品规范，逐渐完善技术审评制度，统一审批标准尺度，以提高审批人员积极性和执行力。
参考文献
[1]林书弘,陈牧言.人工智能技术于智慧医疗之理论探讨与实务应用[J].护理杂志,2019,66(2):7-12.
[2]刘小春,李婵.人工智能对国家创新体系建设:促进作用、负效应及规避[J].科学管理研究,2020,38(2):29-34.
[3]刘荣,尹注增,赵之明,等.应用机器人手术系统行肝胆胰手术单中心1000例报告[J].中国实用外科杂志,2017,37(3):288-290.
[4]郑红颖,杨艳,倪佳琪,等.人工智能临床应用研究进展[J].护理研究,2019,33(3):454-458.