AI善治论坛在京召开发布《人工智能法（学者建议稿）》
2024年3月16日上午，“AI善治论坛人工智能法律治理前瞻”专题研讨会在北京友谊宾馆顺利举办，会议发布了《中华人民共和国人工智能法（学者建议稿）》，起草专家组由中国政法大学数据法治研究院、西北政法大学法治学院、中国信息通信研究院、北京航空航天大学法学院、华东政法大学数字法治研究院、西南政法大学科技法学研究院、中南政法大学知识产权研究中心七家单位的专家组成。来自北京大学、清华大学、中国人民大学、中国人民公安大学、中国社会科学院、对外经济贸易大学、北京电子科技学院等二十余所全国高校的专家学者出席了此次会议。
会议探讨了如何更好地引导和规范未来人工智能产业的健康发展。起草专家组经过一年的紧张工作，特邀国内人工智能治理领域的技术专家、法律专家、实务专家提出建议，为完善《人工智能法（学者建议稿）》提出具体意见，共同回应现实需求，为立法建言献策。会议分为两个单元，分别就《人工智能法（学者建议稿）》和人工智能法律治理问题进行了深入的交流和讨论。
第一单元《人工智能法（学者建议稿）》交流
主持人中国政法大学数据法治研究院教授张凌寒对《人工智能法（学者建议稿）》的总体情况进行了介绍。建议稿共九章九十六条，主要内容包括一般原则、发展与促进、权益保护、安全义务、监督管理、特殊应用场景、国际合作、法律责任等，涵盖未来人工智能治理的主要问题。张凌寒教授指出《人工智能法（学者建议稿）》以促进产业发展为主要特色。她指出，在目前全球激烈竞争的格局下，“不发展是最大的不安全”。我国人工智能产业“领先的追赶者”的独特国际生态位要求我们在技术和产业的国际竞争中必须以发展为制度设计的主要目标，安全问题也需要通过技术发展来回应和解决。因此《人工智能法（学者建议稿）》中设立“促进与发展”专章，也在监督管理、责任设置等方面对此予以充分考虑，减轻人工智能产品和服务提供者的义务。
专家组成员赵精武副教授、韩旭至副教授、徐小奔副教授、程莹高级工程师、郑志峰教授分章节对《人工智能法（学者建议稿）》进行了介绍。
关于第四章“义务规范”，中南财经政法大学知识产权研究中心徐小奔副教授介绍了人工智能开发者与提供者的义务与规范。《人工智能法（学者建议稿）》重点区分了一般人工智能和关键人工智能，强调关键人工智能需要在组织机构、风险评估、风险披露、安全应急处理等方面所应该承担的关键义务，同时应该在不同行业领域对关键人工智能作出特别规范。徐小奔教授在发言中提到根据流程阶段设计义务规范的重要性，即在开发阶段、提供阶段对于人工智能的正确使用提出不同的义务要求。最后，徐小奔教授强调了知识产权利益平衡规范的重要性，《人工智能法（学者建议稿）》对于人工智能产品或服务的开发、提供、使用等环节中涉及的知识产权问题进行了回应，力求在现有法律框架内探索有益于促进人工智能健康发展的制度安排，使人工智能立法与知识产权强国战略纲要等国家知识产权战略相一致。
关于第七章“国际合作”，中国政法大学数据法治研究院教授张凌寒就国际治理、反制措施、打击犯罪进行重点介绍。一是明确人工智能国际治理规则。《人工智能法（学者建议稿）》提出共同、综合、合作、可持续的全球安全观，坚持发展和安全并重的原则。人工智能安全风险全球化背景下，应当重视人工智能治理的国际合作与交流，积极参与制定人工智能有关国际规则、标准，促进形成具有广泛共识的人工智能治理框架和标准规范，防范人工智能安全风险，推动构建开放、公正、有效的全球人工智能治理机制。同时，作为联合国安全理事会常任理事国之一，中国履行联合国安全理事会常任理事国的应尽责任，积极参与全球人工智能治理，维护联合国安全理事会权威与地位。二是制定反制条款。面对美国等发达国家试图通过制裁手段遏制中国的人工智能发展的国际竞争局势，《人工智能法（学者建议稿）》对此专门制定反制条款以维护国家利益。三是强调打击人工智能犯罪的国际合作。全球化背景下，人工智能犯罪具有跨国性，打击人工智能犯罪需要加强国际间的执法、司法合作。
关于第八章“法律责任”，西南政法大学科技法学研究院教授郑志峰从行政责任、民事责任和免责事由三方面进行了介绍。首先，《人工智能法（学者建议稿）》对行政责任进行了规定，设置了行政处罚的一般条款，包括暂停新使用者注册、下架应用、停止更新等措施，以及针对严重违法行为的罚款和从业禁止措施。其二，《人工智能法（学者建议稿）》规定了民事责任。提供者的民事责任根据一般人工智能与关键人工智能进行区分，前者采取过错归责，后者适用过错推定责任；使用者的民事责任则明确适用过错责任。《人工智能法（学者建议稿）》规定提供者与使用者共同承担责任的情形，以与产品责任相协调。针对人工智能服务提供者规定了新的避风港规则，明确其与使用者的责任承担。此外，《人工智能法（学者建议稿）》还规定了惩罚性赔偿、保险责任与公益诉讼。其三，关于免责事由，《人工智能法（学者建议稿）》一方面明确了利用基础模型以及开源基础模型从事人工智能研发、提供、使用活动的，由衍生利用一方承担法律责任，同时基础模型提供者需要负担适当的注意义务；另一方面规定了合规免责条款，明确开发者、提供者、使用者在合规基础可以相应豁免行政和刑事责任。
第二单元人工智能法律治理问题研讨
该单元由中国信通院政策与经济研究所高级工程师程莹担任主持人，她谈到ChatGPT的广泛应用变革人类社会的生产生活方式，需要我们从更深层次了解大模型和人工智能。我国目前正处于边发展边治理的过程，无论是对学术研究还是监管层面都提出了更高的要求。人工智能立法要结合实际探索的过程，而非照搬国外。在此背景下，希望以《人工智能法（学者建议稿）》为靶点推动政产学研各方面讨论交流。
中国人民大学未来法治研究院执行院长、法学院副教授张吉豫认为，人工智能法在把控风险的同时，也要促进人工智能发展。事前的科技伦理审查确有必要，但可以考虑删除一些不必要的事前义务。对于所有大型基础模型未来是否都进行较严的监管是需要考虑的，并非所有人工智能均需要备案，备案是进入市场的前置要求还是仅为一项待完成的任务有待思考。从促发展的角度而言，监管行为本身的规范也是比较重要的方面。责任方面，绝大多数情况下适用过错责任原则是比较合适的，法律责任条款之间的衔接性有待明确。服务提供者的定义需要进一步明确，因为这涉及责任界定问题。条款主要针对生成式人工智能，对于其他类型人工智能的服务提供者也应纳入讨论范畴。
北京电子科技学院副教授王玎认为，第一，将“立法依据”改为“立法目的”，立法目的决定人工智能立法定位和内容范畴，是人工智能法基本原则的原则。人工智能法应有三个直接目的和一个根本目的。三个直接目的是“支持、规范、防范”，即推动人工智能技术、产业创新发展，规范人工智能研发、提供、使用活动，防范人工智能技术应用损害国家安全和个人、组织的合法权益。一个根本目的是“推动人工智能技术支撑和引领经济社会发展，增进人民群众福祉，全面建设社会主义现代化国家”。第二，将“政务人工智能”改为“国家机关使用人工智能”，建议对行政机关使用人工智能的范围、条件、程序作出明确规定。
最后，中国政法大学副校长、数据法治研究院院长时建中为会议做了总结发言，他指出立法是一件非常不容易的事情，各位专家对《人工智能法（学者建议稿）》提出了非常具有建设性的意见。并指出，基本概念的界定十分重要，如何将技术术语转换为法律语言值得思考。通过法律和技术良性互动，促进人工智能向善发展。
结束语
本次“AI善治论坛”研讨会的成功召开，为未来我国人工智能立法和实践提供了宝贵的参考经验，更为我国人工智能法律的未来发展提供了宝贵的思路和方向。