一、美欧等西方发达国家普遍开展算法治理活动,提升算法透明度
(一)美国:多层次协同保障算法公开透明
州政府层面,2017年,纽约市通过算法透明法案,并设立“算法问责特别工作组”(AlgorithmicAccountabilityTaskFore),专门监督市政府使用算法的情况,具体场景包括刑事调查、教师评估、消防、公共住房等。2022年9月,华盛顿拟通过《停止算法歧视法案》5,该法案要求公司披露使用算法的情况,并在做出不利决定(如拒绝抵押贷款、收取更高利率)时向消费者提供更强有力的解释以增强透明度。
(二)欧盟:多措并举提升算法透明度
近年来,欧盟在《通用数据保护条例》创设算法解释权的基础上,对算法透明进行了更全面深入的讨论与探索。2019年4月,欧洲议会研究服务机构发布《算法问责及透明度监管框架》6,将算法透明度与可解释性视作解决算法公平、实现算法治理的基础工具,并呼吁欧盟尽快完善监管机制和法律责任制度。2022年11月16日,欧盟委员会宣布《数字服务法案》7生效。法案采取算法问责和透明度审计等措施,以规范算法系统如何塑造内容的可见性和推广以及它的社会和伦理影响。该法案要求在线平台应当公开推荐活动所依据的算法参数,提高算法透明度。
(三)英国:着力加强公共部门算法公开透明
2020年9月,英国发布《国家数据战略》,提出政府部门将与学术机构开展合作,共同探索提高算法透明度的方法。2021年6月,英国数据伦理与创新中心(CentreforDataEthicsandInnovation,CDEI)委托BritishThinks开展的公众调查报告发布8,该报告建议政府在做出影响个人的重大决策时,对所有使用算法的公共部门组织施加强制性透明度义务,以避免高风险活动对公众造成的不良后果。
二、国内加快算法治理顶层设计,突出算法透明重要性
国内针对算法治理的一系列立法和政府规范文件陆续出台,算法治理顶层设计加速完善。《电子商务法》《个人信息保护法》《关于加强互联网信息服务算法综合治理的指导意见》和《互联网信息服务算法推荐管理规定》等法律法规对算法标识、算法透明等方面进行了规制。
2019年1月,《电子商务法》正式实施10。该法第三十三条明确规定“电子商务平台经营者应当在其首页显著位置持续公示平台服务协议和交易规则信息或者上述信息的链接标识,并保证经营者和消费者能够便利、完整地阅览和下载”,用以提升电商平台交易规则的透明性。
2021年11月1日,《个人信息保护法》正式实施11。该法第二十四条第一款要求“个人信息处理者利用个人信息进行自动化决策,应当保证决策的透明度和结果公平、公正,不得对个人在交易价格等交易条件上实行不合理的差别待遇”、第三款要求“通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定”,进一步强调了个人信息处理者自动化决策技术应用的算法透明度。
在此基础上,2021年9月,国家互联网信息办公室、工信部等九部委联合发布了《关于加强互联网信息服务算法综合治理的指导意见》的通知12,要求推动算法公开透明。规范企业算法应用行为,保护网民合理权益,秉持公平、公正原则,促进算法公开透明。督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息,做好算法结果解释,畅通投诉通道,消除社会疑虑,推动算法健康发展。
2022年11月,国家互联网信息办公室发布了《互联网信息服务算法推荐管理规定》13,该规定指出提供算法推荐服务,应当遵循公平公正、公开透明等原则。鼓励算法推荐服务提供者优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。
三、加速完善算法公开透明,强化算法治理
总体来看,全球各国针对算法透明的治理还处于初始阶段,算法透明标准不明、算法透明缺乏实践指引以及如何化解算法透明与商业秘密之间的冲突等难题成为制约各国算法透明发展的重要因素。
2022年12月19日,中共中央、国务院印发了《关于构建数据基础制度更好发挥数据要素作用的意见》,提出要全面加速数据价值释放,纵深推进数字化发展。数据价值的释放离不开深度学习等算法的赋能和加持,算法透明作为算法治理的重要手段,将迎来发展新阶段。
(一)细化落实算法透明顶层设计要求
充分落实《互联网信息服务算法推荐管理规定》等规范要求,推动算法透明治理规范化、常态化。一方面,有序开展算法备案工作,持续扩大算法备案覆盖的行业和领域,加强算法管理。另一方面,充分借鉴国外经验,组织开展算法影响评估等活动,扩展自动化决策的事前评估手段,进一步提升算法透明性。
(二)推动算法透明标准体系建设
(三)促进行业自律活动有序开展
充分发挥行业自律组织沟通政府、企业和市场的桥梁纽带作用。一方面,通过制定“算法透明公约”等,设立行业企业及从业人员算法使用规范,督促企业和从业人员落实算法透明原则,营造算法使用的良好环境。另一方面,利用科研机构、高校、头部企业在技术研发、实践操作、交流合作方面的优势,通过共建实验室、算法透明研究中心等机构和举行研讨会等形式,协同攻克算法透明在技术标准、实践操作方面的难题。
引用:
作者简介:
关伟东,中国信息通信研究院数据安全研究员,主要从事数据安全监管支撑、产业发展研究、个人信息保护研究等工作。