随着移动互联基础设施的大力建设和移动终端设备的广泛普及，信息通信技术和数字数据技术的应用场景和频次得到极大丰富和提升，海量的用户数据的生产、流动、使用、开发得到极大提速，算法技术的开发和应用得到极大激励。以海量数据为基础的人工智能算法与网约车、网络购物、灵活用工等应用场景的深度融合，给数字经济高质量发展注入强大动能。同时，由于算法技术及应用场景的深度商业化和广泛市场化，“大数据杀熟”、诱导用户沉迷网络、过度消费等算法技术在数字经济发展中引发的负效应已深度冲击了市场竞争秩序和社会管理秩序，给维护市场公平竞争、消费者合法权益、社会治理乃至国家安全都带来了诸多挑战，迫切需要对算法应用加强规范，保障和促进以“数据、算法、算力”为核心要素的数字经济健康发展。
2022年1月12日，国务院印发《“十四五”数字经济发展规划》（简称《规划》）。《规划》指出，我国数字经济发展迅速，但依然面临发展不平衡、不充分、不规范的问题，需要提高我国数字经济治理水平。应优化升级数字基础设施，推进“云网协同”和“算网融合”发展，加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系。《规划》提出，应当坚持公平竞争、安全有序的基本原则，以竞争政策为基础，兼顾促进数字经济发展与保障市场运行安全，结合市场监管、宏观调控、政策法规等多种规制手段，协调多主体，共同搭建完善协同监管规则制度，推动平台经济健康发展。
一、夯实安全发展底线，规范算法至善
《规划》指出，在发展数字经济的同时，还应牢牢守住安全底线，着力强化数字经济安全体系。要增强网络安全防护能力，提升数据安全保障水平，切实有效防范各类风险。其中算法治理作为整个数字经济整体治理与系统治理的关键环节，不仅涉及到市场治理，还涉及到社会治理与国家总体安全。正如《规定》第六条明确规定，算法推荐服务提供者不得利用算法推荐服务，从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动；第七条明确要求算法推荐服务提供者应当落实算法安全主体责任，建立健全数据安全保护和个人信息保护等管理制度和技术措施。这在国家安全层面和个人信息保护层面，均对算法推荐服务提供者提出了新的要求，为国家安全、社会公共利益、个人隐私等提供了重要制度保障。
在实践中，算法推荐服务提供者往往会借助算法技术对消费者用户数据进行分析整理，形成用户模型或用户标签，并以此为基础进行精准推送。用户模型或用户标签虽然可以提高信息推送效率，但是易形成“信息茧房”，使用户局限在自己熟悉的领域内，满足于被动的知识积累，无法获取全面、客观的信息；若将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息，还可能会对用户的身心健康产生不利影响。对此，《规定》第十条要求算法推荐服务提供者应当完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
二、“以人为本”框定算法应用红线
同时，面对我国老龄化社会的加速到来，《规划》指出，优化基础设施智能升级，应当充分满足老年人等特殊群体的需求；强化数字经济安全体系，同样需要健全完善针对老年人等特殊群体的网络保护机制。当下，随着人工智能技术的应用范围扩大，整个社会都向着智能化方向不断发展。但是对于老年人群体来说，由于学习能力不如年轻人，面对新兴的算法推荐服务，可能难以有效掌握，故无法享受到算法推荐服务所带来的全新体验，甚至随着智能化设备不断取代传统的设备，也给老年人群体带来了诸多不便之处。对此，《规定》第十九条规定，“算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务”。
此外，由于未成年人尚未形成健全的价值观，难以甄别纷繁复杂的各类信息，易受互联网不良信息或应用服务的影响，尤其是网络游戏、短视频等应用软件导致未成年人沉迷的事件迭起，引发了公众的广泛热议。对此，《规划》指出，应当健全完善针对未成年人等特殊群体的网络保护机制。《规定》第十八条明确要求，算法推荐服务提供者应当依法履行未成年人网络保护义务，提供适合未成年人特点的服务，便利未成年人获取有益身心健康的信息，不得向未成年人推送影响未成年人身心健康的信息，并且不得利用算法推荐服务诱导未成年人沉迷网络。
三、做好分类协同，提升算法治理水平
千人千面，个性化应用是算法的典型特征，故依据算法应用所涉及的内容类别、舆论属性以及用户规模等因素，以及算法应用对网络安全可能产生的风险大小，对社会产生的损害范围及程度，对其进行分级分类的治理是当前算法治理的主流观点和基本理路。如《规定》第二十三条明确了分级分类的差异化监管制度，要求网信部门会同电信、公安、市场监管等有关部门，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模等要素对算法推荐服务提供者实施分级分类管理，更加全面地开展算法安全评估和监督检查等各项工作。
为进一步应对算法千人千面、难以把握的“黑箱”属性，《规定》第二十四条明确了算法备案制度，要求具有舆论属性或者社会动员能力的算法推荐服务提供者应通过互联网信息服务算法备案系统填报服务提供者的服务形式、应用领域、算法自评估报告等信息，履行备案手续。算法备案制度的建立有助于对算法推荐服务进行监管，更好预防算法可能带来的风险。
同时，《规划》明确指出为健全完善数字经济治理体系，需进一步强化协同治理和监管机制，增强政府数字化治理能力，完善多元共治新格局。
根据《规划》要求，规范算法应用，首先，应强化协同治理机制，加强政府内部不同部门之间的协同治理，应明晰主管部门、监管机构职责，强化跨部门、跨层级、跨区域协同监管，明确监管范围和统一规则，加强分工合作与协调配合。正如，在《规定》第三条中所规定的参与算法推荐服务治理部门除了国家网信部门，还包括电信、公安、市场监管等有关部门，《规定》指出，这些部门依据各自职责负责算法推荐服务监督管理工作，地方部门则依据职责负责本行政区域内的监管工作。然而，由于算法推荐服务往往具有跨区域、跨领域等特性，在监管过程中亦可能同时牵涉多个监管部门或多个区域的地方监管部门，因此，为避免在监管过程中因职责交叉而导致相互推诿的情况发生，还需建立跨部门跨区域的协同监管机制。
其次，应建立完善多元共治。《规划》明确，要建立完善政府、平台、企业、行业组织和社会公众多元参与、有效协同的数字经济治理格局。
目前，我国以数字经济为主要经济业态和行业的发展正站在新周期起点之上，数字经济由高速增长阶段转向高质量发展阶段。治理算法已构成保障和促进数字经济高质量发展的重中之重，其不仅关乎数字经济发展的效率，还涉及数字经济运行的安全，为此，尽快搭建安全规范、“以人为本”覆盖算法应用全周期、全场景、全流程的分类协同治理机制及方式方法已成为引导算法向善、激励算法创新、释放算法正效能的关键。（作者：陈兵南开大学法学院教授、司法与社会研究中心主任，中国新一代人工智能发展战略研究院特约研究员）