2021年12月31日，《互联网信息服务算法推荐管理规定》（以下简称《管理规定》）由国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布，于2022年3月1日起正式施行。
《管理规定》的颁布实施，一方面聚焦算法推荐服务乱象问题，规范了互联网信息服务算法推荐活动，促进算法推荐服务健康发展；另一方面提出了算法推荐服务治理的中国方案，为国家建立算法安全治理体系夯实制度基础。
一
二
《管理规定》内容概要
《管理规定》对算法推荐服务的安全使用提出了统一规范，明确了算法治理的对象、价值取向和安全主体责任，保护各类群体用户权益，促进算法应用向上向善，构建了新的算法治理体系。
三
算法安全风险
《管理规定》提到的五类算法推荐技术被广泛应用于传统业务和新兴业务的服务过程中。
3.1个人数据隐私
算法推荐技术，特别是个性化推送类，极易出现为了提高推送准确率而过度挖掘、过度收集，导致个人信息泄露等问题。根据有关调研结果显示，86%的受访用户认为应用APP存在上述情况[5]，过度收集数据屡见不鲜，用户个人信息泄露风险仍然严峻。
3.2算法推荐服务内容价值观
互联网信息服务应发挥宣传正能量、避免违法和不良信息传播的作用。特别是具有舆论属性或者社会动员能力的算法推荐服务提供者，更肩负着弘扬主流价值导向、严格内容审核的责任。然而，由于技术手段落后、管理机制不健全、主体责任意识淡漠等原因，造成部分互联网信息服务正能量传播不足，未能提升主流价值导向的影响力；违法和不良信息识别率低，未能有效屏蔽违法和不良信息；生成合成内容未显著标识，未能积极协助用户辨别信息真伪。
3.3用户权益保障
《管理规定》赋予算法推荐服务用户“知情权”“信息权”“选择权”“拒绝权”“申诉权”等多项权益。然而，算法推荐服务提供者告知不充分、过度推送导致信息茧房、未提供选择或删除个人用户标签功能、未提供便捷关闭算法推荐服务选项、未提供畅通申诉渠道等现象仍然普遍存在。用户使用算法推荐服务的基本权益仍未得到保障。此外，针对未成年人、老年人、劳动者、消费者等特殊群体的权益保护，也尚未成熟。
四
风险防范策略
为防范算法推荐服务可能面临的安全风险，算法推荐服务提供者应在《管理规定》要求的基础上，采取有效的解决方案。
4.1界定收集内容范围
4.2界定公示标识原理方式和程度
为保障用户知情权，同时也为避免出现影响网络舆论、规避监督管理、垄断、不正当竞争等情况，算法推荐技术的公示，应遵循易懂和可读性原则，保障用户知情权。同时，在公示的基础上，根据算法推荐技术的不同类别，界定相应的公示程度和范围。
4.3界定安全主体责任完备性
同时，算法推荐服务提供者还需确保在算法应用过程中为用户提供的内容信息遵循主流价值导向，避免内容安全问题。
五
总体举措建议
三是对标自查算法推荐服务业务。全面梳理业务条线，识别其中的算法推荐服务业务，对照《管理规定》的要求对涉及的算法模型、用户模型、算法推荐服务版面页面生态、用户权益保护执行情况等方面进行对标自查，使算法应用符合主流价值导向。对具有舆论属性或社会动员能力的算法推荐服务业务，重点开展安全评估、备案等流程。
四是积极开展维护公共利益的服务业务。建议依托现有数据特点和技术积累，积极利用算法推荐技术开展大数据防疫分析、防疫信息精准投放、反诈宣传、用户诈骗风险分析预警等维护公共利益的服务业务，以此响应算法应用向上向善的价值导向。
结语
本文介绍了《管理规定》发布的情况背景，对重点内容进行简要解析，通过梳理算法推荐服务技术在个人数据隐私、用户权益保障、算法推荐服务内容价值观等方面涉及的安全风险问题，提出了相应的风险防范建议和举措。
参考文献
[1]李静辉.算法推荐意识形态属性的生成逻辑、风险及治理[J].理论导刊,2022(2):70-76
[2]喻国明,曲慧.“信息茧房”的误读与算法推送的必要——兼论内容分发中社会伦理困境的解决之道[J].新疆师范大学学报：哲学社会科学版,2020,0(1):127-133
[3]四部门发布《互联网信息服务算法推荐管理规定》“大数据杀熟”等算法推荐活动受监管[J].中国防伪报道,2022(1):64-66
[4]程莹.良法善治深入推进算法综合治理——对《互联网信息服务算法推荐管理规定》的解读[J].民主与法制,2022(4):44-45
[5]北京消协发布调查报告：86％用户认为APP过度收集信息[J].通信世界,2018,0(8):5-5
[6]韩宗达,邓宇涛,程祥.不经意关键词检索技术综述[J].信息通信技术与政策,2022,48(5):82-90
[7]汤艳君,钱丽纳,曾佩璇.网络支付类账单过度收集个人数据引发的思考[J].信息安全研究,2018,4(9):857-862
作者简介:
江为强：中国移动通信集团公司信息安全管理与运行中心副处级高级专家，高级工程师，博士，主要研究方向为数据安全、人工智能安全、内容安全等。
刘畅：中国移动通信集团公司信息安全管理与运行中心项目经理，工程师，主要研究方向为数据安全、隐私保护、网络安全法律等。
郭中元：中国移动通信集团公司信息安全管理与运行中心项目经理，安全工程师，主要研究方向为网络安全、数据安全、隐私保护等。
静静：中国信息通信研究院安全所，工程师，主要研究方向为数据安全、新领域新技术安全、网络安全等。
许晓耕：中国电子技术标准化研究院网络安全研究中心，工程师，博士，主要从事个人信息保护、人工智能安全等领域研究工作。
张雨桐：中国电子技术标准化研究院网络安全研究中心，主要从事人工智能安全领域研究工作。