内容提要：数字社会进入了持续性的“数据+算法”阶段，数字权力的约束成为必需。信息茧房的形成说明数字权力并非仅仅基于数据，而是更多基于算法。客观存在的算法偏差辅之以个人的权力偏好，最终施加于算法之上并使数字个体作茧自缚。在这一背景下，算法主导者的权力偏好，将加密这一自我封闭的组织结构。在数字治理中，遏制数字权力成为必需，全流程控制的“数据铁笼”寄托了这一技术想象。数字个体“作茧”的过程同时是数字权利流失的过程，在数字权利缺位的前提下，“数据铁笼”这一以权力监督权力的数字制衡机制存在不足。数字权利的价值在于承认算法的分布性与可控性，并在此基础上干预算法：通过算法关闭遏制个体权利流失，限制信息筛选使民众逃离“茧房”，通过数据流程控制使官员敬畏权力。
关键词：数字治理；数字权力；数字权利；算法偏差；“数据铁笼”
项目基金：国家社科基金项目“中国特色特大城市贫困治理研究”(19BZZ085)。
作者简介：姚尚建，华东政法大学政治学与公共管理学院教授、博士生导师。
一、研究的缘起：数字权力的连续性约束
在罗素(BertrandRussell)看来，人与动物的主要区别在于，人类的某些欲望“是根本无止境的，是不能得到完全满足的”[1]。当这种欲望与支配能力结合起来，权力就随之产生。在多米尼克·迈尔(DominikMeier)和克里斯蒂安·布鲁姆(ChristianBlum)看来，数千年来，不同的学科围绕权力的争论集中体现为两个方面：第一，权力应该被理解为以目标为导向的行动能力即行动权(powerto)，还是应该被理解为管控他人的能力即控制权(powerover)第二，权力是一种能够被个人和集体所占有的资源，还是一种可以指导或决定个体行为的社会结构[2]
因此，作为一种控制力量，权力既涉及人与人的关系，也涉及人与社会的关系，权力还是一个可以被量化分析的对象。从源头上看，权力的形成与权力的滥用也有很大联系。当权力的形成缺乏必要的制约机制时，权力的滥用就变得可能。1949年后，新中国同样面临权力控制的话题，反对权力腐败，实现人民至上的国家治理，既是世界主义的伦理关怀，也是中国政治发展的主要任务。习近平指出，要加强对权力运行的制约和监督，把权力关进制度的笼子里，形成不敢腐的惩戒机制、不能腐的防范机制、不易腐的保障机制。[7]这一论断为新时代中国的控权学说提供了理论基础，使中国的权力治理具有明确的切入口。
科技革命的发展与数字技术的加持，推动了中国公共治理的数字化转型。网络的匿名性、流动性使传统社会结构逐步虚拟化、流量化，“雪亮工程”“面部识别”等技术手段又使个体逐步清晰化、稳定化，线上审批、数据运行使政府逐步平台化、流程化。数字治理改变了传统的权力结构，也给权力控制这一传统话题增加了变数。针对数字权力的巨大变化，我国数字经济先行地区——贵州省率先提出要打造“数据铁笼”(datacage)。《贵阳市全面推进“数据铁笼”工程建设的指导意见》《贵阳市2016年全面推进“数据铁笼”工程建设工作实施方案》《贵州省“数据铁笼”工作推进方案》(下文简称《推进方案》)先后发布，其中，《推进方案》提出要运用大数据手段，实现政府权力运行全覆盖、监管过程“全留痕”“三重一大”监管和两个责任落实，减少和消除权力寻租空间，完善监督和技术反腐体系，促进党风廉政建设，提升政府治理能力，为国家“把权力关进制度笼子里”提供可复制推广的贵州经验和模式。[8]“数据铁笼”试图在制度建设的前提下，通过程序性的监管过程实现数字权力的连续性控制。
与信息赋予的治理权力相对应的是，越来越多的人们生活在自我选择的信息之中，在海量的信息推送中，在熟悉的信息阅读中，人们日益迷失了自己，并进入了大小不等的“信息茧房”“信息茧房”不仅体现为数字权力控制的社会性后果，更体现为数字权利的丧失。“信息茧房”的形成及其破茧的过程，也成为观测中国数字权力控制与权利生长的又一窗口。
二、“信息茧房”的形成：算法偏差与权力偏好
借用瑞士计算机科学家尼古拉斯·沃斯(NicklausWirth)“程序=数据结构+算法”这一著名的公式，数字社会的运行意味着数字社会结构与数字算法两个方面的内容。在数字社会中，人们通过信息获取与信息使用进行生活与工作；数字权力的运行隐藏在数字社会之中，通过与算法的逻辑互动塑造并改变着社会组织结构，信息茧房就是社会组织的一种极端形式。
首先，数字社会的算法偏差。从计算机科学的角度，程序是计算机指令的组合，用于控制计算机的工作流程；算法是程序的逻辑抽象，是解决客观问题的过程；数据结构是对现实世界中数据及其关系的映射，数据结构既可以表示数据本身的物理结构，也可以表示计算机中的逻辑结构。[9]因此，良好的数字治理一定是建立在良好的算法基础之上，算法需要以精细的数据科学反映出社会的结构性特征，从而为数字治理提供逻辑支持。但是基于科学认知的渐进性，算法也会存在偏差，闫坤如把算法偏差分为三种类型：算法歧视、不公平竞争和算法滥用。基于这样的类型，他认为“算法偏差一般指的是计算机程序或者人工智能系统在数据收集、数据选择和使用的过程中因包含了人类的隐含价值而在输出中呈现出不公平现象，算法偏差是对算法客观性的偏离”[10]。也就是说，算法偏差可能源自数据采集的不完整、数据分析的不严密和数据采用的不系统，同时可能源自算法设计者的价值取向。
从工具理性的角度来看，技术本身也可能导致算法的偏差。仅仅以并行算法(parallelalgorithm)为例，并行计算机(即拥有多个处理单元的计算机)在编程上都有共同之处，即使用静态线程(staticthreading)。一般来说，这些线程共享一个相同的存储器，操作系统加载一个线程到处理器上执行代码，并在其他线程需要运行时再将其交换出来。然而，共享存储计算机直接使用静态线程编程比较困难甚至容易犯错，其中一个原因就是，在计算之初，多线程负载均衡调度的实现十分困难；在计算过程中，即使并行计算机模型拥有同等计算能力的性能假设，并假设算法的循环中所有迭代都能被并行执行，并且多线程算法中没有包含非法的竞争代码，这样的代码计算才可能达到满意的结果。[11]遗憾的是，这一理想状态并不总是存在，从任务分割、算力差异到代码竞争，这些问题伴随着算法社会的全过程，其中任何一个环节的错误都足以导致严重的社会后果，例如2003年北美大停电事件就源于算法中的一次代码竞争错误。
其次，算法的权力依赖与“信息茧房”的建成。大数据是信息社会的基本特征，在信息社会中拥有并支配信息是一种属于多人的权力。算法在成为人类生产生活活动基本规则的同时，也重新建构了人类社会的权力关系[12]。从信息科学与情报科学的角度来看，在海量信息或数据面前，用户需求及信息的个性化服务必然涉及一个信息筛选的过程，这一过程就为算法的介入提供了条件，因此前文所提及的算法歧视、不公平竞争和算法滥用，如果仅仅表述为数据的控制与算法设计者价值取向的不足，倒不如理解为算法背后的权力取向。算法介入提供了个性化的信息选择并为多人权力的行使提供了便利，个人化的选择带来信息的偏向，也容易带来“信息茧房”效应。[13]
信息社会的海量数据必然形成多人的权力，问题却在于，多人的权力何以形成“信息茧房”这一回答必须从数据的芜杂性及其对算法的依赖性入手方能解释。“我们只听我们选择的东西和愉悦我们的东西的通讯领域。”[14]一些研究认为，用户维度、信息维度和社会环境维度是“信息茧房”建成的三个维度，其中，用户情感、信息能力和专业知识是影响网络用户形成信息茧房的重要因素。[15]但是越来越多的研究发现，在用户选择背后，还有一种支配性的权力——一系列根据偏好而推进的计算机算法及信息过滤，正是由于“信息过滤机制(包括算法推荐)，让我们只看到我们想看到的东西、只听到自己认同的观点，只跟观念相同的人交朋友，那些观点不断重复之后不断加深，最终变成一个只能听到自己声音的‘密室’，即信息的回声室效应”[16]。
算法的偏差与权力的偏好支持了不完善的数字治理，扭曲了数字社会结构。在国家与社会的关系中，技治主义的缺陷不仅仅体现为治理主义对计算机模拟技术的执著，更体现为日益内卷的权力偏向。当复杂的社会问题日益技术化时，当技术逻辑主宰社会结构时，算法也就遮蔽了数字治理的逻辑改进。同时，信息茧房使数字社会共识成为困难，并给数字社会共同体的营建带来阻碍，因此更完善的结构分析、更清晰的信息处理、更科学的算法逻辑就成为数字治理优化的必需。
三、“数据铁笼”的出场与权力控制的边界
数据是数字社会的基础。无论是从能力还是从资源看，数据都支持了数字社会的权力生产，因此数据的掌握与支配成为数字社会权力的表征。孟德斯鸠坚信，“一切有权力的人都容易滥用权力，这是万古不易的一条经验。有权力的人们使用权力一直到遇有界限的地方才休止……从事物的性质来说，要防止滥用权力，就必须以权力约束权力”[20]。数字权力的使用同样符合这一判断：基于控制权原则，有权者将尽量增加自身基于数据的控制能力；基于资源型原则，数据日益成为其扩权的基础。而与之对应的是，一些个体无权使用数据，甚至日益蜕化为数据的一部分，而最终失去公共治理的主体性地位。
首先，“数据铁笼”的理论假设。如果说由于人的无尽欲望，权力的行使必然带来无尽的扩张。在孟德斯鸠之后，越来越多的国家走向了宪制，而宪制史就是国家权力的控制史。数字社会中的公权力同样必须得到控制。2015年2月14日，李克强在详细了解了贵阳利用执法记录仪和大数据云平台监督执法权力情况后指出，把执法权力关进“数据铁笼”，让权力运行处处留痕，为政府决策提供第一手科学依据，实现“人在干、云在算”。[21]2018年，在前期试点的基础上，贵州省提出“全面打造‘数据铁笼’，运用大数据改进政府管理方式，实现政府负面清单、权力清单和责任清单的透明化管理，完善大数据监督手段和技术反腐体系，促进简政放权、依法行政”[22]。
把数字权力关进“数据铁笼”主要建立在一种假设之上，即公权力必须基于数据资源方能行使，“数字社会权力生产的基础条件是对数据的占有，这对国家和社会概莫能外。作为信息的符码化载体，数据从最初国家统计权力中一种‘被收编的工具’，不仅发展为现代社会秩序中的重要驱动力，而且成为逐渐稀释权力专属性、调整权力发生机制的关键入口，拥有数据以及掌握数据运作尤其是算法制定等基础能力，对于权力的生产至关重要”[23]。拥有数据、运作数据、制定算法因此成为数字权力的重要内容，数字权力的控制理论上同样需要从三个方面着手，即数据控制、数据运作及算法规则都必须同步控制。
从国家与社会的关系角度看，行政权是直面社会的权力，也是经常引发不满的权力。贵州省从这些具体的面向社会的权力入手来尝试“数据铁笼”的运行，继而“全面发展智能治理模式，聚焦政务服务、交通、医疗、环保、公共安全等领域热点难点问题，推动各级政府部门将市场监管、检验检测、违法失信、企业生产经营、投诉举报、消费维权等数据进行汇聚整合和关联分析，做到适时公示和预警，提升政府决策和风险防范能力，加强事中事后监管和服务，提高监管和服务的针对性、有效性”[27]。在行政执法中，权力运行的过程就是一个数据集聚的过程，数据向特定节点集中的异常过程因此就成为权力监控的病理学视角。“数据铁笼”的流程化控权思路是有价值的，这一思路包括以下技术路线：权力的数据化、权力的规范化、权力的清单化、权力的可视化，在这一基础上，“数据铁笼”建立大数据预警监管平台，推进权力历程的规范化、数据化，是权力监督的核心环节。[28]
最后，数据控权的技术标准及生态依赖。如果仅仅把数字权力理解为一种数据的控制权，那么这一判断则没有超越迈尔和布鲁姆关于权力争论的梳理。与农业社会、工业社会的权力制度化呈现不同，数字社会中的权力有一个弥散的过程，这一过程既包括数据的采集与处理，也包括算法。在这一基础上，“数据铁笼”努力突破传统的权力框架，把控权行为看作过程行为，即指以权力运行和权力制约的信息化、数据化、自流程化和融合化为核心的自组织系统工程。[29]这一流程化的权力控制需要建立在良好的数字生态系统之上，建立在权责的明晰化、标准化与可计算性之上。然而，公共治理的复杂性与自由裁量的必要性之间无疑将形成一定的张力。现有的“数据铁笼”的表述中，要依托大数据产业优势加快网上政务建设，把能够纳入网络的行政权力全部纳入网络运行，通过制定统一的数据技术标准，优化、细化、固化权力运行流程和办理环节，合理、合法地分配各项职责，实现权力运行全程电子化、处处留“痕迹”，让权力在“阳光”下运行，置于社会公众的监督之下。[30]也就是说，明确的标准是权力留痕的技术前提，脱离了技术标准的权力“留痕”既可能形成数字治理中的形式主义，也加重了行政执法的负担。
四、以数字权利为中心的权力制衡
首先，数字权力的法律控制。郭春镇认为，虽然数字社会中国家、企业乃至个人的关系发生了新变化，但是本质上仍处在传统的“权力—权利”轨道之上：国家在数字赋能之后，所掌握的权力得到了进一步强化，如果说国家权力可以渗透整个国家的肌体中，那么经过数字技术的加持，国家权力能够延伸至各个毛细血管，甚至更加精细微末之处。[33]因此，是数字权力的弥散性，给数字权力的控制带来了困难。在数字社会的运行过程中，数据与算法构成了数字权力研究的两个入口：数字权力的分布依次可以划分为基于数据的权力分布和基于算法的权力分布。从前者的角度，数据的处理过程就是权力分布的过程；从后者的角度，算法作用的结果，就是权力“反驯”的结果。数字权力研究的两个入口同样为法律的介入提供了思路。
从数据类型看，数据有私人数据与公共数据之分，国家在法律范围内采集数据，并依法开放政务数据。《中华人民共和国数据安全法》规定：“国家机关为履行法定职责的需要收集、使用数据，应当在其履行法定职责的范围内依照法律、行政法规规定的条件和程序进行；对在履行职责中知悉的个人隐私、个人信息、商业秘密、保密商务信息等数据应当依法予以保密，不得泄露或者非法向他人提供……国家制定政务数据开放目录，构建统一规范、互联互通、安全可控的政务数据开放平台，推动政务数据开放利用。”[34]公共数据尤其是政务数据的依法公开、私人数据的依法保护，成为限制数字公共权力的法定途径。
从算法角色看，“算法标志着管理功能的自动化，同时也意味着算法将扮演全部或部分的管理者角色”[35]。作为管理者的算法，其权力运行一靠技术垄断，二靠空间隔离。“算法行使权力的方式，并非由人来发号施令强迫用户遵从，而是以技术的面貌出现，是一整套复杂的规则和程序，很容易因为缺乏主体意志而被误认为是客观公正的裁决。用户在面对算法命令时，即使存在不满，也无法看到其他人的抗议，技术制造出的隔离空间，使用户不能得到同情和支援，从而提升接纳意愿。”[36]为了打开算法黑箱，《互联网信息服务算法推荐管理规定》规定，“算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等”[37]。依托算法的治理由此进入治理算法的阶段，而法律，正是这一转变的重要推动者。
最后，个体数字权利的技术纠偏：反筛选与自我干预。个体是社会的组成单元，数字社会中的每一个个体都承载着数字权利，但是在数字社会中，数字权利的匮乏往往率先在个体身上得到显示，人们往往以技术门槛来解释这一个体性数字权利的匮乏；但是数字社会的技术剥削并不会放过任何个体，在技术对于社会的强制中，老人无法使用智能手机从而无法出行、农民工无法通过软件抢购返乡火车票、程序员倦于程序、外卖小哥困于算法，这些数字社会中的极端案例告诉我们，如果仅仅依赖相对滞后的法律而缺乏必要的个体行动，每个人都将在数字剥削之中，每个人都参与了这场剥削他人的盛宴。数字权利的匮乏启发了人们对于个体朴素权利的思考，当技术驯化社会并最终异化了社会形态，数字社会的技术纠偏事实上就必须体现为两个方面的内容：反筛选与自我干预。
现代社会是技术社会，更是权利社会，自由的丧失大多表现为权利的丧失。借助于商业繁荣带来的平等关系以及工业革命形成的技术手段，人类可以正视自身的地位并形成权利的联盟。从数据出发，社会形成了新的社会结构与社会形态，也形成了新的权利结构。但是由于权利对于数字的技术性依赖，数字权利需要借助于数据筛选方能达成。在这一背景下，人们在海量的信息筛选中失去部分自由并深陷“信息茧房”。更为隐蔽的是，“信息茧房”的形成恰恰隐藏在多人权力行使的过程之中，换言之，是人们在逐渐行使权力的过程中放弃了权利。
权力具有强制性，权力控制是权利解放的前提，数字社会同样面临权力控制的任务。正是数字权力的隐蔽性，使数字社会的个体进入了“信息茧房”。但是从数字社会的基本构成出发，数据是数字社会的基础，是权利的基础；数据同样是权力的基础。从委托代理关系入手，“数据铁笼”遏制代理方的权力扩张，从而延续了工业革命以来的权力制衡路径。然而作为一种技术性想象，“数据铁笼”并非是“信息茧房”的解决方案，在数据权力之后，算法才是更加隐蔽的强制性权力。由于权力与权利关系的数字化延伸，数字社会的权力控制归根到底要落实到权利解放上。在数字社会中，数字权利同样遵循两条递进的路径：从数据出发，共享公共数据是权利破茧的法律基础；从算法出发，个体参与并干预算法是权利维持的外部条件。也只有在这样的前提下，数字权利才能得到充分的保障，从而构建数字共同体的基本结构，并形成数字权力的连续性控制。
参考文献：
[1][3][英]伯特兰·罗素：《权力论：新社会分析》，吴友三译，商务印书馆，2012年版，第1、229页.
[2][5][6][32][德]多米尼克·迈尔、克里斯蒂安·布鲁姆：《权力及其逻辑》，李希瑞译，社会科学文献出版社，2020年版，第12、21-28、26、37页.
[4][美]曼瑟·奥尔森：《权力与繁荣》，苏长和、嵇飞译，上海人民出版社，2018年版，第3页.
[7]中共中央文献研究室编：《十八大以来重要文献选编》上，中央文献出版社，2014年版，第136页.
[9][19]吕浩音：《数据结构与算法研究》，电子科技大学出版社，2016年版，第1、3页.
[10]闫坤如：《人工智能的算法偏差及其规避》，《江海学刊》，2020年第5期.
[11][美]科尔曼等：《算法导论》，殷建平等译，机械工业出版社，2013年版，第453-464页.
[12]贾开：《算法社会的技术内涵、演化过程与治理创新》，《探索》，2022年第2期.
[13][16]陈昌凤、张心蔚：《信息个人化、信息偏向与技术性纠偏——新技术时代我们如何获取信息》，《新闻与写作》，2017年第8期.
[14][18][美]凯斯·R.桑斯坦：《信息乌托邦——众人如何生产知识》，毕竞悦译，法律出版社，2008年版，第8、22-24页.
[15]张海：《网络用户信息茧房成因及影响因素维度研究》，《情报杂志》，2021年第10期.
[17]申楠：《算法时代的信息茧房与信息公平》，《西安交通大学学报》(社会科学版)，2020年第2期.
[20][法]孟德斯鸠：《论法的精神》上册，张雁深译，商务印书馆，1961年版，第154页.
[22][27]《省人民政府关于促进大数据云计算人工智能创新发展加快建设数字贵州的意见》，《贵州省人民政府公报》，2018年第8期.
[23]周尚君：《数字社会对权力机制的重新构造》，《华东政法大学学报》，2021年第5期.
[24]《网词百科》，《网络传播》，2021年第6期.
[25][31]黄其松、邱龙云、胡赣栋：《大数据作用于权力监督的案例研究——以贵阳市公安交通管理局“数据铁笼”为例》，《公共管理学报》，2020年第3期.
[26]龙震宇、杨皓钧：《大数据如何改变一座城》，《贵阳日报》，2018年5月17日.
[28][29]谭海波、蒙登干、王英伟：《基于大数据应用的地方政府权力监督创新——以贵阳市“数据铁笼”为例》，《中国行政管理》，2019年第5期.
[30]《数据铁笼》，《当代贵州》，2018年第23期.
[33]郭春镇：《“权力—权利”视野中的数字赋能双螺旋结构》，《浙江社会科学》，2022年第1期.
[34]《中华人民共和国数据安全法》，《人民日报》，2021年6月19日.
[35][英]罗毕·瓦林、邓肯·麦肯：《数字经济中的权力和责任：数据、算法与劳动监控》，姚建华等译，《国外社会科学前沿》，2021年第9期.
[36]刘志杰、张嘉敏：《媒介生产中算法权力的扩张与规制》，《中国编辑》，2021年第11期.
[38]马长山：《智慧社会背景下的“第四代人权”及其保障》，《中国法学》，2019年第5期.
[39]刘志强：《论“数字人权”不构成第四代人权》，《法学研究》，2021年第1期.
[40]姚尚建：《被计算的权利：数字城市的新贫困及其治理》，《理论与改革》，2021年第3期.
[41]刘威、王碧晨：《流量社会：一种新的社会结构形态》，《浙江社会科学》，2021年第8期.
[42]郑崇明：《警惕公共治理中算法影子官僚的风险》，《探索与争鸣》，2021年第1期.
[44]付若岚：《互动视频的知识众包：基于bilibili弹幕网站知识区社群的研究》，《西南大学学报》(社会科学版)，2021年第6期.