张健|论我国平台用工算法的法律规制:反思与重构

为了遏制互联网餐饮外卖平台使用算法活动侵害劳动者权益的乱象,我国出台了设置收入最低标准、算法取中、严禁最严算法、优化算法、设置工作量上限、算法公示等多种措施并举的规制体系。然而,用工算法内部构成复杂、高度流变、非中立性的特征导致了算法趋严的“类问题”,而现有各项措施缺乏清晰可行性、措施之间缺乏路径和力度的一致性、整体上缺乏灵活性,不能从根本上加以解决。根据算法正义理论,我国规制体系仅针对算法趋严的具体表现加以规制,而没有意识到该问题的本质并非被讨论最多的算法黑箱、算法滥用、算法歧视和偏见,而是劳动者对自身劳动力定价权的弱势地位。只有以劳动者“绝对收入”作为落脚点出台规制措施,方能对用工算法实现有效规制。

一、问题的提出

上述现状引发了一系列亟待解答的问题:(1)用工算法的工作原理和特征是什么,又是如何导致平台劳动者难以忍受的工作境遇,具体有哪些表现?(2)我国现有的规制体系能否对用工算法进行有效干预,实质性地改善平台劳动者的工作境遇?(3)如果我国规制体系的效果不如预期,背后的深层原因又是什么,是否还有更好的规制手段?正是基于这样的关心,本文以互联网外卖平台为例,深入互联网平台用工场景,并结合国内外算法规制的一般理论,试图完整地回答这些问题。

本文将在之后逐步证明,用工算法内部构成复杂、高度流变、非中立性的特征共同导致了算法趋严的“类问题”,不能简单归结为算法恶意或者技术原因,对法律规制提出了极大挑战。而我国规制体系的具体措施缺乏清晰可行性、措施之间缺乏路径和力度的一致性、整体上缺乏灵活性,不能从根本上遏制算法趋严持续发展。究其原因,我国规制体系仅仅针对算法趋严的具体表现加以规制,缺乏理论上的深层自觉,没有意识到该问题的本质是算法不正义。根据算法正义理论,算法趋严背后是劳动者失去自身劳动力定价权的弱势地位,只有对劳动者“绝对收入”划定底线,方能实现对用工算法的有效规制。

二、互联网平台用工场景下的算法

输出指的是算法给出的结果,例如完成订单过程中可供劳动者选择的不同路线。算法的输出在模型自动给出之后还受到平台管理者(并非开发者)的干预。一方面,管理者负责在分配订单时为劳动者个体提供算法结果;另一方面,管理者在发现算法输出结果不合理(某条送餐路线看上去不合逻辑或者不可行)的情况下会进行调整。算法的输出一般给出多个结果供选择,所以它本质上是一种工作“指引”或者“推荐”。算法的输出结果除了送餐路线,还有订单分配、任务进度报告(配送时限)、奖励金额、消费者评分等形式,都显示在劳动者使用的手机app等移动终端上。

既然用工算法存在被滥用的可能性,在不受制约的情况下是否必然会对劳动者权益造成损害?现实已经给出了答案。在国外,优食和户户送等餐饮外卖平台国际巨头使用算法的行为在近年来饱受争议,出现了诸如算法追求配送效率造成劳动者遭遇交通事故;算法追求利益最大化导致劳动者收入低下;算法分配订单时偏袒某些劳动者;算法过度控制引发劳动者与平台之间的紧张关系等问题,不一而足。在我国也出现了类似情况,但招聘阶段的歧视问题并不突出,更多地表现为用工算法在工作期间对劳动者的考核标准水涨船高,展示出日渐严厉的面目,背后主要有三种推动因素:

根据上述列举可以发现,算法趋严现象的背后有着多种互相作用的推动因素,属于有着多种表现的“类问题”,不能完全归结为平台企业滥用算法的恶意等人为因素,或者技术缺陷等客观因素。因此,相应的规制活动不能简单地以平台企业是否存在主观上滥用算法为切入点,而是要充分考虑用工算法所处的复杂环境,这也为法律规制提出了更多挑战。

通过对用工算法黑箱内部的观察可以暂时得出三点简单结论。一是用工算法应用场景具有特殊性,与个性化推送、检索过滤等其他类型算法的开发原理明显不同,发挥作用机制以及对劳动者的影响也无法简单与其他类型算法进行类比。二是法律规制用工算法很有必要。有国外学者指出,在劳动者与平台企业之间存在天然不平等的现实面前,希冀后者通过自我规制改善现状只能沦为天真的想法。三是规制用工算法极具挑战性,算法趋严的现象既有自身迭代调整的技术性原因,又有平台企业管理制度的原因,还有商家行为、算法设计和技术等外部原因互相影响,亟待精准、有效的规制方案加以调整。

三、反思现有用工算法规制体系

我国《推荐管理规定》与《指导意见》代表了简略的正式法律条文与具体化的指导性政策文件相结合的算法规制体系,符合科技法学者Ebers定义的“多层级立法”模式,据称其优势在于既可以防止科技快速发展对正式法律造成冲击,又可以随时调整指导性文件内容以保障规制措施的灵活性。然而,Fenwick等学者认为在科技发展已经超过法律反应速度的情况下,规制体系的合理性、有效性与立法类型没有必然联系,而是要细致分析规制体系的内容、形式和时机,即“什么规制”“怎么规制”“何时规制”三个关键方面。对于如何判断具体规制措施、规制路径、规制体系整体上的合理性和有效性,国内外理论均有相应的评价标准。据此可以引申出评价我国用工算法规制体系的三个维度:一是各项具体规制措施是否清晰准确并且能够切实可行地解决问题;二是规制措施之间在路径选择和干预力度上是否体现出一致性避免措施之间相互冲突;三是规制体系整体上是否存在法律原则的灵活性以跟上算法的快速变化。

在微观层面,不论立法者和政策制定者采用了哪种具体措施或规则干预算法,都应当使用清晰或易于理解的语言表述出来、而且被证实能够在现实中切实可行地解决现实问题。按照这一标准,《指导意见》提出的各项具体措施在细究之下有着或多或少的问题。1.关于劳动强度的规制措施:算法取中、严禁最严算法、优化算法

《指导意见》设置劳动者实际收入最低标准以及给予额外补贴措施看似清晰可行,但这些规制措施的缺陷不在于自身,而是与其他措施之间的冲突,下面将专门进行讨论。

总的来看,大多数规制措施有着各自的内在缺陷,归结起来主要有三种表现。一是规制措施本身概念模糊无法直接适用,比如算法取中。二是规制措施虽然看似明确,但缺乏法律和事实标准等保障有效性的关键部件,如严禁最严算法和设置工作量上限。三是规制措施的实际成本过高或者难以达到理想中的规制效果,如算法优化和算法公示。将这些措施直接用于实践可能带来更多法律上的不确定性,无法满足清晰可行的基本要求。

规制措施之间缺乏路径和力度一致性

立法者和政策制定者除了要保证规制措施本身是否清晰、具有可行性,还应当尽量让各项规制措施之间满足路径和干预程度上的一致性。

用工算法一直处于高度流变之中,但其产生的侵蚀劳动者权益等问题却是长期性的,这就要求规制措施在宏观上保持灵活性以跟上算法的快速变化。早在2010年代,Callon等学者就意识到法律在科技领域保持灵活性的重要性,认为针对科技的立法不应当被看作是一劳永逸的“最终事件”,而应当是对规制措施和路径不间断的选择活动。在判断灵活性的问题上,Fenwick等其他学者提出基于具体规则与基于法律原则两种范式的区分,前者是将具体规制措施直接用于科技引发的社会问题,后者指的是法律原则,不会由于规制过程中获得的新知识和新发现对规制体系和框架造成冲击;保持法律规制灵活性的关键在于前者向后者的范式转变。

上述列举的内容并不是为了说明立法者和政策制定者必须转向法律原则,而是在灵活性的维度看,法律原则单独确立或者作为具体规制措施的法律依据是必不可少的。而这正是我国当下用工算法规制体系的内在缺陷。

四、重构中国语境下用工算法的规制体系

我国用工算法规制体系难以达到预期目的主要原因在于仅仅根据算法趋严的种种表现加以规制,无法触及背后的真问题,加之算法快速变化不断产生新的表现,造成了相应规制措施模糊、内部冲突、僵化的严重漏洞。因此,重构的起点应当是识别出种种乱象背后的本质,并据此设计适合的规制路径和力度,再落脚到更为具体的规制措施上来。

第三步是评估算法是否有利于或者推动救济手段的实施。有些时候,对救济手段起到反作用的规制措施将被禁止使用,也有可能发现或者设立新的规制手段,这也是算法正义法律原则之下的规制体系灵活性的体现。这一步骤的核心理念是对算法进行“去中心化”处理,将其看作是救济手段的组成部分。Green仍然以预测再犯率的算法为例阐述如何评估算法不正义是否得到遏制:在关系性应对思路下考察非裔群体在获得更多社会福利之后是否出现了再犯率实质性的下降;在结构性应对思路下考察法院对算法测量之下的高再犯率非裔群体是否实质性地缩短了审前羁押期。回到我国用工算法语境,如果采用限制用工算法对劳动力对价的决定权,则需要在事后统计平台劳动者每个月的实际总收入所得是否有了实质性的提高。

综上所述,只有在识别出算法趋严背后的本质,才能为后续规制路径选择、具体措施的弃留提供坚实依据。

在确立实现算法正义作为规制用工算法的起点的基础上,我国应当配套以相应的规制路径和规制力度完成重构。在可能的规制路径中,只有结果导向型(算法认证),即为算法结果设置必须满足的标准,与算法正义原旨高度契合。首先,判断算法正义与否的依据就是令人怀疑的算法结果,比如预测出非裔群体更高的再犯率、平台劳动者难以忍受的工作境遇等等。其次,实现算法正义途径是干预算法决策的结果及其造成的社会影响,本质上仍然是以算法结果为规制重点。再次,算法正义的最终目的也是直接或者间接地使算法结果对社会、政治、经济、伦理价值的实现。其他诸如预设规范型、行为导向型路径由于自身存在的缺陷无法满足算法正义的所有要求。

识别出算法趋严的本质、选择解决这一本质问题的规制路径和力度是不够的,最终还是要具体化到微观层面的规制措施上来。根据之前的论证,规制措施应当以限制用工算法对劳动力的定价权为目标,在算法结果上对平台劳动者的绝对收入划定底线,减少算法不正义为平台企业带来的好处以及劳动者可能遭受的伤害。因此,制定措施的内容需要考虑两个方面的问题:

表2重构算法规制体系进路和具体内容

结语

算法引发的法律与社会问题由于算法种类、使用目的、使用领域以及参与主体不同而有着各异的表现,不能采取一刀切式的规制体系。本文对我国用工算法规制体系的反思恰好印证了将算法至于具体场景下加以检视的重要性,尤其是如何规制算法关系到数千万人的工作境遇和福祉,不可不察。此外,本文评估算法规制体系所依据“清晰可行性、规制路径与力度一致性、灵活性”评价标准以及重构算法所依据的识别问题本质、选择规制路径、设计规制措施进路具有方法论上的普遍意义,可以用于衡量和改进其他场景下的算法规制体系。

THE END
1.律师谈“大数据杀熟”:违法!涉价格欺诈关键帧澎湃新闻近日,一些年轻消费者正通过“哭穷”“建立人设”来反向驯化大数据“杀熟”。法家云调非诉讼纠纷调解中心理事长、律师黄麒表示大数据杀熟违法,涉嫌价格欺诈。澎湃新闻记者 史含伟 编辑 石轶君 实习生 姜紫怡 责任编辑:隋肖峰 校对:张亮亮 +1 0 收藏 相关推荐 更多> https://www.thepaper.cn/newsDetail_forward_29664971
2.大数据“杀熟”:别让算法偏向寒了心“清朗·网络平台算法典型问题治理”专项行动正在开展,明确要求重点整治利用算法实施大数据“杀熟”等问题。一段时间以来,不少消费者在不经意间被算法“算计”,专项行动传递出坚定整治这一乱象的信号。 算法悄然影响日常消费模式。算法既高效和精准地推动数字经济发展,又可能以大数据“杀熟”等形式侵蚀消费者权益。如今,https://ptsb.pingtan.gov.cn/2024/20241214/20241214_004/20241214_004_5.htm
3.互联网平台数据垄断法律规制的困境与出路消费导刊杂志官网对于数据垄断如果要在根本上进行遏制,那么监管部门务必应当坚持多元主体的相互配合治理模式,通过设置适当的举证责任以及惩罚性的恶意竞争赔偿机制,才能达到严格规制数据垄断的目标。互联网平台的现有数据资源必须获得更大范围的市场主体共享,推动健康的互联网平台运行秩序建立。https://www.xfdk.net.cn/jjyf/1446.html
4.欧乃瑜从大数据“杀熟”现象透视电子商务平台算法权力滥用的规制然而,在互联网带来红利的同时,也产生了很多负面影响。大数据“杀熟”等现象频出使得消费者权益受损。本文拟从分析大数据“杀熟”现象出发,阐释其算法权力滥用的本质,针对电子商务平台算法权力滥用的行为,指出由于监管机制不足、消费者维权困难使得滥用算法权力行为规制陷入困境,并从事前预防和事后追责并重、宏观规制和微观https://www.jfdaily.com/sgh/detail?id=727336
5.大数据“杀熟”的法律规制问题研究在司法实务中,一些网络平台依仗其优势的市场地位以及先进的网络技术,通常会以时间、场景的变化以及数据传输处理异常为借口去掩饰其真正的“杀熟”行为,而普通用户又缺乏对算法技术的认识,这些都变相提高了其获取证据的难度。 三是缺乏事前监管机制。虽然目前《互联网信息服务算法规定》第二十三条规定了分级分类管理制度,https://www.acla.org.cn/article/page/detailById/35713
6.?人工智能算法的法律审视及规制在智能时代,人们将选择权和决策权让渡给算法,就必然导致算法将成为规制的核心。面对人工智能带来新的安全和伦理挑战,面对当今各类新技术、新产业高度依赖算法,面对公民维护基本法律权利的呼唤,迫切需要加强对智能算法的管控,将行政监管、道德约束、法律规范相结合,引导算法善守法、守善法,构建算法规制的伦理和法治基础,https://www.1987web.com/?id=26526
7.强化算法规制扩张平台责任—立法监管与司法判例专业文章[1]《个人数据保护法》规制的是数据处理行为(偏重于数据收集规则),特别是通过赋予个人数据权利,包知情权与决定权、查阅复制权、更正补充全、删除权来对抗算法应用带来的侵害。《反垄断法》规制的是滥用算法的垄断行为,通过设定互联网平台运营者的守门人义务,来保护市场公平竞争,维护消费者利益和社会公共利益。https://www.allbrightlaw.com/SH/CN/10475/ef96842e9741cb72.aspx
8.王晓晔时建中等专家热议平台经济领域反垄断在监管路径层面,要通过多层次的法律规范体系,完善关于平台反垄断的具体规则、反不当竞争、个人数据保护、消费者保护权益等方面法律,事前规制优于事后规制,利用约谈、行政指导等多元化执法手段以提高效率、降低成本。 北京大学《比较》杂志部主管陈永伟:探索互联网竞争政策的中国道路http://ipforefront.com/article_show.asp?id=549&BigClass=%E8%A7%82%E7%82%B9
9.互联网巨头的数据垄断破防!这部法律的影响力有多大“《个人信息保护法》已触动互联网经营者的一根敏感神经。” App过度收集个人信息、大数据杀熟、“二选一”……伴随中国首部个人信息保护领域的专门法律出台,这些数据领域的垄断和算法滥用行为将成为监管重点,平台治理正被按下“加速键”。 《中华人民共和国个人信息保护法》(下称《个人信息保护法》)在耗时18年、历经https://www.yicai.com/news/101151358.html
10.广东将加大规制“二选一”“大数据杀熟”和“封禁”港股互联网7月2日港股互联网巨头普跌,阿里巴巴跌3.73%,美团跌3.25%,京东跌近2%。 日前,广东省市场监督管理局对广东省人大代表叶丽燕于省十三届人大四次会议中提出的关于加强互联网新经济模式监管的建议做出答复。答复函透露,竞争执法将被突出,重点加强对大型互联网平台“二选一”“大数据杀熟”“封禁”等行为的执法规制,依法查https://wap.eastmoney.com/a/202107021982305877.html
11.大数据杀熟的法律规制如上所述,大数据杀熟与市场垄断势力存在重大关联,因此有必要从反垄断法角度予以规制。2020年11月10日,国家市场监管总局发布《关于平台经济领域的反垄断指南(征求意见稿)》(下称“《平台反垄断指南》”),在“双11”来临之际对外公布针对平台反垄断的重要指南征求意见稿,传递出当局将不断加强互联网平台领域反垄断执法的https://zhuanlan.zhihu.com/p/343199017
12.《大数据“杀熟”的法律规制研究》17000字.docx2018年,大数据“杀熟”事件横空出世,占据各大互联网平台,成为了话题的中心,引发众多网友热议。网友们纷纷表示自己曾在机票、酒店、电影、外卖等多个领域遭遇过大数据“杀熟”,但却无计可施。同时,部分用户还反映道自己的个人信息被其他平台共享,但本人并不知情的问题朱喆峰.大数据“杀熟”行为的法律规制[D].华中师范https://max.book118.com/html/2024/0321/5301110244011124.shtm
13.程恩富等:应对数字平台经济的垄断,传统反垄断手段捉襟见肘垄断法〉修正草案(公开征求意见稿)》,开始增设互联网经营者市场支配地位认定依据的相关规定;11月,国市监处发布了《关于平台经济领域的反垄断指南(征求意见稿)》,明确指出该指南是为预防和制止平台经济领域的垄断,加强和改进互联网平台经济领域反垄断监管,维护消费者和社会公共利益,保护市场公平竞争,促进平台经济持续http://www.wyzxwk.com/Article/jingji/2022/11/465764.html
14.互联网平台企业滥用市场支配地位的法律规制研究大陆桥视野近年来,互联网平台企业深度改变了人们的生活方式,成为经济社会发展的重要组成部分。然而,一些大型互联网企业通过“大数据杀熟”“二选一”等手段巩固市场地位,侵害了消费者和其他经营者的权益。在现有规定无法有效遏制互联网平台滥用市场支配地位的情况下,探讨相关法律规制显得尤为重要。 https://www.dlqsyzz.com/8905.html