观点荐文解读世界首例警方使用人脸识别技术合法性判决二审判决

作者:王新锐,何珊珊,北京市安理律师事务所合伙人。

编辑:周东鹏,复旦大学法学院硕士研究生。

引言

2019年9月4日,英格兰和威尔士高等法院行政庭就R(Bridges)vCCSWPandSSHD一案作出判决,肯定了南威尔士警方使用人脸识别技术的合法性。详细分析见:

一、事实与上诉理由

在南威尔士警方2017年12月21日和2018年3月27日的两次试点中,一审原告EdwardBridges称其曾出现在试点摄像机附近,其图像被系统记录了下来。EdwardBridges于是向英格兰及威尔士高等法院提起司法审查之诉,理由是南威尔士警方的这两次试点行为以及持续进行的AFR试点行为违反《欧洲人权公约》第8条、《2018年数据保护法》以及《2010年平等法案》的规定。2019年9月4日,高等法院作出一审判决,驳回了EdwardBridges的全部诉讼请求。

对此,EdwardBridges不服一审判决,提起上诉,并提出了如下5点上诉理由:

上诉法院在判决中支持了上诉人提出的理由一、三、五,否定了理由二、四。

二、判决思路

针对上诉人的五点上诉理由,上诉法院进行说理和判决。

1、使用AFRLocate是否有足够的法律框架?

《欧洲人权公约》第8条第1款规定了人们享有私人、家庭生活及其通信得到尊重的权利。该条第2款规定,公共部门只能在“依照法律规定”且满足特定条件的情况下才能对上述权利进行干预。

因此,判断“理由一”是否成立,即判断南威尔士警方使用AFRLocate的行为是否为“依照法律规定”的关键在于使用AFRLocate是否有足够的法律框架。

基于这四个特点,针对原审法院提出AFRLocate所仰赖的现有三层法律框架,上诉法院作出了与原审法院相反的判断。上诉法院认为现有法律框架存在两大根本缺陷:第一,“谁”可以被放入监视名单这一问题并不明确;第二,如何决定在“何处”部署AFR也无清晰的标准。这两个问题目前都过于依赖警察的个人判断,现有政策并未充分规定警察如何实施自由决定权。

对此,上诉法院得出结论:原审法院认为现有的法律框架足以构成第8条第2款意义上的“法律”,这是错误的。

综上,上诉法院认为现有法律框架并不满足《欧洲人权公约》第8条第2款规定的“法律”,所以南威尔士警方采取对上诉人“家庭生活、家庭和通信”造成干预的措施并无法律依据。因此,上诉法院采纳了上诉人申述的“理由一”。

2、是否满足“合比例性”原则

上诉法院认为,严格来说,在已经认定对上诉人《欧洲人权公约》第8条的权利的干预不符合法律的规定的情况下,不必再讨论权利的干预是否合比例的问题。但鉴于上诉法院已经听取了关于理由二的完整的论证意见,上诉法院在判决中亦发表了看法。

原审法院在判决中列出了解决比例问题的四步测试。在二审中,争议焦点为第四步,即该种对权利的干预是否可以达成个体权利和社群利益的平衡。

上诉人认为,原审法院在评估“是否可以达成个体权利和社群利益的平衡”这一问题时,评估方法存在错误:一方面,在评估“利益”时,原审法院不仅需要考虑实际结果,也应考虑预期利益;另一方面,在评估“成本”时,不应仅考虑AFR的使用对上诉人的影响,也应该考虑AFR的使用对其他在场公众的基本权利的影响。

对此,上诉法院认为:

因此,上诉法院否决了“理由二”。

3、是否遵守了《2018年数据保护法》第64条的规定?

《2018年数据保护法》第64条规定了当数据处理可能导致对个体权利和自由的风险时,数据控制者的数据保护影响评估义务和评估的具体内容。

上诉法院认定,虽然南威尔士警方的“数据保护影响评估”提及了《欧洲人权公约》第8条,并且解释了AFRLocate的运行模式,披露了在试点时大量公众会受到影响,但该评估认为警方的行为不侵犯第8条的权利。然而,正如在理由一中论述的那样,上诉法院认为南威尔士警方使用AFRLocate没有满足第8条第2款规定的条件,是对第8条权利的干预,并且该干预不能被视为“依照法律规定”。

由于存在上述缺陷,《数据保护影响评估》没有能够恰当地评估对数据主体的权利和自由造成的风险,也没有能够提出解决这些风险的措施,违反了《2018年数据保护法》第64条第3款b项和c项的规定。

因此,上述法院采纳了“理由三”。

4、是否符合《2018年数据保护法》第42条的规定?

《2018年数据保护法》第35条的数据保护第一原则要求数据控制者出于执法目的进行个人信息处理时,其必须拥有适当的政策文件。对该“适当政策文件”的要求规定在《2018年数据保护法》第42条中。

上诉人认为,原审法院有义务就南威尔士警方使用AFRLocate所依据的《2018年11月政策文件》(November2018PolicyDocument)是否符合《2018年数据保护法》第42条作出判决,但其没有作出该项判决。

上诉法院认为:

信息官向原审法院表示,南威尔士警方的政策文件包含足够的信息,足以满足第42(2)条的要求。信息官在本次上诉案件中也重申了这一观点。

因此,上诉法院认为,在原审法院本身不确定政策文件是否符合标准,而信息官向原审法院表达该政策文件满足了第42(2)条的要求(尽管理想情况下应该更加详细)的情况下,原审法院的判决正确。

5、是否履行了“公共部门平等保护职责”?

根据《2010年平等法案》(theEqualityAct2010)第149(1)条,公权力部门在行使职权时必须满足“公共部门平等保护职责”(publicsectorequalityduty)的要求,充分考虑消除歧视、骚扰、侵害和其他法案禁止的行为的需要,推进机会平等、促进良好关系。

上诉人认为,南威尔士警方违反了公共部门平等保护职责,因为他们从未就消除AFRLocate部署中可能引起的性别和种族歧视的必要性进行适当考虑。

首先,上诉法院认为,需厘清的要点是,上诉人并未声称南威尔士警方使用的AFRLocate确实具有歧视的效果。相反,上诉的基础是南威尔士警方违反了“应适当考虑消除歧视的需要”这一积极义务。

在这一背景下,上诉法院审查了原审法院的驳回理由:

(1)在使用AFRLocate时存在一个“人为故障保护”机制

针对AFRLocate的“人为故障保护”(humanfailsafe)机制,即自动化系统做出积极匹配后需要警员确认是否采取行动,上诉法院认为这一事实不足以说明已经尽到公共部门平等保护职责。首先,对公共部门平等保护职责来说,重要的是遵循程序,而非决定的内容;其次,人类也会犯错;最后,这一事实并没有解释理由五的核心问题——南威尔士警方没有去获取关于其使用的软件可能存在的偏见的信息。

(2)据警员DominicEdgell的证言,他发现在种族或性别的统计数字上实际没有差异。

上诉法院认为,这不足以满足公共部门平等保护职责的要求。一方面,与监视清单不匹配的数据会被自动删除,因此Edgell警员处理数据时,并不知道被AFR技术捕获但立即被删除的人口总数的种族或性别特征数据,但上述数据对于评估软件是否存在歧视或偏见而言是必要的;另一方面,南威尔士警方不知道训练AFRLocate所采用的数据集中是否存在人口不平衡。

对上诉法院来说,但最重要的仍然是南威尔士警方从未试图直接或通过独立验证来确认,使用AFRLocate是否会因种族或性别而产生不可接受的偏见。此外,对公共部门平等保护职责的要求也不会因为部署AFRLocate只是试点活动而有所不同。

综上,上诉法院认为南威尔士警方并未尽其所能来履行公共部门平等保护职责。

三、启示

二审判决表明,虽然数据保护法为执法部门基于预防、调查、侦查犯罪等执法目的处理个人数据提供了依据,但尚需专门的法律或政策文件对警方的自由裁量权进行限制。

对于原审法院认为充分的法律框架,上诉法院认为其存在两大缺陷:第一,“谁”可以被放入监视名单这一问题并不明确;第二,决定在“何处”部署AFR也无清晰的标准。目前,这两个问题都依赖于警察的判断。

2、公共部门应采取合理措施调查潜在的算法歧视问题

针对本案,ICO认为威尔士警方还可以在以下方面做出进一步努力:

THE END
1.人脸识别技术优缺点,人脸识别技术的原理腾讯云开发者社区现如今,在案件侦破,小区门禁,手机解锁等等方面,我们都需要用到人脸识别技术,这项技术应用到了很多的场景当中,对于日常的生活来说也提供了不少的便利,下面我们就将为大家介绍人脸识别技术。 人脸识别技术 一、人脸识别技术的优缺点 人脸识别技术的适用范围是相当的广的,在使用上也是非常的方便,它是通过根据人们脸部的https://cloud.tencent.com/developer/article/1845715
2.《深圳市物业管理电子投票规则》政策解读政策解读三、完善业主身份认证技术方案,保障业主投票权益 (一)增加人脸识别作为业主身份绑定的验证方式 业主身份验证是电子投票中至关重要的步骤。冒名绑定和冒名投票一直是广大业主在采用电子投票时最为关心的问题。为了确保业主身份和房屋信息准确,确保每位采用电子投票结果真实有效,在本次规则修订中,电子投票系统线上验证方式引入https://www.sz.gov.cn/zfgb/zcjd/content/mpost_8066372.html
3.目录《上海法学研究》集刊2021年第6卷大数据视角下企业数据合规体系搭建与应对策略 赵洁琼 茆昕怡 企业数据权利与用户隐私之界限研究 郑浩冉 数据主权规制下的数据知识产权保护 刘建 对场景化界定数据产权的思考 秦天雄 人脸识别规制 人脸识别技术进社区的场景化法律规制分析 黄晓雯 “人脸识别”场景下个人面部信息保护问题初探论——由“人脸识别第一案”展https://www.jfdaily.com/sgh/detail?id=633296