[摘要]算法决策逐渐参与到政府行政决策中，在为政府提供更多智能化、科学化决策的同时，算法滥用所产生各种风险和挑战接踵而至。“技术利维坦”“权力异化”对政府自动化决策的公平正义提出挑战，如何规制成为政府行政绕不开的话题。通过国家算法机构的建立、建立公开透明的算法机制、完善法治和监督制度等，推进政府自动化行政始终在健康有序的道路上前进。
[关键词]算法决策；大数据；风险和挑战；规制路径
[中图分类号]D63
[文献标识码]A
以大数据、算法为基础的人工智能技术深刻地改变着人们的社会、生活方式。进入数字时代，算法正以独特的方式影响着大众的决策方式，为政府决策提供了技术支持。起初，算法应用于决策仅停留在私人领域和商业应用，由于其在运行速度、精准计算等方面的卓越表现，算法技术被推广至公共决策领域，政府决策有了其特有的“模样”。随着算法技术在私人领域和公共领域的广泛应用，其影响力也越来越大，逐渐成长为规制社会的重要力量。可以说，算法技术对于公共治理有明显的赋能作用，这种作用不仅表现为对信息的搜集、分发以及反馈的及时精准，还表现在需要法律、行政人员所驱动的公共行政系统，逐渐变化为由技术驱动的“自动分析、自动决策、自动执行”的算法行政系统。至此，算法决策时代强势到来。
一、问题的提出
二、算法决策用于行政决策的必然性
随着计算机的应用和信息技术的发展，越来越多的行政机构呼吁“自动化办公”“自动化决策”，随之开始活跃在人们的视野中，在自动化决策初期，基本以单纯的机器加入为主要实现方式，此时机器参与的主要方式都比较局限，大数据、算法技术的加入在一定程度上拓展了政府行政的广度和深度，弥补了政府行政的不足。
（一）算法嵌入行政决策的范围进一步扩大
（二）算法嵌入行政决策中的平等性提高效应
（三）算法嵌入行政决策中的效率提升效应
三、算法决策在行政决策中面临的风险挑战
在人工智能时代，算法决策的应用场景越来越广泛，但是，每一种技术的应用没有绝对的安全，同样，算法决策即便日臻成熟，但是也仍旧因其自身特点存在不可靠性。因为正是自动决策算法不断出现的应用场景，使得我们在见识了算法伟力的同时，也陷入了人的客体化危机。[4]算法嵌入行政化程序面临着来自不同方面的风险挑战。
（一）算法权力引发的行政决策不平衡
随着算法行政的逐渐兴起，未来算法有可能会成为行政决策的主流，算法权力以其架构优势和嵌入优势与行政管理联系越来越紧密，进一步造成了行政决策的不平衡。算法权力加速了公权力的主导，算法技术帮助行政部门收集信息、处理信息，行政部门借助算法可以实现对行政相对人的精准识别，致使蔓延至公民隐私领域。利用反应性算法则可能会造成对个人隐私的侵犯，但实力与预测性算法则可能因为一点技术上的误差造成个人权利受损，如提供的数据稍微不准确有可能对行政相对人的个人画像不精准，从而带来生活上工作上诸多困难。预测型算法使得决策行为发生在具体行政行为之前，完全不受正当程序的制约。[5]算法从不同层面渗透到行政决策当中，原本作为行政管理辅助手段的算法技术，却在行政决策中起到越来越关键的作用。技术的赋能使得算法治理越来越不受控制，逐渐成为凌驾于人的技术权利，算法霸权逐渐产生。算法本是人们治理社会的工具，在实施过程中却成为权力行使的主体。此外，算法的权力主体如何认定，也成为行政决策中亟须解决的问题。
（二）算法黑箱致使行政决策程序不透明化
（三）算法偏见挑战行政决策公正原则
（四）算法决策引发的个人信息泄露
算法技术的便捷和高效为行政主体介入私权利空间提供了低成本的手段，政府依靠算法权力掌握公民的个人信息，进而监控公民的个人行为。[6]进入数字时代，数据成为算法决策的要素，算法推动数据转化为生产力。作为一种生产的基础要素，数据逐渐成为推动数字时代社会经济发展和社会创新的驱动力，是社会创造物质财富和经济发展的基础资源。[7]算法决策中，依据搜集到的巨量的信息对行政相对人进行分析和研判，在这个过程中行政机构对行政相对人所产生的数据信息进行搜集，个人所产生的巨量数据成为行政决策的重要依据，比如在交通执法、个人信用体系等，随之而来的是个人行程、个人信息的泄露。行政决策在技术的加持下效率不断提高，但是这也意味着公民所有的信息时刻暴露在政府的监控之下。“棱镜门事件”为我们敲响了警钟，如果说政府行政效率的提高要以牺牲行政相对人的隐私为代价，那么公权力可能会借助算法权力扩张，侵犯公民的隐私权。
（五）算法决策的法律制度建设挑战
从法治的角度来看，行政程序公正合法是行政程序的题中应有之义，我国现行的行政程序制度是在传统行政法的背景下制定的，未将自动化行政尤其是全自动化行政考虑进去，但随着人工智能技术的蓬勃发展，其在行政领域的运用已是大势所趋，自动化行政成为不可回避的话题。[8]由于信息技术的发展，随之而来的新的数字技术出现了突飞猛进的进步，但是如何解决发展与制度建设之间的鸿沟成为需要深刻思考的问题。算法决策带来行政决策手段的便捷，行政效率明显提高，但是，也会面临着机器执法所带来的刚性较强、弹性较弱的问题。同时，在算法决策带来便捷的同时，各种法律隐患也存在其中，比如如何依法使用数据，如何保护数据安全，个人隐私的法律规制等等。算法决策夹杂着技术与法律的双重因素，对于技术必须有相应的制度和法律保障，需要认真对待自动化行政背后的制度和法律逻辑。在实体法律层面，还应该看到在行政主体责任认定方面也存在挑战，如何建立算法决策法律责任制度以弥补算法卸责等情况的出现，包括行政相对人的知情权、自动化程序的参与权、如何建立透明公正的算法决策的行政制度法规。此外，行政处罚法、行政许可法等法律的完善健全也成为亟待解决的问题。
四、算法决策在行政决策中的规制路径
人工智能、算法等技术发展的最初和最终目的都是为人类社会的发展创造更多的可能性，为行政决策和社会治理提供正向的价值导向是算法决策的目标，如何应对治理过程中存在的挑战，对算法决策的发展未来起着重要的作用，只有促进技术与行政决策交互融合，才能促进算法决策良性发展。
（一）厘清算法决策应用边界
算法权力的不断扩大将进一步推动行政权力挤压私权力，要构建算法技术介入行政决策的范围和边界，防止算法权力的进一步扩大而导致的公权力的异化。“让技术归于技术，人工归于人工”，采取技术和人工相结合的方式，将不存在价值导向、伦理标准等的行政行为采用技术手段加以处理，涉及价值导向等重要信息则需要人工干预。进一步促进人机交互合作，避免行政决策走入“技术至上”的陷阱。建立国家层面的算法决策中心，通过国家层面对算法技术的维护和使用，划分出研究和应用领域，使国家掌握算法决策的主导权，从而为进一步提高政府决策提供重要且可靠的支持。制定算法决策合理使用清单，算法技术应用于行政决策的初衷是政府行政的辅助手段，在算法参与行政决策过程中应建立一个应用范围清单，什么是适用范围什么是不适用范围，都要做一个明确的规定，并且要适应行政决策发展的动态变化，如此才能有效保证算法决策在合理范围内应用。
（二）建立公开透明的算法决策运行机制
算法不透明是导致政府治理风险的原因之一，算法技术在参与政府行政中要经历由输入再到输出的过程，居于中间的运算过程具有隐蔽性，这就极有可能产生暗箱操作，加之算法的设计过程是不对外公开，算法不透明的运行机制是导致社会治理风险的因素之一，只有建立公开透明的机制才能有效防止算法“黑箱”，使社会信任算法。坚持算法透明原则，算法透明是对行政主体提出的要求，算法透明保证了民众对行政决策的了解程度，积极主动发现算法决策中的不公平现象，及时消除民众疑惑，进一步增强公众对行政决策部门的信任。需要注意的是在算法透明的过程中要进行有限度的公开，对于关系到行政对象财产、健康、安全等利益时，应对行政对象公开，并且给予决策对象拒绝算法决策的权力。对于涉及国家安全、算法企业核心商业秘密源代码则不应该公开，因其公开对行政对象并无决定性意义，对行政主体也不具备参考性。建立定时、分级公开制度，政府要对决策对象定期公开算法使用范围，明确决策是否使用了算法，使决策对象了解算法决策对自己的影响。
（三）建立健全算法决策法治与监督制度
（四）搭建算法决策“善治”平台系统
“技术向善”是技术智能时代的人们对于未来最美好的愿景，技术与制度同频共振是构建“技术向善”的重要条件。搭建一套整合“软硬兼具”的平台系统，平台通过占有大量合法的数据，为决策主体正确、客观的决策提供必要条件；同时，平台系统要建立一套顶层智能系统，将云计算、人工智能、大数据、区块链整合在一个更为庞大的技术平台之中，并通过技术标准、制度体系和文化机制的完善，对这些数字技术进行整合、分配，从而达到“善治”的效果，用技术来规制技术，达到技术层面的公平，维护公共决策部门的公共性，以期达到公平正义的目的。
（五）建立算法决策问责机制
责任明晰是行政决策公平透明、构建社会信任的重要保障，如何构建技术视角下的问责机制是行政决策的重要内容。算法作为技术手段，在行政决策的过程中往往会出现权责不清晰的情况，从而导致“算法卸责”的产生。因此要进一步完善算法问责机制，厘清决策主体的责任范畴，在推动算法透明度的过程中，逐步明晰主体责任承担内容，同时需要强化主体责任意识，由算法的运行向算法权力的规制转变，以此督促算法决策使用主体切实负起算法技术应用的责任。进一步厘清算法决策责任范围、问责标准，对算法决策采用多步骤的检测程序，纠正算法决策的偏差，识别有害结果。实行严格的问责程序，对于数据泄露、篡改决策结果等恶意行为要严格规范和惩罚，探索运用技术将算法决策问责行为纳入行政决策范畴，以明确的责任范畴防止“算法卸责”的产生。
（六）建立算法决策反馈路径
五、结论
[参考文献]
[1]高同非.论自动化行政中的“算法卸责”[J]，电子政务，2023(2).
[2]侯东德，张可法.算法自动化决策的属性、场域与风险规制[J]，学术研究，2022(8).
[3]孙瑞.算法善治：公共领域算法决策的冲突、风险及规制[J]，互联网天地，2022(9).
[4]林洹民.自动决策算法的风险识别与区分规制[J]，比较法研究，2022(2).
[5]张婧飞，姚如许.自动化行政视角下算法权力的异化风险及规制[J]，大连大学学报，2022(6).
[6]张婧飞，姚如许.自动化行政视角下算法权力的异化风险及规制[J]，大连大学学报，2022(6).
[7]黄其松、陈朝朗.论数据权力——基于要素、认知和行为维度[J]，电子政务，2023(4).