关键词:算法;算法责任;社会责任;数智经济
基金:国家社会科学基金重大项目(20&ZD073);中国社会科学院登峰战略企业管理优势学科建设项目的资助。
一、引言
本文余下部分的结构安排如下:第二部分基于逻辑起点检验和证成算法责任命题的正当性与合理性,第三部分系统梳理和分析算法责任观的纵向流变与动态迭代,第四部分刻画算法责任的完整构面和建构算法责任的全景画像,第五部分分析算法责任治理的逻辑理路和构建算法责任综合治理范式,最后归纳总结本文研究结论、理论贡献,提出政策启示和实践建议。
二、算法责任命题的逻辑起点与理论证成
(一)算法的代理者角色:算法责任产生的认知基础
(二)算法的多元价值载荷:算法责任生成的根本缘起
由于社会责任涉及价值判断与伦理规范,因此算法责任的生成取决于对算法价值属性的认知。从技术哲学和伦理学派出发,技术本身被认为内嵌价值(Flanaganetal.,2008),据此算法本身也被认为包含基本价值判断(Kraemeretal.,2011),是载荷价值的决策行动者(Martin,2019)。算法价值载荷(Value-laden)引申出算法对社会负责任的必然要求,成为算法责任生成的根本缘起,反映出算法责任概念具有正当性和合理性。进一步来看,算法的价值载荷主要源于3个方面,即算法存在的社会嵌入、算法主体的价值迁移和算法结果的社会影响。
1.算法存在的社会嵌入
2.算法主体的价值迁移
3.算法结果的社会影响
(三)算法权力崛起与滥用:算法责任出场的现实逻辑
1.算法权力崛起孪生出匹配性的算法责任
2.算法权力滥用催生出约束性的算法责任
(四)算法责任的特殊性:作为新命题存在具有合理性
三、算法责任观的纵向流变与动态迭代
表1不同算法责任观的比较
(一)技术中立视域下的责任否定观
在技术价值中立论来看,算法就像任何一项其他技术,其本身只有“工具性”而没有“目的性”,只是亚里士多德界定的工具型活动,具有韦伯区分出来的形式合理性和纯粹工具理性特征。也就是说,算法在本质上只不过是一把“技术菜刀”,是一种中性的工具,是无关好坏选择的价值中立(Hauer,2018),其如何被部署和应用,最终取决于人的目的,因此算法功能与实践后果是分离的,算法具有责任中立的性质。技术价值中立衍生的必然结果是对算法责任的否定,认为算法在伦理学上的中性使得算法没有社会责任可言。按照技术价值中立观点,如果一定要说算法责任,那么其唯一的内容就是在算法功能发挥过程中遵循了算法的技术原理和功能机制,无关任何价值内容。现实中,Facebook创始人扎克伯格曾在美国国会面前坚守技术中立观点,以此为Facebook不进行内容审查的算法行为进行辩解;被称作“卷积神经网络之父”的杨立昆(YannLeCun)也曾经隐含地从技术中立观点出发,将机器学习结果出现的偏见归咎于数据集偏见而不是算法偏见;在著名的“快播案”审理中,被告就援引技术中立观点并以“技术无罪”进行抗辩。这些都意味着,以技术价值中立论为基础的算法责任否定观曾经不乏支持者。
(二)技术伦理视域下的道德算法观
(三)人技信任视域下的“可信赖的算法”观
(四)社会责任视域下的“负责任的算法”观
四、算法责任画像的多维构面与全景透视
无论是构建负责任的算法,还是开展有效的算法责任治理,其基础都是要对算法责任的构造有一个全面系统的解构。而且,算法责任作为一个新生事物,绝不能仅仅停留于概念层面或理念层次,而是需要对其构面和要件具象化,识别其内容构成与范畴边界,绘制算法责任的全景画像。实际上,现实中对算法衍生出诸多现象的争论,相当程度上是因为对“算法责任到底包括哪些内容”缺乏清晰界定,更别说对算法责任范畴边界和完整构成形成基本共识,因此亟需对算法责任的构成要素与范畴边界进行深入探究。
(一)算法责任构面的建构方法与框架
综上分析,算法责任的完整构面包括责任缘起、责任性质、责任基础、责任主体、责任对象、责任内容、责任程度和责任机制,它们之间的关系如图1所示。
图1算法责任的构面框架
(二)基于构面具体化的算法责任全景画像
算法责任画像的轮廓由8个构面以某种逻辑关系勾勒而成,但画像的详细元素与完整画面仍然需要对每一个构面具体化。算法作为纯粹执行者、辅助决策者和独立决策者时,它们的责任缘起、责任性质、责任基础、责任主体、责任对象、责任内容、责任程度和责任机制存在差异,由此它们的画像也不尽相同。进一步来看,由于算法责任是组织社会责任或个体社会责任在算法活动层面的集中反映和深化拓展,且社会责任视域下的“负责任的算法”观实现了对技术中立视域下的责任否定观、技术伦理视域下的道德算法观、人技信任视域下的“可信赖的算法”观的超越,因此算法责任画像的勾勒应以社会责任视域下的“负责任的算法”观为理论指引,以便刻画出来的算法责任能够支持构建负责任的算法。
1.算法作为纯粹执行者的算法责任画像
2.算法作为辅助决策者的算法责任画像
3.算法作为独立决策者的算法责任画像
综合算法作为纯粹执行者、辅助决策者和独立决策者的责任构面具体化,算法责任的完整画像如表2所示。
表2算法责任的完整画像
五、算法责任治理的逻辑理路与范式建构
(一)算法责任治理的前因与逻辑理路
1.“人”的行为偏差→人为型算法失当→对“人”的治理
2.算法的技术缺陷→功能型算法失当→对算法的治理
3.社会的生态失调→触发型算法失当→对社会的治理
(二)算法责任综合治理范式的九宫格模型
对于算法责任治理范式,目前的直接或间接研究主要有两类:第一类是整体性的治理范式,如针对人工智能或算法的节点治理和协同治理(杜严勇,2018)、场景化治理(丁晓东,2020)、精准化治理(张欣,2021);第二类是具体化的治理方式,如算法透明度(Leprietal.,2018)、算法可解释性(Martin,2019;Criadoetal.,2020)、个体数据赋权(丁晓东,2020)、算法影响评估制度(张凌寒,2021b)、算法审计(张超,2021)、算法问责制(Neyland,2019)、道德算法(WallachandAllen,2009;李伦、孙保学,2018)。深入分析来看,对算法责任治理范式的已有研究至少存在3个方面的不足:缺乏对算法责任的深度理解与系统刻画,没有从真正意义和完整意义的社会责任角度对算法责任治理范式进行建构;缺乏对算法责任治理逻辑的详细剖解,没有形成算法责任治理范式建构的完整逻辑链条;缺乏算法责任治理的综合性框架,多数范式或方式聚焦于算法责任治理的特定领域、特定方法和特定主体,无法实现对算法责任的全面系统治理。实际上,“负责任的算法”的构建应当是算法责任的全面落实,相应的算法责任治理也应当是综合性的、系统性的,即算法责任综合治理范式。
图2算法责任综合治理范式的九宫格模型
1.对“人”的3种治理方式
2.对算法的3种治理方式
3.对社会的3种治理方式
(三)算法责任治理方式的场景化适配
表3算法责任治理方式与不同算法场景的适配性矩阵
六、结论与建议
(一)研究结论与边际贡献
(二)政策启示与实践建议
算法责任是一个强实践性概念,加之算法实践的新兴性、复杂性和动态性,因此有效的算法责任治理需要在综合治理范式建构的基础上,从政府和企业两类治理主体角度,进一步探寻合意的实践进路和因应对策,推动治理的精度、信度和效度不断提升,形成更高质量的“负责任的算法”。
1.政府层面:加快算法责任制度供给与创新算法监管方式
2.企业层面:全面落实算法责任议题与构建可持续性算法商业模式
参考文献
(2)卢西亚诺·弗洛里迪:《第四次革命》,王文革译,浙江人民出版社,2016年。
(3)安东尼·吉登斯:《现代性的后果》,田禾译,译林出版社,2000年。
(4)凯伦·杨、马丁·洛奇:《驯服算法:数字歧视与算法规制》,林少伟、唐林垚译,上海人民出版社,2020年。
(5)陈凡、贾璐萌:《技术伦理学新思潮探析--维贝克“道德物化”思想述评》,《科学技术哲学研究》,2015年第6期。
(6)崔靖梓:《算法歧视挑战下平等权保护的危机与应对》,《法律科学(西北政法大学学报)》,2019年第3期。
(7)丁晓东:《论算法的法律规制》,《中国社会科学》,2020年第12期。
(8)杜严勇:《论人工智能的自反性伦理治理》,《新疆师范大学学报(哲学社会科学版)》,2018年第2期。
(9)浮婷:《算法“黑箱”与算法责任机制研究》,中国社会科学院大学(研究生院)博士学位论文,2020年。
(10)郭林生、李小燕:《“算法伦理”的价值基础及其建构进路》,《自然辩证法通讯》,2020年第4期。
(11)贾璐萌、陈凡:《当代技术伦理实现的范式转型》,《东北大学学报(社会科学版)》,2021年第2期。
(12)匡文波:《智能算法推荐技术的逻辑理路、伦理问题及规制方略》,《深圳大学学报(人文社会科学版)》,2021年第1期。
(13)李丹:《算法歧视消费者:行为机制、损益界定与协同规制》,《上海财经大学学报》,2021年第2期。
(14)李伦、孙保学:《给人工智能一颗“良芯(良心)”--人工智能伦理研究的四个维度》,《教学与研究》,2018年第8期。
(15)李升:《论人工智能伦理准则的细化与完善--基于50部人工智能伦理准则的梳理与解读》,浙江大学硕士学位论文,2020年。
(16)李伟阳、肖红军:《企业社会责任的逻辑》,《中国工业经济》,2011年第10期。
(17)李伟阳:《基于企业本质的企业社会责任边界研究》,《中国工业经济》,2010年第9期。
(18)李应潭:《人工智能可信赖性与可信赖算法研究》,《信息与控制》,1999年第2期。
(19)刘培、池忠军:《算法的伦理问题及其解决进路》,《东北大学学报(社会科学版)》,2019年第2期。
(20)刘友华:《算法偏见及其规制路径研究》,《法学杂志》,2019年第6期。
(21)梅亮、陈劲:《责任式创新:源起、归因解析与理论框架》,《管理世界》,2015年第8期。
(22)孟令宇:《算法伦理是何种伦理?--以“深度学习算法”为例》,载李伦,《数据伦理与算法伦理》,科学出版社,2019年。
(23)时建中:《共同市场支配地位制度拓展适用于算法默示共谋研究》,《中国法学》,2020年第2期。
(24)宋冰:《智能与智慧--人工智能遇见中国哲学家》,中信出版社,2020年。
(25)孙保学:《人工智能算法伦理及其风险》,《哲学动态》,2019年第10期。
(26)孙萍:《“算法逻辑”下的数字劳动:一项对平台经济下外卖送餐员的研究》,《思想战线》,2019年第6期。
(27)汪怀君、汝绪华:《人工智能算法歧视及其治理》,《科学技术哲学研究》,2020年第2期。
(28)吴椒军、郭婉儿:《人工智能时代算法黑箱的法治化治理》,《科技与法律(中英文)》,2021年第1期。
(29)吴梓源、游钟豪:《AI侵权的理论逻辑与解决路径--基于对“技术中立”的廓清》,《福建师范大学学报(哲学社会科学版)》,2018年第5期。
(30)肖红军、李平:《平台型企业社会责任的生态化治理》,《管理世界》,2019年第4期。
(31)肖红军:《共享价值式企业社会责任范式的反思与超越》,《管理世界》,2020年a第5期。
(32)肖红军:《责任型平台领导:平台价值共毁的结构性治理》,《中国工业经济》,2020年b第7期。
(33)谢栩楠:《算法合谋反垄断规制的原理、挑战与应对》,《深圳社会科学》,2021年第2期。
(34)辛巧巧:《算法解释权质疑》,《求是学刊》,2021年第3期。
(35)许可、朱悦:《算法解释权:科技与法律的双重视角》,《苏州大学学报(哲学社会科学版)》,2020年第2期。
(36)薛澜、赵静:《走向敏捷治理:新兴产业发展与监管模式探究》,《中国行政管理》,2019年第8期。
(37)闫宏秀:《可信任:人工智能伦理未来图景的一种有效描绘》,《理论探索》,2019年第4期。
(38)阳镇、陈劲:《数智化时代下的算法治理--基于企业社会责任治理的重新审视》,《经济社会体制比较》,2021年第2期。
(39)袁曾:《无人驾驶汽车侵权责任的链式分配机制--以算法应用为切入点》,《东方法学》,2019年第5期。
(40)张超:《资讯类推荐算法的算法审计路径、伦理与可审计机制》,《中国出版》,2021年第7期。
(41)张恩典:《反算法歧视:理论反思与制度建构》,《华中科技大学学报(社会科学版)》,2020年第5期。
(42)张凌寒:《算法评估制度如何在平台问责中发挥作用》,《上海政法学院学报(法治论丛)》,2021年b第3期。
(43)张凌寒:《算法权力的兴起、异化及法律规制》,《法商研究》,2019年第4期。
(44)张凌寒:《网络平台监管的算法问责制构建》,《东方法学》,2021年a第3期。
(45)张欣:《从算法危机到算法信任:算法治理的多元方案和本土化路径》,《华东政法大学学报》,2019年b第6期。
(46)张欣:《算法解释权与算法治理路径研究》,《中外法学》,2019年a第6期。
(47)张欣:《算法影响评估制度的构建机理与中国方案》,《法商研究》,2021年第2期。
(48)郑玉双:《破解技术中立难题--法律与科技之关系的法理学再思》,《华东政法大学学报》,2018年第1期。
(49)周祖城:《企业社会责任的关键问题辨析与研究建议》,《管理学报》,2017年第5期。
(50)Ananny,M.,2016,“TowardanEthicsofAlgorithms:Convening,Observation,Probability,andTimeliness”,Science,Technology&HumanValues,Vol.41(1),pp.93~117.
(51)Bakker,F.G.A.,Groenewegen,P.andHond,F.,2005,“ABibliometricAnalysisof30YearsofResearchandTheoryonCorporateSocialResponsibilityandCorporateSocialPerformance”,BusinessandSociety,Vol.44(3),pp.283~317.
(52)Balkin,J.M.,2018,“FreeSpeechintheAlgorithmicSociety:BigData,PrivateGovernance,andNewSchoolSpeechRegulation”,UCDavisLawReview,Vol.51(3),pp.1149~1210.
(53)Barber,B.,1983,TheLogicandLimitsofTrust,NewBrunswick,NJ:RutgersUniversityPress.
(54)Beer,D.,2009,“PowerthroughtheAlgorithmParticipatoryWebCulturesandtheTechnologicalUnconscious”,NewMedia&Society,Vol.11(6),pp.985~1002.
(55)Beer,D.,2017,“TheSocialPowerofAlgorithms”,Information,Communication&Society,Vol.20(1),pp.1~13.
(56)Beneke,F.andMackenrodt,M.O.,2021,“RemediesforAlgorithmicTacitCollusion”,JournalofAntitrustEnforcement,Vol.9(1),pp.152~176.
(57)Binns,R.,2018,“AlgorithmicAccountabilityandPublicReason”,Philosophy&Technology,Vol.31(4),pp.543~556.
(58)Brauneis,R.andGoodman,E.P.,2018,“AlgorithmicTransparencyfortheSmartCity”,YaleJournalofLawandTechnology,Vol.20(1),pp.103~176.
(59)Brey,P.A.E.,2012,“AnticipatingEthicalIssuesinEmergingIT”,EthicsandInformationTechnology,Vol.14(4),pp.305~317.
(60)Brundage,M.,2016,“ArtificialIntelligenceandResponsibleInnovation”,inMüller,V.C.,FundamentalIssuesofArtificialIntelligence,NewYork:Springer.
(61)Bryson,J.J.,2010,“RobotsShouldbeSlaves”,inWilks,Y.(eds),CloseEngagementswithArtificialCompanions:KeySocial,Psychological,EthicalandDesignIssues,Amsterdam:JohnBenjaminPublishingCompany.
(62)Burget,M.,Bardone,E.andPedaste,M.,2017,“DefinitionsandConceptualDimensionsofResponsibleResearchandInnovation:ALiteratureReview”,ScienceandEngineeringEthics,Vol.23(1),pp.1~19.
(63)Carroll,A.B.,1979,“AThree-dimensionalConceptualModelofCorporatePerformance”,AcademyofManagementReview,Vol.4(4),pp.497~505.
(64)Cormen,T.H.,Leiserson,C.E.andRivest,R.L.,2009,IntroductiontoAlgorithms,Cambridge,MA:MITPress.
(65)Criado,J.I.,Valero,J.andVillodre,J.,2020,“AlgorithmicTransparencyandBureaucraticDiscretion:TheCaseofSALEREarlyWarningSystem”,InformationPolity,Vol.25(4),pp.449~470.
(66)Cristianini,N.andScantamburlo,T.,2020,“OnSocialMachinesforAlgorithmicRegulation”,AI&Society,Vol.35(3),pp.645~662.
(67)D’Agostino,M.andDurante,M.,2018,“Introduction:TheGovernanceofAlgorithms”,Philosophy&Technology,Vol.31(4),pp.499~505.
(68)Danaher,J.,Hogan,M.,Noone,C.,etal.,2017,“AlgorithmicGovernance:DevelopingaResearchAgendaThroughthePowerofCollectiveIntelligence”,BigData&Society,Vol.4(2),pp.1~21.
(69)DelCasino,V.J.,Jr.,House-Peters,L.,Crampton,J.W.andGerhardt,H.,2020,“TheSocialLifeofRobots:ThePoliticsofAlgorithms,Governance,andSovereignty”,Antipode,Vol.52(3),pp.1~14.
(70)Diakopoulos,N.,2015,“AlgorithmicAccountabilityJournalisticInvestigationofComputationalPowerStructures”,DigitalJournalism,Vol.3(3),pp.398~415.
(71)Elkington,J.,1998,CannibalswithForks:TheTripleBottomLineof21stCenturyBusiness,GabriolaIsland,BC:NewSocietyPublishers.
(72)Etzioni,A.andEtzioni,O.,2016,“DesigningAISystemsthatObeyOurLawsandValues”,CommunicationsoftheACM,Vol.59(9),pp.29~31.
(73)Ezrachi,A.andStucke,M.E.,2017,“TwoArtificialNeuralNetworksMeetinanOnlineHubandChangetheFutureofCompetition,MarketDynamicsandSociety”,UniversityofTennesseeCollegeofLaw,Vol.7(323),pp.1~15.
(74)Flanagan,M.,Howe,D.C.andNissenbaum,H.,2008,“EmbodyingValuesinTechnology:TheoryandPractice”,inHoven,J.,V.,D.andWeckert,J.(eds),InformationTechnologyandMoralPhilosophy,Cambridge:CambridgeUniversityPress.
(75)Friedman,B.,Kahn,P.H.,Jr.andBorning,A.,2002,ValueSensitiveDesign:TheoryandMethods,Washington,D.C.:UniversityofWashington.
(76)Gal,M.S.,2019,“AlgorithmsasIllegalAgreements”,BerkeleyTechnologyLawJournal,Vol.34(1),pp.67~118.
(77)Gal,U.,Jensen,T.B.andStein,M.K.,2020,“BreakingtheViciousCycleofAlgorithmicManagement:AVirtueEthicsApproachtoPeopleAnalytics”,InformationandOrganization,Vol.30(2),pp.1~15.
(78)Gerlick,J.A.andLiozu,S.M.,2020,“EthicalandLegalConsiderationsofArtificialIntelligenceandAlgorithmicDecision-makinginPersonalizedPricing”,JournalofRevenueandPricingManagement,Vol.19(2),pp.85~98.
(79)Gillespie,T.,2014,“TheRelevanceofAlgorithms”,inGillespie,T.,Boczkowski,P.,J.andFoot,K.,A.(eds),MediaTechnologies:EssaysonCommunication,Materiality,andSociety(InsideTechnology),Cambridge:TheMITPress.
(81)Guston,D.H.andSarewitz,D.,2002,“Real-TimeTechnologyAssessment”,TechnologyinSociety,Vol.24(1),pp.93~109.
(82)Hauer,T.,2018,“SocietyandtheSecondAgeofMachines:AlgorithmsVersusEthics”,Society,Vol.55,pp.100~106.
(83)Houkes,W.andVermaas,P.,2004,“ActionsVersusfunctions:APleaforanAlternativeMetaphysicsofArtifacts”,TheMoist,Vol.87(1),pp.52~71.
(84)Introna,L.,D.,2016,“Algorithms,Governance,andGovernmentality:OnGoverningAcademicWriting”,ScienceTechnologyandHumanValues,Vol.41(1),pp.17~49.
(85)ISO,2010,ISO26000:GuidanceonSocialResponsibility,Geneva:ISO.
(86)Jaspers,K.,1963,TheAtomBombandtheFutureofMan,Chicago:UniversityofChicagoPress.
(87)Just,N.andLatzer,M.,2017,“GovernancebyAlgorithms:RealityConstructionbyAlgorithmicSelectionontheInternet”,Media,Culture&Society,Vol.39(2),pp.238~258.
(88)Kalpokas,I.,2019,AlgorithmicGovernance:PoliticsandLawinthePost-HumanEra,Cham:SpringerNatureSwitzerlandAG.
(89)Kim,E.S.,2020,“DeepLearningandPrincipal-AgentProblemsofAlgorithmicGovernance:TheNewMaterialismPerspective”,TechnologyinSociety,Vol.63(C),pp.1~9.
(90)Kitchin,R.,2017,“ThinkingCriticallyAboutandResearchingAlgorithms”,Information,Communication&Society,Vol.20(1),pp4~29.
(91)Kraemer,F.,Overveld,K.V.andMartin,P.,2011,“IsThereanEthicsofAlgorithms”,Philosophy&Technology,Vol.13(3),pp.251~260.
(92)Krafft,T.D.,Zweig,K.A.andKnig,P.D.,2020,“HowtoRegulateAlgorithmicDecision-Making:AFrameworkofRegulatoryRequirementsforDifferentApplications”,Regulation&Governance,doi:10.1111/rego.12369.
(93)Kroll,J.A.,Huey,J.,Barocas,S.,etal.,2017,“AccountableAlgorithms”,UniversityofPennsylvaniaLawReview,Vol.165(3),pp.633~705.
(94)Kushner,S.,2013,“TheFreelanceTranslationMachine:AlgorithmicCultureandtheInvisibleIndustry”,NewMedia&Society,Vol.15(8),pp.1241~1258.
(95)Lash,S.,2007,“PowerafterHegemony:CulturalStudiesinMutation”,Theory,Culture&Society,Vol.24(3),pp.55~78.
(96)Lepri,B.,Oliver,N.,Letouz′e,E.,Pentland,A.andVinck,P.,2018,“Fair,Transparent,andAccountableAlgorithmicDecisionmakingProcesses”,Philosophy&Technology,Vol.31(4),pp.611~627.
(97)Luhmann,N.,1979,TrustandPower,NewYork:JohnWiley.
(98)Martin,K.,2019,“EthicalImplicationsandAccountabilityofAlgorithms”,JournalofBusinessEthics,Vol.160(4),pp.835~850.
(99)Matthias,A.,2004,“TheResponsibilityGap:AscribingResponsibilityfortheActionsofLearningAutomata”,EthicsandInformationTechnology,Vol.6(3),pp.175~183.
(100)Moor,J.H.,2006,“TheNature,Importance,andDifficultyofMachineEthics”,IEEEIntelligentSystems,Vol.21(4),pp.18~21.
(101)Neyland,D.,2019,AccountabilityandtheAlgorithm.InTheEverydayLifeofanAlgorithm,Cham:PalgravePivot.
(102)OECD,2017,AlgorithmsandCollusion-BackgroundNotebytheSecretariat,DAF/COMP(2017)4,OECD-DirectorateforFinancialandEnterpriseAffairsCompetitionCommittee.
(103)Owen,R.,Macnaghten,P.andStilgoe,J.,2012,“ResponsibleResearchandInnovation:FromScienceinSocietytoScienceforSociety,withSociety”,ScienceandPublicPolicy,Vol.39(6),pp.751~760.
(104)Pasquale,F.,2015,TheBlackBoxSociety:TheSecretAlgorithmsThatControlMoneyandInformation,Cambridge:HarvardUniversityPress.
(105)Roth,A.,2016,“TrialbyMachine”,GeorgetownLawJournal,Vol.104(5),pp.1245~1306.
(106)Saurwein,F.,Just,N.andLatzer,M.,2015,“GovernanceofAlgorithms:OptionsandLimitations”,Info,Vol.17(6),pp.35~49.
(107)Schultze,U.,Aanestad,M.,Mhring,M.,sterlund,C.andRiemer,K.,2018,LivingwithMonstersSocialImplicationsofAlgorithmicPhenomena,HybridAgency,andthePerformativityofTechnology,Cham:SpringerNatureSwitzerlandAG.
(108)Sedgewick,R.andWayne,K.,2011,Algorithms(FourEdition),Boston,MA:PearsonEducation,Inc.
(109)Stilgoe,J.,Owen,R.andMacnaghten,P.,2013,“DevelopingaFrameworkforResponsibleInnovation”,ResearchPolicy,Vol.42(9),pp.1568~1580.
(110)Stirling,A.,2008,“‘OpeningUp’and‘ClosingDown’Power,Participation,andPluralismintheSocialAppraisalofTechnology”,Science,Technology&HumanValues,Vol.33(2),pp.262~294.
(111)Strate,L.,2012,“IfIt’sNeutral,It’sNotTechnology”,EducationalTechnology,Vol.52(1),pp.6~9.
(112)Thero,D.P.,2006,UnderstandingMoralWeakness,Amsterdam;NewYork:Rodopi.
(113)Ulbricht,L.,2018,“WhenBigDataMeetSecuritization.AlgorithmicRegulationwithPassengerNameRecords”,EuropeanJournalforSecurityResearch,Vol.3(2),pp.139~161.
(114)Verbeek,P.P.,2006,“MaterializingMorality:DesignEthicsandTechnologicalMediation”,Science,TechnologyandHumanValues,Vol.31(3),pp.361~380.
(115)Verbeek,P.P.,2008,“CyborgIntentionality:RethinkingthePhenomenologyofHuman-TechnologyRelations”,Phenomenology&theCognitiveSciences,Vol.7(3),pp.387~395.
(116)VonSchomberg,R.,2013,“AVisionofResponsibleInnovation”,ResponsibleInnovation,Vol.82(4),pp.51~74.
(117)Wallach,W.andAllen,C.,2009,MoralMachines:TeachingRobotsRightfromWrong,Oxford:OxfordUniversityPress.
(118)Willson,M.M.,2017,“Algorithms(andthe)Everyday”,Information,Communication&Society,Vol.20(1),pp.137~150.
(119)Yeung,K.,2017,“‘Hypernudge’:BigDataasaModeofRegulationbyDesign”,Information,Communication&Society,Vol.20(1),pp.118~136.
(120)Zerilli,J.,Knott,A.,Maclaurin,J.andGavaghan,C.,2019,“TransparencyinAlgorithmicandHumanDecision-Making:IsThereaDoubleStandard”,Philosophy&Technology,Vol.32(4),pp.661~683.
(121)liobait,I.,2017,“MeasuringDiscriminationinAlgorithmicDecisionMaking”,DataMiningandKnowledgeDiscovery,Vol.31(2),pp.1~30.
肖红军.算法责任:理论证成、全景画像与治理范式[J].管理世界,2022,38(04):200-226.