关键词：数字企业；科技伦理；治理体系
基金：国家社会科学基金重大项目“国企混合所有制改革的实现路径选择研究”（批准号：20&ZD073）；中国社会科学院国情调研重大项目“数字科技伦理监管制度调查研究”（批准号：GQZD2023009）；中国社会科学院登峰战略企业管理优势学科建设项目的阶段性成果。
一、引言
二、企业数字科技伦理发展的演变历程
对中国主要数字科技企业、数字科技伦理监管制度体系建设、关键性伦理监管部门设置以及重要事件等进行回顾和梳理，将中国企业数字科技伦理的演变历程大致划分为三个阶段：第一阶段是2015年以前，网络与信息安全是企业数字科技伦理的早期体现；第二阶段是2015年至2021年，科技伦理被明确提出并将人工智能纳入其中；第三阶段是2022年至今，企业数字科技伦理内容细化且外延拓展。
（一）网络与信息安全是企业数字科技伦理的早期体现（2015年以前）
1994年中国接入国际互联网的64K专线开通，开启了互联网时代。互联网成为经济发展的重要动力，催生出软件服务、电子商务、网络游戏等新兴产业，也引发了黑客攻击、特洛伊木马等网络安全问题。网站数据库被窃取、公民个人信息泄露以及由此带来的财产损失，并逐渐衍生出网络黑色产业链，带来诸多不良社会影响。维护网络与信息安全被提上日程，并与经济、法律和公益共同成为企业社会责任履行的重要内容（Carrolletal.，1991；陈炳富与周祖城，2000）。2014年6月，中国与联合国首次联合举办了信息和网络安全国际研讨会，会上就网络空间国际规则制定、互联网治理等问题展开深入探讨。同年12月，首届世界互联网大会在中国举行，互联网共享共治成为重要话题。维护网络与信息安全是这一时期中国企业数字科技伦理治理的主要内容。
（二）“科技伦理”被明确提出并将人工智能等纳入其中（2015-2021年）
伴随大数据、人工智能以及区块链等新一代数字技术兴起与应用，个人信息安全和隐私保护以及由此带来的一系列触及社会伦理道德的事件不断发生。数字科技伦理问题从网络与信息安全扩展至数据安全、隐私保护、算法透明度、深度伪造及数字鸿沟等领域。2015年，国务院发布的《促进大数据发展行动纲要》中提出，为保障大数据安全，要深化网络安全防护体系和态势感知能力建设，增强网络空间安全防护和安全事件识别能力。维护网络与信息安全从数字科技伦理治理主旋律转变为基础性和保障性支撑。此外，“科技伦理”“科技为善”以及“伦理规范”等理念在政府重要会议、文件中被明确提出，并逐渐成为企业数字科技伦理制度建设、管理实践以及经营活动的重要导向。
（三）企业数字科技伦理内容逐渐细化且外延拓展（2022年至今）
此外，数字科技伦理从科技与人的关系延伸到人与自然、科技与自然，即在数字科技研发及应用的过程中还要重视对自然环境的保护。党的二十大报告中指出，人与自然和谐共生是中国式现代化的重要本质之一。《数字中国建设整体布局规划》中指出，要推进数字技术与经济、政治、文化、社会、生态文明建设“五位一体”深度融合。在进行数字科技伦理监管和制度建设时需要将数字科技活动对环境的影响考虑在内，数字科技伦理的内涵应当拓展到对自然环境的保护（王希勤，2023）①，实现人与科技、科技与自然的和谐与共生。
三、企业数字科技伦理发展的新进展
1.网络安全与信息安全
网络安全是信息安全的基础，信息安全是网络安全的体现，两者紧密相连。网络安全与信息安全是一直贯穿至今的议题。网络安全体现为网络使用的过程安全以及网络环境的整体安全。信息安全体现为是否存在信息失真与信息被盗取等，并由此产生诈骗等不良社会影响。信息失真包括信息虚假、不当言论、网络诈骗以及网络暴力等。信息被盗取是指因网络安全防线被攻破而引起的信息被不法分子窃取并用于获取不正当财物等。
2.负责任的人工智能
为加强算法滥用以及算法透明度的治理，政府出台了《互联网信息服务算法推荐管理规定》《人工智能算法金融应用评价规范》，对算法推荐及金融领域的算法黑箱等伦理问题进行管理。数字科技企业制定算法管理制度并采取技术措施加以保障。例如腾讯推行算法备案机制来加强对算法的监督、检查和安全评估，并发布业内首份《可解释AI发展报告2022—打开算法黑箱的理念和实践》，对于提高算法的透明度和可解释性具有一定意义。为加强对深度伪造的规范与监管，政府先后出台《网络音视频信息服务管理规定》《网络信息内容生态治理规定》以及《互联网信息服务深度合成管理规定》等。数字科技企业主要以推出检伪或防伪平台等方式来应对深度伪造问题，例如百度于2019年推出国内首个深伪检测平台；腾讯研发人脸合成检测技术，并推出人脸检测平台“Faceln人脸防伪”。
3.数据安全与隐私保护
数据安全是指关键信息基础设施的运营者、数据控制者以及数据处理者应该采取必要措施，确保数据处于有效保护和合法利用的状态，以及具备保障持续安全状态的能力①。隐私保护主要强调个人信息或数据的安全性，尤其是生物识别、宗教信仰、特定身份、金融账户以及行踪轨迹等敏感信息，一旦泄露或被非法使用将会危害人格尊严、人身及财产安全等。
为加强数据安全与隐私保护，《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》等法规相继出台。数字科技企业将数据安全和隐私保护放在重要位置，在部门设置、制度建设以及技术措施中均有体现。例如百度设置了百度安全委员会和数据隐私保护委员会，制定了《百度数据安全策略》《百度隐私政策总则》等规章制度，并以人工智能技术为支撑，打造业界首个对外提供服务的App收集使用个人信息合规风险检测和治理系统—史宾格安全及隐私合规平台，以保障用户隐私安全。抖音集团、科大讯飞、华为以及腾讯等也采取类似的数据安全和隐私保护措施。
4.数字鸿沟
数字鸿沟体现为不同区域或不同群体之间由于在数字技能、数字资源以及基础设施等方面的差异而造成的信息落差及贫富进一步两极分化，导致数字鸿沟产生的原因还包括政府政策、经济水平、地理位置以及教育水平等。
5.网络内容健康性
网络内容健康性主要体现为是否包含不当言论、暴力、低俗、恶俗以及色情内容等，是否符合国家法律规范和社会伦理道德。网络直播行业的兴起在丰富人们生活的同时也出现了低俗软色情、低俗惩罚、恶意炒作以及违规诱导等行为，尤以一对一视频社交模式下的色情交易为甚，带来个人隐私暴露以及影响心理健康等伦理问题。
针对网络内容乱象，2021年，政府先后印发《关于加强网络文明建设的意见》以及《关于加强网络文明建设的实施方案》以提高网络内容质量，优化网络生态。2022年，国家互联网信息办公室开展了“清朗”系列专项行动，打击网络直播、短视频、信息内容以及应用程序信息服务等领域的乱象。抖音集团在网络直播和短视频领域具有代表性，针对网络内容健康性的治理措施主要包括制定《2022年抖音直播机构管理条例》等规范，定期发布“不良直播PK内容”的治理公示，开展“规范重点流量环节网络传播秩序专项”等系列行动，采取清理违规视频、关闭违规账号和给予无限期停播处罚等措施；快手也有类似治理措施。
未成年和青少年的价值观、人生观以及消费观等仍未系统地建立，一些不恰当和不健康的网络信息和游戏等会对其身心健康带来不良影响。如何正确引导未成年人和青少年正确使用网络与理性游戏，免受不良信息等侵害，关乎个人、家庭和国家的未来，更是企业数字科技伦理的重要议题。
（二）监管体系
1.监管制度建设
表12019-2023年中国企业数字科技伦理主要监管政策
2.监管机构设置
企业数字科技伦理的监管机构设置方面，从政策发布机构和职责来看，综合性政府机构主要包括科技部、工业和信息化部、中国科协、中央网络与信息化委员会、国家网信办以及公安部等。专门性政府机构则包括国家科技伦理委员会、国家新一代人工智能治理专业委员会等以及工业和信息化部设立的工业和信息化部科技伦理委员会、工业和信息化领域科技伦理专家委员会等。此外，从近两年的数字科技伦理监管政策的出台还可以发现，以国务院、科技部、中央网络与信息化委员会以及国家网信办联合其他部门的居多，单个部门制定监管政策的较少，例如《科技伦理审查办法（试行）》由科技部、工业和信息化部、教育部以及中国科协等十个部门联合发布。这在一定程度上表明在数字科技伦理监管方面形成了合力与共识，更凸显数字科技伦理治理的全局性和重要性。
（三）管理实践
1.治理部门设置
数字科技企业为加强科技伦理治理，避免产生伦理风险和损失，多设置委员会、工作组或工作专班等部门。目前，数字科技企业大多设置单一的数字科技伦理治理部门，即以上述形式中的某一个来履行科技伦理治理职能，也有部分数字科技企业设置双重的管理架构来强化科技伦理治理，例如抖音集团设置了信息安全委员会来统筹信息安全的总体战略规划，并对重大信息安全事件进行审查、监督以及指导等，其下设隐私保护工作小组来负责产品的隐私合规的落地等。双重的管理架构可以实现战略层与实践层相结合、管理层与业务层相结合，形成企业上下协调统一的科技伦理治理机制。阿里巴巴集团也采取类似的双重管理架构来对数字科技伦理进行治理。
2.战略层面的体现
数字科技伦理治理重要性的日益提高体现在企业将其高置于战略规划或企业整体层面，强调伦理治理的长期性与全局性。腾讯将“科技向善”设定为使命愿景，并将其体现在组织架构、制度建设、产品设计与生产、技术创新与人员培训之中，全企业践行“科技向善”。百度提出并长期贯彻人工智能伦理四大原则，逐步改进顶层设计及实施细则，将伦理意识和文化落实到企业各项活动中，力图打造负责任、可持续的人工智能产品与服务体系。2022年阿里巴巴集团提出科技伦理治理六项基本准则，对科技伦理的价值主张、科技技术、伦理原则以及治理框架等进行了整体谋划，将科技伦理理念融入产品和服务的全生命周期，推动发展负责任科技目标的实现。
3.管理制度建设
表2中国代表性企业数字科技伦理自律性制度建设情况
4.信息披露
数字科技企业对伦理治理的重视程度不断提高，对伦理治理的披露内容逐渐丰富，披露的方式或渠道主要包括企业社会责任报告，可持续发展报告，环境、社会和治理报告以及专项报告等。以2022年阿里巴巴集团的数字科技伦理治理信息披露情况为例，首先，对科技伦理治理情况进行整体性披露，涵盖基本准则、治理架构、管理制度、研发创新与开放自治等内容。其次，对重点伦理问题的治理情况进行详细披露，如对隐私保护与数据安全伦理治理的管理原则、治理框架、管理制度、安全技术与能力、研发创新与转化以及成绩与合规等方面进行披露。除以报告形式进行披露之外，数字科技企业还通过客户端或其他媒体以公告等形式发布治理热点伦理问题的原则、措施以及效果等内容，例如抖音通过发布关于抖音直播严肃整治“不良直播PK内容”的公告。
（四）社会生态
1.行业的自律性管理
2.媒体的监督
3.数字科技伦理教育
政府倡导加强数字科技伦理治理，十九届四中、五中全会均提出要健全科技伦理治理体制和体系，对科技伦理的重视程度日益提升。2021年中央深改委第二十三次会议上，习总书记强调要加强科技伦理治理，塑造科技向善的文化理念和保障机制。中国很多数字科技企业，例如腾讯等，在其产品研发和生产以及提供服务的过程中也秉承着“科技向善”和“负责任的人工智能”等理念，恪守国家和行业出台的科技伦理规范和约束性制度等。
四、企业数字科技伦理发展存在的问题
中国企业数字科技伦理在监管政策体系建设、监管部门设置、企业管理实践以及社会生态构建等方面取得了一定的进展，对伦理问题的重视程度日益提高。然而与欧盟、美国等先进国家或地区相比较仍存在一些问题或不足，主要包括企业数字科技伦理意识普遍缺乏、企业数字伦理治理实践过于表面、数字科技伦理监管机构设置相对滞后、数字科技伦理教育薄弱等。
（一）数字科技伦理意识普遍缺乏
数字经济发展迅速，数字技术的迭代更新呈现出突破“摩尔定律”的趋势，从道德伦理的视角对企业数字科技行为进行审视和治理是一项新课题，对科技伦理的重视程度有待继续提高，伦理意识缺失或出现伦理问题等现象普遍存在。例如关于百度使用cookie技术收集并利用用户上网信息是否侵犯个人隐私权案件，第一审和第二审得出不同的结论，这既体现出中国个人信息和隐私保护领域存在一定程度上的法律法规缺失，也体现出企业在进行个人信息收集时缺乏对侵犯个人隐私等伦理问题的明确界定，甚至并不承认cookie的个人信息属性。
（二）数字科技伦理实践过于表面
（三）数字科技伦理制度供给不足
（四）数字科技伦理监管相对滞后
在数字科技伦理监管机构设置方面，形成了专门性机构与综合性机构、中央层面机构和地方层面机构并存的格局，对数字科技伦理监管力度日益增强。与欧盟、美国等数字科技伦理监管机构设置相对完善的国家或地区相比，中国数字科技伦理监管机构的设置仍存在一定的滞后性，监管职能亟待强化，具体体现在：一是数字科技伦理监管机构的设置更多体现在中央和全国层面；二是已设置的数字科技伦理监管机构主要对监管制度体系建设发挥重要作用，所发挥的伦理监督和治理作用有限；三是已设置的数字科技伦理监管机构多以审查备案等事后监管为主，缺乏前瞻性、事前性以及预防性监管；四是对于数字科技伦理监管相应制度的执行情况缺乏配套的监督机构或监督功能。
在数字科技伦理监管模式方面主要存在以下不足：一是以政府为主体的监管模式，行业组织、研究机构、企业以及公民在伦理监管中的参与度不高，且大多局限于自身发展需求，没有从整体上形成伦理监管合力。二是地方政府所发挥的监管职能有限，多设置科技伦理审查备案中心，局限于事后审查。三是中央、地方数字科技伦理监管机构之间未形成统一和协调的运行机制。
（五）数字科技伦理教育薄弱
五、深入推动企业数字科技伦理健康发展的对策建议
数字科技是一把双刃剑，是拉动经济发展的重要引擎，也是伦理风险的源头。企业数字科技伦理健康发展是数字经济实现高质量发展的重要内涵，进一步加强数字科技伦理治理、形成“科技向善”的社会生态刻不容缓。针对中国企业数字科技伦理存在的问题，并借鉴先进国家或地区的做法或经验，可以尝试在多元共治的总体思路下，从强化政府监管、企业自律自治、行业引导支持以及优化社会生态等层面（详见图1），深入推动企业数字科技伦理健康发展。
图1企业数字科技伦理多元共治体系
（一）总体思路：多元共治
数字经济是新业态，数字科技伦理是新问题，具有影响范围广、扩散能力强以及风险敞口大等特征，加强数字科技伦理治理成为亟待解决的新课题。单一主体参与的治理模式已经不能有效防范和应对数字科技伦理风险，需要依靠多个主体共同参与、共同推动，形成多层面、多主体、全过程的多元共治体系，打造全社会、整体性的协同治理格局，切实提升中国企业数字科技伦理健康水平。
数字科技伦理多元共治体系的构建应当遵循的主要原则包括推动数字经济与实体经济融合、兼顾科技创新与伦理治理以及增进人类福祉等。一是推动数字经济与实体经济深入融合的原则。数字经济是实体经济数字化转型的重要支撑，实体经济是数字经济的主要应用场景，数字科技伦理治理应推动两者深入融合。二是兼顾科技创新与伦理治理的原则。伦理治理应当进一步促进数字科技创新活动向更加活跃、更加健康的方向演进。三是增进人类福祉的原则。企业数字科技伦理治理的终极目标和落脚点都是为了人类的生存与发展服务，增进人类福祉。
（二）企业层面：自律自治
数字科技企业是数字产品和服务的提供者，加强伦理自律自治具有重要意义，可以从强化伦理意识、提升伦理治理层面、建立健全自律自治制度体系以及创新数字科技伦理管理实践等方面着手。
伦理先行，不断强化企业数字科技伦理意识。企业是数字科技伦理治理的重要执行者，其设计和研发的数字产品以及提供的相应服务直接面向终端用户，如果发生伦理问题，其影响具有不可逆的特征。因此，数字科技企业在进行伦理自律自治时需要强化数字科技伦理意识，将科技向善、负责任的数字科技等理念入脑入心，切实履行“伦理先行”，降低伦理风险事件发生的概率及相应的损失等。
建立健全企业数字科技伦理内部管理制度体系。尽管数字科技企业针对伦理问题进行了相应的制度建设，仍需要进一步制定企业整体层面和数字科技整体层面的伦理治理制度，改变当前制度分散性的状况。
（三）政府层面：强化监管
为进一步加强企业数字科技伦理治理，政府应加快数字科技伦理监管制度供给，完善监管制度体系建设，加快伦理监管机构设置步伐，优化中央和地方政府间监管机构运行机制。
优化中央政府和地方政府数字科技伦理监管机构的运行机制。优化中央和地方两个层面的数字科技伦理监管机构的运行机制，一方面要确保监管制度执行中的一致性与统一性，另一方面要加强不同监管机构之间的合作与交流。同一层面监管机构之间更多体现为合作与交流，不同层面的监管机构主要体现为信息的上下传递和行政指令的有效执行与反馈，形成上下统一协调的监管机构体系。
（四）行业层面：引导支持
行业组织在推动企业数字科技伦理治理中主要发挥引导和支持的作用。引导作用体现为引导企业落实数字科技伦理监管政策，规范企业的数字科技行为；支持作用体现为支持行业内企业更好地发展。
（五）社会层面：生态优化
社会生态一是企业数字科技伦理治理的重要外部环境和基础。优化社会生态可以从加强社会宣传和培训、学校教育及媒体监督等方面着手。
加强媒体对企业数字科技伦理的监督作用。媒体在数字科技伦理治理方面已经发挥了一定监督作用，但仍呈现出一定的自发性和分散性等特征。未来可以在纸媒体、智媒体以及自媒体上开辟企业数字科技伦理问题曝光的专门栏目或频道，扩大影响范围，提高监督作用。另外，还应该注重发挥公序良俗以及口口相传等传统媒介形式的监督作用，尤其是在一些偏远欠发展地区。
参考文献
[1]曾雄，梁正，张辉.欧盟人工智能的规制路径及其对中国的启示—以《人工智能法案》为分析对象[J].电子政务，2022年第9期，第63-72页。
[2]陈炳富，周祖城.企业伦理学概论[M].南开大学出版社，2000年。
[3]陈一.欧盟大数据伦理治理实践及对我国的启示[J].图书情报工作，2020年第2期，第130-138页。
[4]代金平，李杨.构建负责任的人工智能社会治理体系[J].山东社会科学，2022年第8期，第147-153页。
[5]甘绍平.用伦理原则引领国家科技的健康发展[J].云梦学刊，2022年第6期，第1-6页。
[6]贾开，郭雨晖，雷鸿竹.人工智能公共政策的国际比较研究院历史、特征与启示[J].电子政务，2018年第9期，第78-86页。
[7]江小涓，黄颖轩.数字时代的市场秩序、市场监管与平台治理[J].经济研究，2021年第12期，第20-41页。
[8]金晶.个人数据跨境传输的欧盟标准要要规则建构—司法推动与范式扩张[J].欧洲研究，2021年第4期，第89-109页。
[9]李平，廖苗.对负责任创新“反思”维度的再思考[J].自然辩证法通讯，2021年第4期，第69-75页。
[10]李思琪.科技伦理与安全公众认识调查报告（2021）[J].国家治理，2022年第7期，第43-47页。
[11]林美玉，王琦.欧盟5G安全监管模式研究[J].信息通信技术与政策，2021年第5期，第60-66页。
[12]梅亮，陈劲.责任式创新：源起、归因解析与理论框架[J].管理世界，2015年第8期，第39-57页。
[13]宋黎磊，戴淑婷.中美欧人工智能治理领域的竞争与合作[J].当代中国与世界，2021年第4期，第58-67页。
[14]王伟洁，邓攀科，吕志远.欧盟2021《人工智能法》研究[J].信息安全研究，2022年第2期，第117-121页。
[15]吴飞.数字平台的伦理困境与系统性治理[J].国家治理，2022年第7期，第20-25页。
[16]肖红军，商慧辰.平台算法监管的逻辑起点与思路创新[J].改革，2022年第8期，第38-56页。
[17]肖红军，阳镇.数字科技伦理监管：美国进展与中国借鉴[J].财经问题研究，2023年第6期，第73-86页。
[18]肖红军，阳镇.数字科技伦理监管的理论框架、国际经验与中国借鉴[J].东北财经大学学报，2023年第5期，第47-61页。
[19]肖红军，张丽丽，阳镇.欧盟数字科技伦理监管：进展及启示[J].改革，2023年第7期，第73-89页。
[20]肖红军.构建负责任的平台算法[J].西安交通大学学报（社会科学版），2022年第1期，第120-130页。
[21]徐天戍，史玉民.高校科技伦理教育的国外借鉴与启思[J].长春大学学报，2021年第4期，第51-55页。
[22]许可.驯服算法：算法治理的历史展开与当代体系[J].华东政法大学学报，2022年第1期，第99-113页。
[24]阳镇，陈劲.数智化时代下的算法治理—基于企业社会责任治理的重新审视[J].经济社会体制比较，2021年第2期，第12-21页。
[26]赵延东，廖苗.负责任研究与创新在中国[J].中国软科学，2017年第3期，第37-46页。
[28]Carroll,ArchieB.“ThePyramidofCorporateSocialResponsibility:TowardtheMoralManagementofOrganizationStakeholder”.BusinessHorizons,1991,23(7),6-17.
[29]DiakopoulosN,“KoliskaM.”AlgorithmicTransparencyintheNewsMedia.DigitalJournalism,2016,1-20.
[30]E.Schuurman,“Struggleintheethicsoftechnology”,AOSISOpenJournals,Vol.71No.1,(2006),10.4102/koers.v71i1.235.
[31]HellstrmT,“SystemicInnovationandRisk:TechnologyAssessmentandChallengeofResponsibleInnovation”,TechnologyinSociety,2003,25(3),369-384.
肖红军，中国社会科学院工业经济研究所，研究员、博士生导师。
张丽丽，北京市科学技术研究院数字经济创新研究所，副研究员。