如何让科技伦理追上科技的发展—新闻—科学网

无独有偶。日前，在复旦大学主办的第二届中国科技伦理高峰论坛上，中国科学院院士、北京大学教授梅宏提出的一连串问题也引起了与会学者的激烈争论：自动驾驶汽车遭遇紧急情况，乘客和行人谁的安全优先级更高？亚马逊自助出版系统的青少年和成人当代言情小说和电子书畅销榜前100名中，只有19本由真人所写，其余都是人工智能生成，那么，作品的创作和阅读价值又该如何评价、维护呢？

类似的案例不胜枚举。不少与会学者呼吁，在科技伦理体系尚未健全的当下，科技界和伦理界必须手拉手、追着科技发展一起“跑”。

相比科技发展速度，科技伦理“走”得太慢了

王国豫谈到，现代技术具备两面性，即它能造福人类，但一旦失控，也往往会给人类带来不可预测的负面影响。就以当前正在飞速发展的脑机接口技术举例，它一方面能给患者带来新生，但另一方面，侵入式的脑机接口技术对于人脑数据的采集、处理边界究竟在哪里？一旦缺少伦理规范，那么人类的情感、思维被操控将不再只是科幻小说的内容。

事实上，技术的发展也使得伦理的边界一次次被重新划定。一位与会学者以实验室对病毒的合成和利用为例谈到，不论是流感病毒还是脊髓灰质炎病毒，都早已能在全世界很多实验室中合成，有国外实验室甚至还成功合成了小鼠脱脚病病毒，一度引发全球科学界恐慌。那么，对病毒合成利用的边界究竟在哪里？这一问题时至今日都还没有答案。“在技术日新月异的情况下，如何让伦理规则跟随技术发展、并提前为技术划定边界，这些问题值得所有人思考。”这位学者说。

中国科学院院士、中国科学院大学教授高福也表示：“科学家的科学研究是没有边界的自由探索，因为科学本身是知识体系，但科学与技术结合后会有不可抗拒的力量，规范这些技术的边界非常重要，尤其是要找到大家都可接受的、共同的伦理规范。”

技术创新，要在“向善”的路上发展

梅宏长期从事计算机软件技术领域的研究，在最近的多个公开学术报告中，他都谈到了对当前人工智能热潮的若干冷思考。他不由引用2024年诺贝尔经济学奖得主、美国麻省理工学院教授达龙·阿西莫格鲁与西蒙·约翰逊的著作《权力与进步：我们在技术与繁荣上的千年斗争》中的一句话：“目前人工智能的发展已经误入歧途，许多算法的设计是尽可能替代人类，但是技术进步是为了让机器对人类有用，而不是取代人类。”

“科技伦理体系的构建不是为了约束创新，而是希望让创新在‘向善’的路上发展。”梅宏说。

科技伦理，应成为所有人的“必修课”

从传统学科划分来看，科技伦理原本只是哲学学科下的三级甚至四级学科，而眼下，越来越多的学者认为，这个曾经的“小学科”应该成为所有人的“必修课”，尤其是科研工作者。

记者在采访中获悉，眼下，复旦大学科技伦理与人类未来研究院正在中国科协的指导下，推动筹建中国科技伦理学会，以期推动中国科技伦理治理体系的发展、完善。

“加强科技伦理治理，是推动负责任创新的重要保障。”王国豫介绍，复旦大学是首批设立应用伦理专业的高校，并在全校开设了人工智能伦理大课。未来，学校将进一步推动学科交叉融合，加强科技伦理治理研究和人才队伍建设；同时，通过国际交流合作，加强对科技发展的风险预警和研判，积极参与全球科技伦理治理。