周二，计算机科学家杰弗里·辛顿（GeoffreyHinton）因其在机器学习方面的工作获得了诺贝尔物理学奖，他随即就其研究推动的技术力量——人工智能发出了警告。
“这将与工业革命旗鼓相当，”他在宣布后说道。
“但并非在体力方面超越人类，而是在智力方面超越人类。我们没有经历过比我们更聪明的事物是什么样子。”
辛顿因辞去谷歌工作以警告人工智能的潜在危险而闻名，他被称为该技术的教父。现在隶属于多伦多大学的他与普林斯顿大学教授约翰·霍普菲尔德（JohnHopfield）共同获得该奖项，“以表彰他们在利用人工神经网络实现机器学习方面的基础发现和发明。”
虽然辛顿承认人工智能可能会让社会的某些部分变得更优——比如在医疗保健等领域带来“生产力的大幅提升”——但他也着重强调了“可能存在的一些不良后果，尤其是这些东西失控的威胁。”
“我担心这可能产生的总体后果是比我们更智能的系统最终掌控全局，”他说道。
辛顿并不是第一个对自己帮助开创的技术风险发出警告的诺贝尔奖获得者。以下是其他对自己的工作发出类似警告的人的情况。
1935年：核武器
1935年诺贝尔化学奖由一对夫妻团队，弗雷德里克·约里奥和伊雷娜·约里奥-居里（获奖者玛丽和皮埃尔·居里的女儿）共同获得，因为他们发现了第一个人工制造的放射性原子。这项工作将有助于医学的重要进步，包括癌症治疗，但也导致了原子弹的制造。
在当年的诺贝尔演讲中，约里奥在结尾处警告称，未来的科学家将“能够引发爆炸式的嬗变，真正的化学链式反应。”
“如果这种变化确实能在物质中传播开来，那么可以想象会释放出巨大的可用能量，”他说。“但是，不幸的是，如果这种情况蔓延到我们星球的所有元素，引发这样一场大灾难的后果只能令人担忧。”
然而，约里奥预测，这将是“一个研究人员肯定会尝试实现的过程，同时希望他们能采取必要的预防措施。”
1945年：抗生素耐药性
亚历山大·弗莱明爵士与恩斯特·钱恩和爱德华·弗洛里爵士因发现青霉素及其在治疗细菌感染方面的应用而共同获得1945年诺贝尔医学奖。
弗莱明于1928年首次发现，到1945年他发表诺贝尔演讲时，他已经向世界发出了一个重要警告：“在实验室中，通过让微生物接触不足以杀死它们的浓度的青霉素，使它们对青霉素产生耐药性并不困难，同样的情况偶尔也会在人体内发生，”他说。
“说不定哪天，任何人都可以在商店里买到青霉素，”他接着说。“那就有这样的危险，无知的人可能很容易用药量不够，让体内微生物接触非致死量的药物，从而使它们产生耐药性。”
费城儿童医院的传染病医生、抗菌药物管理项目的医疗主任杰弗里·格伯博士说，这是“多年前如此重要和有先见之明的想法”。
在弗莱明首次发现近一个世纪后，根据世界卫生组织的数据，抗菌药物耐药性——即像细菌这样的病原体对旨在治疗它们的药物产生耐药性——被认为是对全球公共卫生的最大威胁之一，仅在2019年就造成127万人死亡。
弗莱明所发出警告的关键部分或许在于抗生素被过度广泛使用，而非低剂量这一理念。
格伯在一封电子邮件中告知美国有线电视新闻网：“更多时候，人们完全没必要使用抗生素。”
1980：重组DNA
保罗·伯格因开发重组DNA技术而荣获1980年诺贝尔化学奖，该技术助力启动了生物技术产业，他没有像其他一些获奖者那样就其研究的潜在风险发出如此严厉的警告。
但他确实承认了对基因工程可能引发的后果的担忧，其中包括生物战、转基因食品和基因治疗。基因治疗是一种通过用正常运作的基因替换导致疾病的缺陷基因的医学形式。
“在我看来，”他继续说道，“如果我们要沿着这些路线前进，我们需要更详细地了解人类基因是如何组织、如何运作和如何调节的。”
在几十年后的一次采访中，伯格指出，他和该领域的其他科学家已于1975年在一次被称为阿西洛马的会议上公开聚集，承认了该技术的潜在危险，并致力于制定防护措施。
“对重组DNA或基因工程的担忧来自科学家，所以这是一个非常关键的事实，”他在2001年告诉科学作家乔安娜·罗斯，据诺贝尔奖网站的一份文字记录显示。
伯格说，通过公开承认风险以及审查风险的必要性，“我们获得了大量的公众赞赏，可以这么说，还有宽容，所以我们被允许实际开始处理如何防止我们的工作产生任何危险事物这一问题？”
到2001年，他说，“已完成的实验表明，我们原本认为可能存在的最初担忧，实际上并不存在。”
现在，基因治疗是医学中一个不断发展的领域，镰状细胞病、肌肉萎缩症和一些遗传性失明的治疗方法已获得批准，尽管其实施仍较为复杂且费用高昂。
在早期，这项技术导致了1999年一名17岁临床试验参与者杰西·格尔辛格的死亡，引发了关于研究如何进行的伦理问题，并减缓了该领域的工作。
尽管伯格自己提出了担忧，但他在1980年的诺贝尔奖演讲中以呼吁乐观和“需要继续前进”收尾。
“重组DNA的突破为我们提供了一种新的、强大的方法来解决困扰人类几个世纪的问题，”他说。“就我而言，我不会回避这个挑战。”
2020：基因编辑
四年前，詹妮弗·杜德纳和埃马纽埃尔·卡彭蒂耶因开发一种名为CRISPR-Cas9的基因组编辑方法而共同获得诺贝尔化学奖。
在她的讲座里，杜德纳详述了这项技术在公共卫生、农业和生物医学等领域的“非凡且令人兴奋的机遇”。
但她特别指出，当这项技术应用于人类生殖细胞时，工作得更加谨慎才行，因为生殖细胞的基因变化会遗传给后代，而体细胞的任何基因变化只局限于个体。
杜德纳表示：“当咱们考虑在植物里使用它或者用它来创建更优的人类疾病动物模型时，遗传性让生殖细胞的基因组编辑变成了一个极为强大的工具。但当咱们想到在人类中使用生殖系编辑可能引发的巨大伦理和社会问题时，那情况可就大不一样了。”
创立了创新基因组学研究所的杜德纳本周跟美国有线电视新闻网（CNN）讲，她觉得“科学家针对其发现可能被滥用给出恰当的警告，这是一项重要责任，也是有益的公共服务，尤其是当这项工作具有广泛的社会影响时。”
她说：“咱们这些离CRISPR科学最近的人清楚，这是个强大的工具，能积极改变咱们的健康和世界，可也有被恶意使用的可能。咱们在其他变革性技术里，像核能——还有现在的人工智能，已经看到了这种双重用途的能力。”
CNN的克里斯蒂安·爱德华兹和凯蒂·亨特为这篇报道贡献了力量。