2024年11月，GoogleDeepMind发布报告《Anewgoldenageofdiscovery：SeizingtheAIforScienceOpportunity》。
这份报告揭示出：全球实验室AI使用正在指数级增长，AIforScience真正的黄金时代即将来临。
其中还提到了五个能够利用AI来促进科研的机遇，包括知识、数据、实验、模型、解决方案。
DeepMind成立于2010年，以突破性成果闻名，包括在围棋领域击败顶级棋手的AlphaGo、预测蛋白质结构的AlphaFold，以及在气候预测和基因研究等领域的创新应用。
它以多学科合作为核心，注重技术的安全性和社会责任，目标是让AI成为解决全球性挑战的关键力量，为人类创造更美好的未来。
以下为《报告》原文：
引言
在全球各地的实验室中，一场静悄悄的革命正在酝酿之中，科学家使用人工智能（AI）的情况正呈指数级增长。现在，三分之一的博士后研究人员使用大型语言模型来帮助进行文献回顾、编码和编辑工作。在10月份，我们的AlphaFold2系统的创造者DemisHassabis和JohnJumper因使用AI预测蛋白质结构而与科学家DavidBaker一同成为了诺贝尔化学奖得主，后者的工作是设计新蛋白质。随着AI帮助设计的药物和材料正在开发中，社会很快将更直接地感受到这些好处。
科学家拥抱AI的背后有一个日益增长的迫切性。近几十年来，科学家们继续取得重大进展，从Covid-19疫苗到可再生能源。但实现这些突破所需的研究人员数量越来越多，并且将这些突破转化为下游应用。因此，尽管过去半个世纪以来科学劳动力显著增长，仅在美国就增长了七倍以上，我们预期随之而来的社会进步却放缓了。例如，世界许多地区都经历了生产率增长的持续放缓，这削弱了公共服务的质量。朝着2030年可持续发展目标的进展，这些目标涵盖了健康、环境等方面最大的挑战，正在停滞。
AI对科学的潜在好处并不是有保证的。已经有一部分科学家使用基于LLM（大型语言模型）的工具来协助日常任务，例如编码和编辑，但使用以AI为中心的研究方法的科学家比例要低得多，尽管这个比例正在迅速上升。在急于使用AI的过程中，一些早期的科学用例的影响值得怀疑。政策制定者可以帮助加速AI的使用，并将其引导向更高影响的领域。美国能源部、欧盟委员会、英国皇家学会和美国国家科学院等机构最近都认识到了AIforScience的机会。但迄今为止，还没有哪个国家制定了全面的战略来实现它。
PartA:机遇
科学家的目标是理解、预测和影响自然和社会世界的运作，以激发和满足好奇心，并解决社会面临的重大问题。技术和方法，如显微镜、X射线衍射和统计学，既是科学的产物，也是推动科学进步的工具。在过去的一个世纪中，科学家越来越依赖这些工具来进行实验和推进理论。计算工具和大规模数据分析变得尤为重要，使得从发现希格斯玻色子到绘制人类基因组图谱成为可能。从某种角度看，科学家越来越多地使用人工智能是这一长期趋势的逻辑延伸。但它也可能标志着更为深刻的变化——科学能力极限的不连续跃升。
1.知识
改变科学家笑话和传播知识的方式
2.数据
生成、提取和注释大模型科学数据集
尽管流行的说法是数据泛滥的时代，但大多数自然和社会世界的科学数据都存在长期的缺乏，从土壤、深海和大气到非正规经济。AI可以在不同的方式上提供帮助。它可以使现有的数据收集更准确，例如通过减少测序DNA、检测样本中的细胞类型或捕获动物声音时可能发生的噪声和错误。科学家还可以利用LLM在图像、视频和音频上日益增长的能力，提取埋藏在科学出版物、档案和不太明显的资源（如指导视频）中的非结构化科学数据，并将其转换为结构化数据集。
AI还可以帮助用科学家需要的支持信息注释科学数据，以便使用它。例如，至少有三分之一的微生物蛋白质没有可靠地注释其被认为执行的功能。在2022年，我们的研究人员使用AI预测蛋白质的功能，导致UniProt、Pfam和InterPro数据库中出现了新条目。
3.实验
模拟、加速个通知复杂实验
使用AI模拟实验在不同学科中看起来会非常不同，但一个共同点是模拟通常会通知和指导物理实验，而不是替代它们。例如，普通人的DNA中有超过9000个错义变异，或单字母替换。这些遗传变异大多数是良性的，但有些可能会破坏蛋白质执行的功能，导致罕见遗传疾病如囊性纤维化以及常见疾病如癌症。对这些变异影响的物理实验通常限于单一蛋白质。我们的AlphaMissense模型将7100万个潜在的人类错义变异中的89%分类为可能无害或有害，使科学家能够将他们的物理实验集中在最可能导致疾病的变异上。
4.模型
建模复杂系统及其组件如何相互作用
在1960年的一篇论文中，诺贝尔奖获得者物理学家尤金·维格纳对数学方程在模拟重要自然现象（如行星运动）方面的“不合理的有效性”感到惊讶。然而，在过去的半个世纪中，依赖于一组方程或其他确定性假设的模型在捕捉生物学、经济学、天气等领域的系统的全部复杂性方面一直存在困难。这反映了这些系统的组成部分数量庞大，以及它们的动态性和潜在的突发性、随机性或混沌行为。在模拟这些系统方面的挑战阻碍了科学家预测或控制它们将如何行为的能力，包括在冲击或干预期间，如气温上升、新药物或税收政策的引入。
AI可以通过吸收更多关于它们的数据，并在这些数据中学习更强大的模式和规律，更准确地模拟这些复杂系统。例如，现代天气预报是科学和工程的胜利。对于政府和工业来说，它通知了从可再生能源规划到准备飓风和洪水的一切。对于公众来说，天气是谷歌搜索上最受欢迎的非品牌查询。传统的数值预测方法基于精心定义的物理方程，提供了非常有用但不完美的大气复杂动态的近似。它们在运行时也是计算成本高昂的。在2023年，我们发布了一个深度学习系统，可以预测多达10天的气候条件，这在准确性和预测速度上超越了传统模型。正如我们下面将要展开的，使用AI预测天气变量也可以帮助减轻和应对气候变化。例如，当飞行员飞越潮湿地区时，可能会导致凝结尾迹，这有助于航空对全球变暖的影响。谷歌科学家最近使用AI预测何时何地可能出现潮湿地区，以帮助飞行员避免飞越它们。
在许多情况下，AI将丰富传统的方法来模拟复杂系统，而不是取代它们。例如，基于代理的建模模拟了个体行为者之间的相互作用，如公司和消费者，以了解这些相互作用可能如何影响一个更大的更复杂的系统，如经济。传统的方法要求科学家事先指定这些计算代理应该如何行为。我们的研究团队最近概述了科学家如何使用LLM创建更灵活的生成代理，它们可以通信和采取行动，如搜索信息或进行购买，同时也推理和记住这些行动。科学家还可以使用强化学习来研究这些代理如何在更动态的模拟中学习和适应他们的行为，例如在引入新的能源价格或大流行应对政策时。
5.解决方案
识别具有大搜索空间问题的新解决方案
许多重要的科学问题伴随着实际上难以理解的潜在解决方案数量。例如，生物学家和化学家的目标是确定分子的结构、特性和功能，如蛋白质。这样的工作的一个目标是帮助设计这些分子的新版本，作为抗体药物、塑料降解酶或新材料。然而，要设计一个小分子药物，科学家面临着超过10^60个潜在选项。要设计一个具有400个标准氨基酸的蛋白质，他们面临着2^400个选项。这些大搜索空间不仅限于分子，而是许多科学问题的常见现象，如寻找数学问题的最好证明，计算机科学任务的最有效算法，或计算机芯片的最佳架构。
传统上，科学家依赖于直觉、试错、迭代或蛮力计算的某种组合来找到最好的分子、证明或算法。然而，这些方法难以利用潜在解决方案的巨大空间，留下更好的未被发现。AI可以开辟这些搜索空间的新部分，同时也更快地锁定最有可能可行和有用的解决方案——这是一个微妙的平衡行为。例如，在7月，我们的AlphaProof和AlphaGeometry2系统正确解决了国际数学奥林匹克竞赛中的六个问题中的四个，这是一个精英高中竞赛。这些系统利用我们的GeminiLLM架构为给定的数学问题生成大量新的想法和潜在解决方案，并结合在数学逻辑基础上的系统，可以迭代地朝着最有可能正确的候选解决方案工作。
AI科学家或AI赋能的科学家？
AI在科学中的日益增长的使用，以及早期AI科学助手的出现，引发了关于AI的能力将如何快速发展以及对人类科学家意味着什么的疑问。当前基于LLM的AI科学助手对相对较窄范围的任务做出了相对较小的贡献，例如支持文献综述。在不久的将来，它们有可能在这些任务上变得更好，并且能够承担更有意义的任务，如帮助生成有力的假设或帮助预测实验结果。然而，当前的系统仍然难以处理人类科学家依赖于这些任务的更深层次的创造力和推理。正在努力提高这些AI能力，例如通过将LLM与逻辑推理引擎结合，如我们的AlphaProof和AlphaGeometry2示例，但需要进一步的突破。加速或自动化实验的能力对于那些需要在湿实验室中进行复杂操作、与人类参与者互动或漫长过程（如监测疾病进展）的实验来说将更加困难。尽管如此，这些领域的工作正在进行中，例如新型实验室机器人和自动化实验室。
即使AI系统的能力得到提高，最大的边际收益也将来自于将它们部署在发挥其相对优势的用例中——例如，从大型数据集中快速提取信息的能力——以及帮助解决真正的科学进步瓶颈，如上述五个机会，而不是自动化人类科学家已经做得很好的任务。随着AI使科学变得更便宜、更强大，对科学和科学家的需求也将增长。
例如，最近的突破已经导致在蛋白质设计、材料科学和天气预报等领域出现了许多新的初创公司。与其他部门不同，尽管过去有相反的说法，但对未来科学的需求似乎是实际上无限的。新的进展总是打开了科学知识地图中新的、不可预测的区域，AI也将如此。正如赫伯特·西蒙所设想的，AI系统也将成为科学研究的对象，科学家将发挥领导作用，评估和解释他们的科学能力，以及开发新型的人类-AI科学系统。
PartB:要素
1.问题选择
追求雄心勃勃的、AI塑造的问题
科学进步取决于能够识别一个重要的问题以及提出关于如何解决它的正确问题。在他们对科学突破起源的探索中，VenkateshNarayanamurti和JeffreyY.Tsao记录了问题和答案之间相互和递归关系的重要性，包括提出雄心勃勃的新问题的重要性。
为了评估AI是否合适和附加，我们寻找具有某些特征的问题，如巨大的组合搜索空间、大量的数据和明确的客观函数来衡量性能。通常，一个问题原则上适合AI，但输入尚未到位，需要稍后存储。AlphaFold的一个最初灵感是Demis多年前作为学生时与一个对蛋白质折叠问题着迷的朋友的对话。最近的许多突破也以重要的科学问题和刚刚成熟的AI方法的结合为特色。例如，我们的聚变工作得益于一种名为最大后验策略优化的新强化学习算法，该算法刚刚发布。与我们的合作伙伴EPFL刚刚开发的新的快速准确模拟器一起，使团队能够克服数据匮乏的挑战。
除了选择正确的问题，还重要的是以正确的难度级别明确它。我们的采访对象强调，一个强大的AI问题陈述通常是适合中间结果的问题。如果你选择的问题太难，你将无法产生足够的信号来取得进展。正确做到这一点依赖于直觉和实验。
2.评估
投资于能够提供稳健性能信号并得到社区认可的评估方法
科学家使用评估方法，如基准测试、指标和竞赛，来评估AI模型的科学能力。做得好，这些评估提供了跟踪进展的方式，鼓励方法上的创新，并激发研究人员对科学问题的兴趣。通常，需要各种评估方法。例如，我们的天气预报团队首先使用基于几个关键变量的初始“进度指标”，如表面温度，他们用来“爬山”或逐渐改进他们的模型性能。当模型达到一定的性能水平时，他们进行了更全面的评估，使用了超过1300个指标，这些指标受到了欧洲中期天气预报中心的评估记分卡的启发。在以前的工作中，团队了解到AI模型有时可以以不希望的方式在这些指标上取得好成绩。例如，“模糊”预测——例如预测在一个大的地理区域内的降雨——比“尖锐”预测——例如预测风暴在一个与实际位置略有不同的地点——受到的惩罚要小，即所谓的“双重惩罚”问题。为了提供进一步的验证，团队评估了他们的模型在下游任务中的有用性，如其预测气旋轨迹的能力，以及表征可能导致洪水的“大气河流”——集中的水分带——的强度。
最有影响力的AIforScience评估方法通常是社区驱动或认可的。黄金标准是蛋白质结构预测的关键评估竞赛。自1994年由JohnMoult教授和KrzysztofFidelis教授建立以来，每两年举行一次的CASP竞赛挑战研究小组将他们的蛋白质结构预测模型的准确性与真正的、未发布的实验蛋白质结构进行对比。它还成为了一个独特的全球社区和研究进展的催化剂，尽管很难迅速复制。对社区认可的需求也提供了一个理由，即为什么基准测试应该被发布，以便研究人员可以使用、批评和改进它们。然而，这也带来了基准测试将“泄露”到AI模型的训练数据中，减少其跟踪进展的有用性的风险。没有完美的解决方案来解决这种权衡，但至少需要定期发布新的公共基准测试。科学家、AI实验室和政策制定者还应该探索新的方法来评估AI模型的科学能力，例如建立新的第三方评估组织、竞赛，并使科学家能够更开放地探索AI模型的能力。
3.计算
跟踪计算使用的发展，并投资于专业技能
例如，一些最先进的AI模型，如蛋白质设计，相对较小。像LLM这样的大型模型训练起来计算密集，但通常需要较少的计算来微调，或者运行推理，这可以为科学研究开辟更有效的途径。一旦训练了LLM，也更容易使其更有效，例如通过更好的数据管理，或者通过将大型模型“蒸馏”成小型模型。计算需求也应该与其他科学进展模型进行评估。例如，AI天气预报模型训练起来计算密集，但仍然可能比传统技术更计算效率高。这些细微差别强调了AI实验室和政策制定者需要实证跟踪计算使用，了解其发展趋势，并预测这些趋势对未来需求意味着什么。除了确保获得正确类型的芯片外，计算策略还应该优先考虑管理访问和确保可靠性所需的关键基础设施和工程技能。这在学术界和公共研究机构中通常资源不足。
4.数据
混合自上而下和自下而上的努力来收集、管理、存储和访问数据
然而，通常很难事先预测哪些科学数据集将最重要，许多AIforScience突破依赖于更有机地出现的数据，这要感谢有进取心的个人或小团队的努力。例如，丹尼尔·麦克阿瑟，当时是BroadInstitute的研究员，领导了gnomAD遗传变异数据集的开发，我们的AlphaMissense工作随后借鉴了这些数据。类似地，数学证明助手和编程语言Lean最初是由程序员莱昂纳多·德·莫拉开发的。它不是一个数据集，但现在许多AI实验室使用它来帮助训练他们的AI数学模型，包括我们的AlphaProof系统。
5.组织设计
在自下而上的创造力和自上而下的协调之间找到正确的平衡
一个简单的启发式方法是，学术界和工业界在科学研究方向上处于两个极端。学术界往往更自下而上，工业实验室往往更自上而下。实际上，在最成功的实验室之间，尤其是贝尔实验室和施乐帕克研究中心这样的黄金时代，它们以蓝天研究而闻名，并在DeepMind的创立中激发了灵感，一直有很多空间。最近，一波新的科学研究机构出现了，它们试图从这些异常例子中学习。这些组织在目标、资金模式、学科重点和工作组织上有所不同。但总的来说，它们希望提供更多的高风险、高回报的研究，更少的官僚主义，以及更好的科学家激励。
许多组织有一个强烈的焦点，即应用AI，如英国高级研究与发明机构、Arc研究所，以及越来越多的专注于解决科学中特定问题的专注研究组织，这些问题对于学术界来说太大，对于工业来说不够有利可图，如负责扩展对AI数学研究至关重要的Lean证明助手的组织。
在它们的核心，这些新机构希望找到自上而下的协调和自下而上的科学家赋权之间的更好融合。对于一些组织来说，这意味着专注于一个特定的问题，并预先指定里程碑。对于其他人来说，这意味着向主要研究者提供更多的不受限制的资金。正确地平衡这一点对于吸引和留住研究领导者至关重要，他们也必须接受它才能成功——DemisHassabis将其视为成功协调大规模尖端研究的最重要因素。在单个研究工作内正确平衡这一点也很重要。在GoogleDeepMind的情况下，努力通常在更多的非结构化“探索”阶段和更快的“开发”阶段之间转换，团队在“探索”阶段寻找新的想法，在“开发”阶段专注于工程和扩展性能。知道何时在这些模式之间切换以及如何相应地调整项目团队，是一门艺术。
6.跨学科
将科学视为团队合作，资助被忽视的角色，并促进可争议性的文化
许多最困难的科学问题需要在领域之间的进步。然而，当从业者聚集在一起时，例如在Covid-19期间，他们通常难以从多学科团队——他们各自保留自己的学科角度——转变为真正的跨学科，他们集体开发共享的想法和方法。这一挑战反映了科学知识的日益专业化，以及通常主要根据他们的核心专业知识评估从业者的激励措施，如资金。
为了实现真正的跨学科，组织还需要为个人创建角色和职业道路，他们可以帮助融合学科。在GoogleDeepMind，我们的研究工程师鼓励研究和工程之间的正反馈循环，而我们的项目经理帮助培养研究工作内的团队动态，并在它们之间创建联系。我们还优先雇佣喜欢发现和连接领域之间联系的个人，以及那些有动力在新领域迅速提高技能的人。为了鼓励思想的交叉传播，我们还鼓励科学家和工程师定期更换项目。最终的目标是创建一个鼓励好奇心、谦逊以及经济历史学家JoelMokyr所称的“可争议性”的文化——不同背景的从业者都感到有权力以公开讲座和讨论线索的形式提出和建设性地批评彼此的工作。
7.采用
仔细考虑最佳访问选项，并聚焦AI模型的不确定性
在决定如何发布我们的模型时，我们试图平衡对科学家广泛采用和验证的渴望与商业目标和其他考虑，如潜在的安全风险。我们还创建了一个专门的ImpactAccelerator，以推动突破的采用，并鼓励可能不会发生的社会有益应用，包括通过与DrugsforNeglectedDiseasesInitiative和GlobalAntibioticResearch&DevelopmentPartnership等组织的合作伙伴关系，这些组织有类似的任务。
为了鼓励可能从新模型或数据集中受益的科学家使用它，开发人员需要使科学家尽可能容易地使用和集成到他们的工作流程中。考虑到这一点，对于AlphaFold2，我们开源了代码，还与EMBL-EBI合作开发了一个数据库，科学家，包括那些计算技能和基础设施较少的科学家，可以搜索和下载现成的2亿个蛋白质结构。AlphaFold3扩展了模型的能力，导致了潜在预测数量的组合爆炸。这创造了一个新的界面AlphaFoldServer的需求，它允许科学家按需创建结构。科学界还开发了自己的AlphaFold工具，如ColabFold，展示了存在的多样化需求，以及培养科学界计算技能的价值，以解决这些需求。
8.合作伙伴关系
旨在早期对齐和明确的值交换
发展合作伙伴关系是困难的。在开始讨论时，重要的是要早期对齐总体目标，并解决可能棘手的问题，如各方应对输出拥有什么权利，是否应该有出版物，模型或数据集是否应该开源，以及应该适用什么类型的许可。意见分歧是自然的，通常反映了公共和私人组织的激励措施，这些激励措施因研究的成熟度或其商业潜力等因素而大不相同。最成功的合作伙伴关系涉及明确的值交换，利用每个组织的优势。例如，来自190多个国家的200多万用户已经使用了AlphaFold蛋白质结构数据库。这需要密切合作，将我们的AI模型与EMBL-EBI的生物策展专业知识和科学网络配对。
9.安全与责任
使用评估来探索权衡，并激发新类型的评估方法
PartC:风险
政策文件、政府文件和科学家调查经常提到人工智能在科学中日益增长的使用所带来的某些风险。其中三个风险——对科学创造力、可靠性和理解的风险——主要与科学实践的方式有关。另外两个风险——对公平和环境的风险——主要与科学如何代表和影响更广泛的社会有关。使用人工智能通常被独家呈现为对这些领域的风险，而这些领域，如科学可靠性或环境，通常被描绘成稳定、有些理想化的术语，这可能忽视了它们面临的更广泛的挑战。我们认为，在科学中使用人工智能最终将惠及这五个领域，因为有机会减轻人工智能所带来的风险，并使用人工智能帮助解决这些领域的更广泛挑战，在某些情况下是深刻的。对于不公平而言，实现有益的结果可能更难，因为不公平被嵌入到人工智能和科学的多个层面，从劳动力的构成到支撑研究的数据，而对于科学创造力而言，这是高度主观的，所以个人可能会合理地对某个结果是否积极有不同的看法。这些细微差别增加了科学家、政策制定者和其他人阐明他们对如何使用人工智能在科学中将影响这5个领域期望的价值。
1.创造力
人工智能会导致较少的新颖、违反直觉的突破吗？
科学创造力描述了创造新事物的能力。在实践中，科学家将一个新想法、方法或产出视为创造性的程度通常取决于更主观的因素，如其感知的简单性、违反直觉性或美感。今天，科学创造力受到科学劳动力的相对同质性的影响，这缩小了想法的多样性。对研究人员“发表或消亡”的压力也激励了“跟随人群”的出版物，而不是通常支撑创造性突破的深入工作或跨学科的概念桥梁。这可能解释了为什么导致一个领域转向新方向的颠覆性科学想法的比例似乎在下降，超出了科学扩展可能预期的正常范围。
2.可靠性
人工智能会使科学变得不那么自我修正吗？
可靠性描述了科学家依赖彼此的发现，并相信它们不是由于偶然或错误。今天，一系列相互关联的挑战削弱了科学的可靠性，包括p-hacking和出版偏见，这可能导致研究人员报告阴性结果不足；科学家执行日常科学任务时缺乏标准化；错误，例如科学家使用统计方法时的错误；科学欺诈；以及同行评审过程的挑战，包括缺乏合格的同行评审员。
3.理解
人工智能会导致有用的预测以牺牲更深层次的科学理解为代价吗？
在最近的一项自然调查中，科学家提到依赖于模式匹配以牺牲更深层次理解为代价，是从使用AI在科学中获得的最大风险。理解并非总是发现新的科学现象或开发有用应用的必要条件，例如超导性或药物。但大多数科学家将理解视为他们的主要目标，作为人类知识的最深层次。关于AI破坏科学理解的担忧包括认为现代深度学习方法是无理论的，并且不包含或为它们预测的现象提供理论。科学家还担心AI模型是不解释的，在这个意义上，它们不是基于明确的一组方程和参数。还有一个担忧是，任何对AI模型输出的解释对科学家来说都不会是可访问的或有用的。总而言之，AI模型可能提供有关蛋白质结构或天气的有用预测，但它们能够帮助科学家理解蛋白质为什么以某种方式折叠，或者大气动力学如何导致天气变化吗？
关于用“低级……计算”取代“真正的、理论科学”的担忧并不是新的，曾经针对过蒙特卡洛方法等过去技术。将工程和科学结合起来的领域，如合成生物学，也面临着优先考虑有用应用而不是更深层次科学理解的指责。这些方法和技术导致了科学理解的增长，我们相信AI也会如此，即使其中一些增长难以提前预测。首先，大多数AI模型并非无理论，而是以不同的方式构建在先前的知识上，如在它们的数据集和评估中的构造。一些AI模型也有可解释的输出。例如，我们的FunSearch方法输出计算机代码，也描述了它如何到达解决方案。
研究人员还在研究可解释性技术，这些技术可以揭示AI系统如何工作，例如努力识别模型学习的概念。这些可解释性技术的许多都有重要的局限性，但它们已经使科学家能够从AI模型中提取新的科学假设。例如，转录因子是蛋白质，它们绑定到DNA序列上激活或抑制附近基因的表达。一项AI研究努力能够预测DNA序列中每个碱基对不同转录因子的结合的相对贡献，并使用生物学家熟悉的概念来解释这一结果。一个更大的机会可能是基于AI系统学习的方式学习全新的概念。例如，我们的研究人员最近展示了我们的AlphaZero系统学习了关于下棋的“超人”知识，包括非传统的动作和策略，并使用另一个AI系统提取这些概念并教给人类象棋专家。
即使没有可解释性技术，AI也会通过开辟新的研究方向来提高科学理解，这些方向否则将是禁止的。例如，通过解锁生成大量合成蛋白质结构的能力，AlphaFold使科学家能够跨蛋白质结构而不是仅仅跨蛋白质序列进行搜索。一个团队利用这种方法发现了一个古老的Cas13蛋白质家族成员，它为编辑RNA提供了希望，包括帮助诊断和治疗疾病。这一发现还挑战了之前关于Cas13如何进化的假设。相反，努力修改AlphaFold模型架构以包含更多先验知识，导致性能更差。这突出了准确性和可解释性之间可能发生的权衡，但也展示了AI系统如何推进科学理解，不是尽管它们的不透明性，而是因为它们的不透明性，因为这种不透明性可能源于它们在高维空间中操作的能力，这可能对人类来说是不可解释的，但对科学突破是必要的。
4.公平
人工智能会使科学对边缘群体的代表性和有用性减少吗？
观察家担心，AI在科学中的日益增长的使用可能加剧这些不公平。AI和计算机科学劳动力在性别、种族和领先实验室的位置方面比许多其他科学学科更不具代表性，因此AI的日益增长的使用可能会损害科学中的更广泛代表性。作为一种数据驱动的技术，AI也冒着继承和加剧科学数据集中的偏见的风险。
5.环境
人工智能会伤害还是帮助实现净零努力？
然而，2021年的一项估计表明，云和超大规模数据中心，许多大型AI模型在这里训练和部署，占全球排放量的0.1-0.2%。
随着LLM的规模继续增长，观察家警告说，这些数字可能会增加，可能显著增加。然而，包括科学家在内的许多LLM用户将能够微调它们，或者以相对较低的计算成本使用它们的预测，而不是从头开始训练它们。还在进行努力使LLM更有效，数字技术的历史表明，可能获得相当大的增益，尤其是由于提供更快、更便宜的AI模型的商业压力。在某些情况下，AI模型的排放将低于其他方法。例如，我们的内部分析表明，实验确定少量（<10）蛋白质的结构使用的能源与AlphaFold2的完整训练运行大致相同。这些结果需要仔细解释，因为AI模拟依赖于，并通知物理实验，而不是替代它们。但它们也展示了AI如何使更多的科学活动以更低的平均能源成本成为可能。
至关重要的是，AI对排放的直接影响，无论是积极的还是消极的，可能与AI启用的应用程序对排放的间接影响相比都是次要的。在科学中使用AI开辟了三个主要机会来减少排放。首先，AI、数学和计算机科学之间的进展可能显著提高互联网的效率，从设计更有效的芯片到寻找例行任务的更有效算法。随着越来越多的经济体在线移动，这应该有助于抵消这些部门的排放。AI可以加速可再生能源的开发和使用，例如通过设计新材料，如电池或太阳能电池板，通过优化电网的运行以及它如何整合可再生能源，以及通过更变革性但不确定的机会，如聚变。最后，世界已经变得更暖和，AI可以帮助更好地准备极端天气事件。例如，我们的天气预报模型最近正确预测，七天前，致命的飓风Beryl将在德克萨斯州登陆。非AI模型最初预测在墨西哥登陆，然后在它发生前三天纠正他们的预测到德克萨斯州。
PartD:政策响应
1.为AI在科学中定义“希尔伯特问题”
科学进展取决于选择正确的问题。在1900年，德国数学家大卫·希尔伯特发表了23个未解决的问题，这些问题被证明对20世纪数学的方向产生了巨大影响。作为即将到来的国际事件的一部分，如巴黎的AI行动峰会，政策制定者、AI实验室和科学资助者可以发起一个公众呼吁，让科学家和技术专家识别最重要的AI塑造的科学问题，由一个新的全球基金支持，以推动这些问题的进展。提交应该指定为什么问题很重要，为什么它适合现代AI系统，为什么它可能被忽视，存在的数据瓶颈，以及如何评估近期技术进展。
最佳理念可以形成新的科学竞赛的基础，科学家们竞争使用AI解决这些问题，支持新的数据集、评估方法和竞争基准。这些可以建立在最近出现的评估AI模型科学能力的竞赛的热潮之上，并包括一个新的AIforScience奥林匹克，吸引来自世界各地的杰出年轻人才进入该领域。除了其直接影响，AIforScience“希尔伯特问题”倡议可以为国际科学合作和资助提供一个受欢迎的焦点，并激励新一代的跨学科科学家识别和追求AI塑造的问题。
2.使世界对科学家可读
3.教授AI作为下一个科学仪器
在过去的半个世纪中，随着科学技术的数量增长，大多数科学家与它们的距离也在增长。许多技术是科学的产物，但越来越少的科学家接受过如何有效地开发和使用它们的培训。迫切的近期需求是资助和激励更短的、更战术性的AI培训计划和奖学金，针对现有的科学家和研究领导者。政策制定者可以通过设定一个明确的目标来激励这些努力，即每个研究生科学学生都应该能够接受有关在科学中使用AI的入门课程，包括他们领域最重要的工具，就像今天通常教授基础统计学一样。所需的培训类型和深度将取决于个人的学科和个人资料，可能从基本的入门课程，了解如何可靠地使用LLM进行日常研究任务，到更高级的课程，了解如何在科学数据上微调AI模型，以及如何解决更复杂的挑战，如评估他们用来测试模型性能的数据是否故意或无意地“泄露”到用于训练它的数据中。
这些计划可以建立在既定的例子之上，如剑桥大学的Accelerate计划，为博士和博士后研究人员提供结构化的AI培训，或TheCarpentries提供的短期课程，涵盖进行研究所需的编程、数据和计算技能。
政策制定者还需要迅速采取行动，确保下一代科学家拥有他们需要的技能。这意味着将AI培训和技能发展纳入所有级别的科学教育主流。中学科学学生将需要早期接触AI的影响，而大学生将需要获得新的跨学科AI科学学位的机会，如我们与非洲数学科学研究所合作开发的泛非AIforScience硕士课程。还可以提供专门的奖学金。例如，英国的BIG奖学金计划为高中学生提供了杰出的机会，重点是那些在国际科学奥林匹克竞赛中表现出色的来自代表性不足群体的学生，他们希望继续在领先的科学中心学习，但缺乏资金。
4.建立证据并尝试新的科学组织方式
科学家对AI的使用呈指数级增长，但政策制定者几乎没有证据表明谁做得最好，他们如何做，以及阻碍他人的障碍。这种证据差距是确定最佳AIforScience政策理念并有效针对它们的障碍。历史上，这些问题的答案通常来自经济学或创新研究领域，但结果可能需要数年才能到来。我们使用引文数据分析、访谈和社区参与来了解科学家如何使用我们的AI模型。政府也在投资这些元科学能力，以改善他们资助、共享和评估科学研究的方式。在此基础上，科学家可以被赋予一个任务，快速评估基础政策问题，包括：最有影响力的AIforScience研究发生在哪里，哪些类型的组织、人才、数据集和评估使其成为可能？科学家在多大程度上使用和微调LLM与更专业的AI模型，以及他们如何访问这些模型？AI实际上在多大程度上有益于或损害了科学创造力、可靠性、环境或其他领域？AI如何影响科学家对他们的工作的看法，以及哪些技能、知识差距或其他障碍阻止了他们更广泛地使用AI？
除了为坚实的政策回应提供信息外，这个证据基础还将为政策制定者提供他们需要的先见之明，以预测AI如何转变科学和社会，类似于他们通过不断增长的AI安全研究所网络为AI安全风险发展的先见之明。证据还将突出重新构想科学在AI时代所需的激励和机构的机会。特别是，科学家和政策制定者只探索了一小部分可能的科学研究组织和执行方法。AI的兴起提供了一个受欢迎的强制功能，以尝试新的机构类型，从那些有更多自由追求高风险、高回报研究的机构，到旨在解决特定瓶颈的专注研究组织。以及新的跨学科AI科学研究所在优先领域，如气候或粮食安全，以及我们尚未想象的完全新型机构。那些更快尝试的人将从新的发现黄金时代中获益最多。