迈向下一代人工智能!

尽管人工智能系统可以在国际象棋(Campbell,Hoane,andHsu2002)和围棋(Silveretal.2016)等游戏中轻松击败任何人类对手,但它们并不鲁棒,在面对新环境的时候往往会失效。此外,我们还没有建立能够走到货架边、取下棋盘、放置棋子、在游戏中移动棋子的系统。类似地,没有机器可以筑巢、觅食浆果或照顾幼崽。今天的人工智能系统无法与四岁儿童甚至简单动物的感觉运动能力竞争。许多应对新情况所需的基本能力对人工智能来说具有较大的挑战,但动物天生就拥有或可轻松获得这些能力,部分原因是人工智能系统缺乏与变幻世界互动的基本能力。越来越多的人工智能研究人员怀疑,仅仅扩大现有方法就能克服这些限制。考虑到需要在AI中实现更多的自然智能,很可能需要从自然智能系统中获得新的灵感(Sinzetal.2019)。

虽然许多关键的人工智能进步,如卷积人工神经网络和RL,都受到了神经科学的启发,但目前机器学习领域的许多研究都在遵循自己的道路,建立在之前开发的方法基础上,这些方法是受数十年来神经科学的发现而启发,例如受到大脑中注意力机制启发的基于注意力的神经网络(Itti,Koch,andNiebur1998;LarochelleandHinton2010;Xuetal.2015)。现代神经科学产生了新的影响,但它们是由少数研究人员带头的。因此在AI的发展中错失了很多机会。在过去几十年中,通过NIH,脑计划等努力,我们积累了大量关于关于支撑自然智能的解剖学和功能结构的大脑知识。NeuroAI是神经科学和人工智能的交叉点,这一新兴领域基于一个前提:对神经计算的更好理解将揭示智能的基本成分,并催化人工智能的下一次革命,最终导致人工智能的能力与人类相匹配,甚至可能超过人类。我们认为,现在是大规模进行识别和理解生物智能原理的恰当时机,并将这些原理抽象出来用于计算机和机器人系统。

因此,我们提出了一个拓展的图灵测试,包括高级感觉运动能力的测试。最初的图灵测试建立了一个定性标准使我们可以判断人工智能的进展程度。拓展的“具身图灵测试”将对人工系统与人类和其他动物的交互进行基准测试和比较。依据每种动物自己独特的能力定义了各自的图灵测试:人造海狸可以测试其筑坝的能力,人造松鼠可以测试其穿越树木的能力。尽管如此,几乎所有动物都有许多核心的感觉运动能力,这些核心技能为动物快速进化适应新环境提供了坚实的基础。下面我们重点介绍其中一些共同点。

与世界互动。动物的显著特征在于能够有目的的四处走动并与环境互动。尽管最近在优化控制、强化学习和模拟学习方面取得了进展,但机器人在控制身体和操纵物体方面仍未达到动物级别的能力,即使是模拟的程度也达不到(Merel,Botvinick,andWayne2019)。当然,神经科学可以提供关于模块化和分层架构的指导,这些架构应用于人工系统以赋予人工系统这些能力。神经科学还可以为我们提供一些设计原则,例如部分自主(在没有高级模块输入的情况下,层级中的低级模块如何半自主地工作)和摊销控制(缓慢规划过程中产生的初始运动如何最终转移到快速反射系统)。了解特定的神经回路如何参与不同的任务,比如运动和对肢体、手及手指的精细控制,感知觉和行动选择,可能为机器人如何实现人工智能系统提供了途径,也可能为其他形式的“智能”提供解决方案,包括更多的认知领域。例如,我们推测,低水平运动控制的神经环路原理有助于为人工智能系统中的高水平运动规划提供更好的基础。

动物行为的灵活性。另一个目标是开发人工智能系统,该系统能够产生类似单个动物的行为范围,从而参与大量灵活多样的任务。现代AI可以很容易地学会在像Breakout这样的视频游戏中只需使用像素和游戏分数信息超越人类(Mnihetal.2015)。然而,与人类玩家不同,这些系统是脆弱的,对小扰动高度敏感:稍微改变游戏规则,甚至是输入中的几个像素,都可能导致灾难性的性能下降(Huangetal.2017)。这是因为这些系统学习从像素到动作的映射,不需要理解游戏中的智能体和对象以及支配它们的物理规律。同样,自动驾驶汽车本身并不知道前面卡车上的板条箱掉落的危险,除非它确实看到过卡车上的板条箱掉落导致不良后果的例子。而且,即使它已经接受过关于箱子掉落危险性的训练,系统可能会把前面汽车里吹出来的一个空塑料袋视为一种障碍,从而不惜一切代价避免,因为它实际上不知道塑料袋是什么,也不知道它在物理上有没有威胁。这种无法处理训练数据中未出现场景的情况,是对人工智能系统的广泛应用的一个重大挑战。

要想在一个不可预知和不断变化的世界中取得成功,智能体必须灵活,并通过使用其关于此类情况可能如何进行的一般知识来掌握新情况。这可以说是动物的行为。动物天生就具备茁壮成长所需的大部分技能,或者可以从有限的经验中迅速获得这些技能,这得益于它们在进化和发展过程中在现实世界互动方面的强大基础(Zador2019)。因此,为一项特定任务从零开始训练并不是动物获得令人印象深刻的技能的方式;动物并不是一无所有的来到这个世界上,然后依靠大型标记训练集来学习。尽管机器学习一直在寻求绕过这种限制的方法,包括自我监督学习、迁移学习、持续学习、元学习、一次性学习和模仿学习(Bommasanietal.2021),但这些方法都无法实现大多数动物身上的灵活性。因此,我们认为,为现实世界(甚至是简单动物)的行为灵活性提供基础的神经环路原理,有可能极大增加人工智能系统的灵活性和实用性。换句话说,通过利用进化已经参与的优化过程,我们可以大大加快对用于现实世界互动的通用环路的搜索(Guptaetal.2021;Stckl,Lang,andMaass2022;Koulakovetal.2022;Stanleyetal.2019;PehlevanandChklovskii2019)。

此外,其他因素可能有助于提高生物网络能源效率。例如,生物网络可以有效地进行计算,即使其中一些组件高度不可靠或“有噪音”。神经元之间通过突触进行交流,这种方式非常不可靠,每10条信息中只有1条被传输(DobrunzandStevens1997)。在组织环路时,尖峰序列也是高度可变的,这一特性可能允许神经环路执行概率推理,这是在存在不确定性时的一种鲁棒计算形式(Maetal.2006)。当前研究者们正在努力开发脉冲神经网络的潜力(Daviesetal.2018;DeBoleetal.2019),但目前为止还没有杀手级的应用表明这些网络能够以生物级别的能效运行。主要问题归结为目前的“神经形态芯片”既不能复制先天的神经环路功能,也不容易训练(Roy,Jaiswal,andPanda2019)。因此,虽然脉冲计算的方式更节能,但用处远不如耗能巨大的数字网络。因此,我们认为,在AI中获得更高的能源效率不仅可以通过借鉴脉冲神经网络的思想,还可以通过提供具有先天神经环路功能和学习规则的神经形态芯片实现。

进化论视角提出了一种解决具身图灵测试的策略,即将其分解为一系列相互构建的挑战性增量测试,并在这个基础上迭代优化(CisekandHayden2022)。此外,代表低级和中级测试挑战的生物体可能包括蠕虫、苍蝇、鱼类、啮齿动物和灵长类动物,它们是神经科学研究中广泛使用的模式生物。我们在这些模式生物行为神经环路和行为机制的基础上通过计算机进行研究,构建虚拟环境和虚拟生物(Merel,Botvinick,andWayne2019;Mereletal.2019)。为了达到所要求的行为灵活性水平,通过图灵测试的人工智能系统将面临一系列针对物种的测试,包括自我监督学习、持续学习、迁移学习、元学习和终身记忆。这些挑战可以标准化,以便对进展进行量化。最终,成功的虚拟生物可以在机器人技术的额外帮助下适应物理世界,并用于解决现实世界的问题。

第三,我们需要支持计算神经科学的基础理论和实验研究。在过去的几十年里,通过NIH的努力,在很大程度上由于“脑计划”和其他主要资助方的努力,我们已经了解了大量关于大脑的知识。现在,我们对大脑单个细胞元素、神经元的巨大多样性,以及它们作为简单环路的一部分是如何发挥作用的,已经有了一定的了解。有了这些构建模块,我们就可以将注意力转向理解大脑作为一个综合智能系统是如何运作的。这将需要深入了解1000种不同类型的1000亿个神经元是如何连接在一起的,以及其计算能力,即智能是如何连接在一起的,每个神经元都与数千个其他神经元进行通信,并具有可变的、可适应的连接。我们必须对大脑进行逆向工程,把基本原理抽象出来。请注意,虚拟智能体的发展本身将大大加快这一努力,因为它允许在真实动物和数字动物的实验之间进行直接比较,这些尝试将提供对鲁棒控制、灵活行为、能源效率和智能行为所必需的神经环路级别属性和机制的洞察。利用神经科学和人工智能之间强大的协同效应需要项目和基础设施支持,以组织和实现跨学科的大规模研究。

幸运的是,华盛顿特区两党已经达成共识,对人工智能研究的投资对美国的技术未来至关重要。神经科学和人工智能领域社区间的沟通协作将需要联邦政府投入大量资源对这些项目进行里程碑式的、商业化的支持、以及对伦理和创新想法方面的大赌注。目前有一些联邦资源,如国家科学基金会的国家人工智能研究所,明确致力于从神经科学研究中推动人工智能的创新和发现,但这些主要是为了支持传统的学术模式,由不同的小组研究不同的问题,而不是创建一个集中的尝试,可以创建类似于体现图灵测试的东西。同样,对人工智能支持的赠款主要是通过NIH、NSF、DoD甚至EPA的辅助项目,每个都有自己的指令和目标。这就给技术发展本身留下了巨大的资金缺口。通过现有的实体或作为一个独立的机构来创建总体指令,以支持NeuroAI和人工智能研究将推动这一使命,巩固美国政府作为人工智能研发的国际领导者的地位。

THE END
1.图神经网络综述和学习路径图神经网络的学习路径本文探讨了图神经网络在应用中的角色,包括节点、连接和子图等概念的区别。它解决了表示学习问题,但面临如何将图数据适配到现代深度学习模型的挑战。文章还涉及数学表示,如邻接矩阵的使用,以及是否可以直接借鉴传统神经网络结构。最后,提供了学习路径和相关书籍推荐作为深入研究的指引。 https://blog.csdn.net/m0_57715084/article/details/138444995
2.图神经网络路径规划图神经网络早在深度学习时代来临之前的2005年,图神经网络就已经出现了。一般来说,图神经网络旨在通过人工神经网络的方式将图和图上的节点(有时也包括边)映射到一个低维空间。也就是学习图和节点的低维向量表示。这个目标常被称为图嵌入或者图上的表示学习,反之,图嵌入和图表示学习并不仅仅包含图神经网络这一种方式。 https://blog.51cto.com/u_16213580/7500596
3.学习神经网络的路线图信息科学小木虫学习神经网络的路线图 第一步:看看入门书籍,对神经网络有个初步认识; 第二步:掌握如下算法: 1.感知机学习,这个较简单易懂,就不多说了. 2.最小均方误差,这个原理是下面提到的神经网络学习算法的理论核心,入门者要先看《高等数学》(高等教育出版社,同济大学版)第8章的第十节:“最小二乘法”。https://muchong.com/html/200604/229328.html
4.自然语言学习路线图图算法的应用 第六部分:模型压缩与图神经网络篇 第二十三章:模型的压缩 模型压缩重要性 常见的模型压缩总览 基于矩阵分解的压缩技术 基于蒸馏的压缩技术 基于贝叶斯模型的压缩技术 模型的量化 第二十四章:基于图的学习 图的表示 图与知识图谱 关于图的常见算法 https://www.jianshu.com/p/02b95ff6eb5c
5.卷积神经网络之父的强人工智能路线图:自监督,推理,规划在此次演讲中,LeCun对自己近年来倡导的自监督学习进行了梳理,从认知科学出发对人工智能领域未来10年的研究目标展开了更为宏大的畅想,提出了基于自监督学习、世界模型、推理、规划的强人工智能实现路线图。 Yann LeCun:FAIR首席AI科学家,Facebook人工智能实验室负责人,曾获得“神经网络先驱奖”。同时是美国国家科学学院https://aidc.shisu.edu.cn/9c/75/c13626a171125/page.htm
6.原创图注意力神经网络(GraphAttentionNetworks)综述这种方法使用强化学习训练图注意力神经网络(GNN),在未标记的图训练集上进行训练。训练后的网络可以在线性运行时间内输出新图实例的近似解。在TSP问题中,GAT可以有效地处理城市之间的距离关系,从而找到最短的旅行路径。在VRP问题中,GAT可以有效地处理车辆、客户 和仓库之间的关系,从而找到最优的配送路线。这些研究结果http://www.360doc.com/content/23/0721/12/277688_1089470114.shtml
7.2024年从零学习AI和深度学习Transformer的路线图(附资源)2024 年学习 AI 路线图 最近AI大热,相关的研究层出不穷。 你想学习AI吗?但您不知道如何或从哪里开始? 人工智能和深度学习是发展的趋势: Science 2023封面论文:ChatGPT缩小了人们在写作能力上的差距 Nature子刊Nature Machine Intelligence也已经上线近三年了,每年接收文章不到100篇,影响因子达到16.65,表示着Nature对https://www.360doc.cn/mip/1121740763.html
8.科学网—移动传感器(移动机器人)路径规划方法总结(一)其主要方法有:可视图法,自由空间法,最优控制法,栅格法,拓扑法,神经网络法等。 1).可视图法 可视图法视移动机器人为一点,将机器人、目标点和多边形障碍物的各顶点进行组合连接,并保证这些直线均不与障碍物相交,这就形成了一张图,称为可视图。由于任意两直线的顶点都是可见的,从起点沿着这些直线到达目标点的所https://wap.sciencenet.cn/blog-281551-462159.html
9.详细的人工智能学习路线和资料推荐神经网络基础:学习神经网络的基本原理,如前向传播、反向传播等。 深度学习框架:学习TensorFlow、PyTorch等深度学习框架,通过实践项目加深对深度学习算法的理解。 3. 计算机视觉与自然语言处理:学习计算机视觉(如图像分类、目标检测等)和自然语言处理(如文本分类、情感分 https://developer.aliyun.com/article/1562181
10.数据挖掘国际顶会KDD2021收录结果公布百度多篇论文入选最近的研究进展已经证明,使用图神经网络 (GNNs) 来学习蛋白质-配体复合物(protein-ligand complexes)的表示,比传统方法可以更准确地预测亲和力。然而,现有的模型通常将蛋白质-配体复合物视为拓扑图,并没有充分利用分子的三维结构信息。同时GNN模型也忽略了原子之间基本的远距离相互作用。为此,我们提出了一种新型的三维https://maimai.cn/article/detail?fid=1691299143&efid=QpL_9l9RgRO_Dq4QZTBNzA
11.ECMWF发布未来十年战略规划,包括机器学习路线图文末有战略规划及机器学习路线图的文档下载链接 2021年1月26日,ECMWF发布了2021-2030战略,用于指导未来十年的发展规划。此战略主要强调了为ECMWF会员国和合作方及用户提供更加准确的预测。 此战略将在ECMWF会员国理事会最终确定通过的情况下每五年更新一次。 https://cloud.tencent.com/developer/article/1787277
12.深度学习学习路线规划深度学习是当今最令人兴奋的技术之一,其应用广泛,从图像识别到自然语言处理都有它的身影。一般来说,学习深度学习需要一定的时间和经验,但是若想要学习深度学习,下面有几条可以跟着做的学习路线:学习基本的数学知识:深度学习是建立在数学基础上的,因此,学习深度学习https://www.nowcoder.com/discuss/455400348732211200