什么是图神经网络图神经网络能做什么人工智能

图神经网络将深度学习的预测能力应用于丰富的数据结构中,这些数据结构将物体及其对应关系描述为图中用线连成的点。

图神经网络能做什么

许多科学和工业领域的知识都可以用图来表达

谁在使用图神经网络?

亚马逊在2017年表示正在使用GNN来检测欺诈。2020年,亚马逊推出了供外部用户用于欺诈检测、推荐系统等应用的公共GNN服务。

葛兰素史克AI全球负责人KimBranson在GNN研讨会的某场小组讨论会上表示,生物制药公司葛兰素史克维护着拥有近5000亿个节点的知识图谱,该图谱被用于该公司的许多机器语言模型中。

GNN如何工作?

到目前为止,深度学习主要集中在图像和文本上。这两种结构化数据可以被描述为单词序列或像素网格。相比之下,图是非结构化的,因此可以是任何形状或尺寸,并包含图像、文本等任何类型的数据。

GNN使用被称为信息传递的流程将图组织起来,以便机器学习算法的使用。

信息传递将关于邻近节点的信息嵌入到每个节点中。AI模型利用嵌入的信息来寻找规律并进行预测。

三类GNN中的数据流示例

例如,推荐系统使用将节点嵌入GNN的方式来匹配客户和产品;欺诈检测系统使用边缘嵌入来发现可疑交易;药物发现模型通过比较整个分子图来找出它们之间的反应。

GNN还有两个独特之处:它们使用稀疏数学,而且模型通常只有两到三层。其他AI模型通常使用密集数学并且有数百个神经网络层。

GNN流程在输入图后输出预测

GNN的发展史

意大利研究人员在2009年发表的论文中首次将这种神经网络命名为“图神经网络”。但直到八年之后,阿姆斯特丹的两位研究人员才使用被称为“图卷积网络”(GCN)的图神经网络变体展示了这种神经网络的力量。GCN也是当今最流行的GNN之一。

GraphSage开创了在GNN中传递信息的强大聚合技术

他们所创建的PinSage是包含30亿节点和180亿边的推荐系统,这超过了当时的其他AI模型。

如今,Pinterest将PinSage应用于整个公司的100多个用例。该公司高级机器学习工程师AndrewZhai于在线座谈会上表示:“没有GNN,Pinterest就不会有今天的吸引力。”

GNN变体家族树概览图

扩展图神经网络

展望未来,GNN需要进行全方位的扩展。

还未维护图数据库的企业机构需要使用工具来减轻创建这些复杂数据结构的工作负担。

Eaton表示:“我们正在提供各种产品来最大程度地提高加速系统的内存、计算带宽与吞吐量,以便解决此类数据加载和扩展问题。”

作为这项工作的内容之一,NVIDIA在GTC上宣布,除了深度图库(DGL)之外,公司现在还支持PyTorchGeometric(PyG)。这是当下最流行的两个GNN软件框架。

NVIDIA提供多种工具加快GNN的构建

经过NVIDIA优化的DGL和PyG容器针对NVIDIAGPU进行了性能调整和测试。它们为开始使用GNN开发应用的人提供了方便的平台。

THE END
1.图神经网络概述第三弹:来自IEEEFellow的GNN综述机器之心神经网络(GNN)热度持续上升,之前我们曾介绍了清华两篇综述论文,参见:深度学习时代的图模型,清华发文综述图网络,和清华大学图神经网络综述:模型与应用。最近,IEEE Fellow、Senior Member 和 Member Zonghan Wu 等人又贡献了一篇图神经网络综述文章。这篇文章介绍了 GNN 的背景知识、发展历史、分类与框架、应用等,详细介https://www.jiqizhixin.com/articles/2019-01-07-8
2.原创gnn图神经网络综述GNN图神经网络综述 什么是GNN GNN是Graph Neural Network的简称,是用于学习包含大量连接的图的联结主义模型。当信息在图的节点之间传播时GNN会捕捉到图的独立性。与标准神经网络不同的是,GNN会保持一种状态,这个状态可以代表来源于人为指定的深度上的信息。https://blog.csdn.net/qq_34911465/article/details/88524599
3.AI科普丨图神经网络(GNN)的完整总结!算法聚类编程大模型图神经网络由于其在处理非欧空间数据和复杂特征方面的优势,广泛应用在像推荐系统、知识图谱和交通道路分析。但是,图数据量大了以后,问题就来了,计算起来超级慢,内存也撑不住,而且分布式系统通信起来也很费劲。 在此,本文首先介绍了图神经网络如何传递信息,并阐述了常见的图神经网络模型及其在大数据下的挑战。文章总结https://dy.163.com/article/JGQFIUED0511PEBT.html
4.终于彻底理解图神经网络(GNNs)了!学习有关图神经网络的所有知识,包括 GNN 是什么,不同类型的图神经网络,以及它们的用途。此外,了解如何使用 PyTorch 构建图神经网络。目录什么是图?使用 NetworkX 创建图 为什么分析图很难? 什么是图神经网络(GNN)? 什么是图卷积网络(GCN)? 图神经网络如何工作?使用 PyTorch 构建图神经网络 GNN http://www.360doc.com/content/24/0309/18/99071_1116647067.shtml
5.图神经网络综述第47 卷第 4 期 Vol.47 No.4 ·热点与综述· 计算机工程 Computer Engineering 文章编号 :1 0 0 0-3 4 2 8(2 0 2 1)0 4-0 0 0 1-1 2 文献标志码 :A 2021 年 4 月 April 2021 中图分类号 :T P 1 8 图神经网络综述 王健宗,孔令炜,黄章成,肖京 (平安科技(深圳)有限公司 联邦学习技术https://www.ecice06.com/CN/article/downloadArticleFile.do?attachType=PDF&id=30944
6.图神经网络+强化学习客户点与仓库点组成了一个配送网络,车辆可以在此网络中移动从而完成配送任务。在求解此问题过程中,需要优化的决策变量为每个客户的配送任务应该分配到哪一辆车上,以及每辆车完成客户配送任务的先后顺序,优化目标为最小化车辆总行驶距离和使用的车辆数。 一、实验要求https://www.jianshu.com/p/e7ec17043414
7.基于时空建模的动态图卷积神经网络摘要为了使图表示学习得到的嵌入向量对节点和边不断变化的动态图具有很好的信息表征能力, 提出一种动态图卷积神经网络模型(DyGCN), 将动态图上的表示学习建模为时间和空间信息的聚合。该模型将从图卷积神经网络(GCN)的空间卷积提取图上的结构信息与从时间卷积神经网络(TCN)的因果卷积提取时序上的历史信息相结合, 同https://xbna.pku.edu.cn/fileup/0479-8023/HTML/2021-4-605.html
8.图网络存内计算研究获进展图神经网络(Graph Neural Network)是较新的深度学习技术,可用于处理更复杂的非结构化数据,广泛应用于社交网络、电子购物、药物预测、人机交互等应用场景。随着数据量的急速膨胀,亟待提升传统CMOS数字硬件系统中运行图神经网络的效率,同时,图神经网络的训练过程日趋复杂使得训练能耗居高不下。基于阻变忆阻器(RRAM)的存内https://www.cas.cn/syky/202302/t20230227_4875993.shtml
9.科学网—[转载]一种基于深度神经网络的临床记录ICD自动编码方法在这些工作中,Kipf T N等人提出了一种简化的图神经网络模型,即GCN,该模型在许多基准图数据集上达到了先进的水平。近期,图卷积神经网络还被用于文本分类任务中,Yao L等人提出了一种文本图卷积网络(Text-GCN),使用单词和文档的on-hot向量进行初始化,并联合学习单词和文档的表征,以提高文本分类的效果。Peng H等人https://blog.sciencenet.cn/blog-3472670-1280973.html
10.图卷积神经网络先验网络图卷积神经网络综述是可解释的,且本文从图卷积的角度提供了理论分析。 中的特征抽取对应于单个固定的过滤器。 发现 能够改善任务准确率,本文证明这个方法能够有效的缩小图的谱域,且应用在 上能够产生低通过滤器。 通过在基准数据集上的评估,展示了 能够与 及其他state-of-the-art图神经网络媲美。然而, https://blog.51cto.com/u_16213699/7652819
11.从图嵌入算法到图神经网络腾讯云开发者社区图时空网络(Graph Spatial-Temporal Network):旨在于时空图中学习模式 (pattern),应用在分类或是对未来特征的预测。 GNNPapers(https://github.com/thunlp/GNNPapers)详细列示了图神经网络诞生以来里程碑式的优秀模型,以及其在具体场景中的应用。 图卷积网络 https://www.cloud.tencent.com/developer/article/1617663