图表示学习+图神经网络:把握AI的下一波浪潮| 文末赠书 从电信网络到社交网络,从经济网络到生物医学网络……图结构的数据无处不在。如何提取图的特征,表示或编码图的结构,基于图数据... 

从电信网络到社交网络,从经济网络到生物医学网络……图结构的数据无处不在。

如何提取图的特征,表示或编码图的结构,基于图数据进行学习、推理和归纳变得越来越重要。

因为无论是进行数据挖掘、分析社交网络,还是优化推荐系统、问答系统,乃至未来破解AI黑盒、增强AI可解释性与鲁棒性,实现认知智能甚至通用人工智能,图都极有可能是其中必不可少的一环。

近年来,关于图表示学习(GraphRepresentationLearning,GRL)的研究激增,其中既包括用于深图嵌入的技术、卷积神经网络在图结构数据上的泛化,也包括受置信度传播算法启发的神经消息传递方法。

图表示学习的发展为推荐系统、问答系统、三维视觉、化学合成等诸多领域带来了最新的研究成果。

该如何了解图表示学习的发展,把握AI的下一波浪潮呢?

WilliamHamilton的《图表示学习》(GraphRepresentationLearning)也许是开启未来之门的钥匙。这是一本图表示学习的开山之作,得到了清华大学唐杰教授的大力推荐。

《图表示学习》从背景介绍、节点嵌入、图神经网络、生成图模型等角度全面、系统地介绍了图表示学习的历史与前沿。

第一,讨论图表示学习的目标及图论和网络分析的关键方法论。

第二,介绍并回顾学习节点嵌入的方法,包括基于随机游走的方法以及在知识图谱上的应用。

第三,对GNN进行技术上的综合介绍,因为GNN已成为图数据深度学习领域占主导地位且迅速发展的范式。

第四,总结针对图的深度生成模型的前沿进展,这是图表示学习新生但发展迅速的子集。

本书不仅内容全面,而且探本溯源、深入浅出。

通过丰富的配图和详细的推导一步步告诉读者来龙去脉。

并且介绍了目前最前沿的研究进展,提供了丰富的参考文献、PPT等资源。

为了保证翻译质量,本书特别邀请了AITIME进行翻译。

2018年,清华大学正式提出第三代人工智能的理论框架体系:

(1)建立可解释、健壮性的人工智能理论和方法。

(2)发展安全、可靠、可信及可扩展的人工智能技术。

(3)推动人工智能创新应用。这就要求未来的GNN一定是面向推理、面向认知的。

未来,怎么做推理(reasoning)、规划(planning)、逻辑(logical)甚至人的表示,是一个很大的问题,而图表示学习也许是破解这个秘密的关键。

想了解更多图表示学习的内容?这本图表示学习的开山之作《图表示学习》值得一读!

▊《图表示学习》

[美]威廉·汉密尔顿(WilliamHamilton)著

AITIME译

全面剖析图表示学习、图神经网络、图嵌入、节点嵌入、图深度学习等AI领域的前沿进展

探索提升AI的可解释性、健壮性的路径与方法,为AI实现推理、规划、逻辑等表示提供助力

本书提供了一份关于图表示学习的综述。

首先,本书讨论图表示学习的目标及图论和网络分析的关键方法论。然后,本书介绍并回顾了学习节点嵌入的方法,包括基于随机游走的方法以及在知识图谱上的应用。再后,本书对高度成功的图神经网络(GraphNeuralNetwork,GNN)进行了技术上的综合介绍,GNN已成为图数据深度学习领域占主导地位且迅速发展的范式。最后,本书总结了针对图的深度生成模型的前沿进展,这是图表示学习新生但发展迅速的子集。

THE END
1.图神经网络与图表示学习:从基础概念到前沿技术随着复杂网络数据的快速增长,图数据的处理和分析成为机器学习领域的一个重要方向。图神经网络(Graph Neural Networks, GNNs)和图表示学习技术逐渐崭露头角,成为处理图数据的有效工具。本文将深入探讨图的形式化定义、图表示学习的基本概念以及一系列先进的图神经网络模型。 https://blog.csdn.net/cooldream2009/article/details/136084701
2.图神经网络:图表示学习图神经网络(Graph Neural Network, GNN)是一种专门用于图数据上的机器学习模型。与传统的神经网络模型侧重于处理向量和矩阵数据不同,图神经网络专注于处理图数据,能够有效地捕捉图结构的特征和关系。 图神经网络的起源 图神经网络最早可以追溯到20世纪80年代,但直到近年来才逐渐受到广泛关注。随着社交网络、生物网络、https://www.jianshu.com/p/30b99498d43e
3.网络学习素材网络学习图片网络学习素材图片下载第3页觅知网为您找到1066个原创网络学习素材图片,包括网络学习图片,网络学习素材,网络学习海报,网络学习背景,网络学习模板源文件下载服务,包含PSD、PNG、JPG、AI、CDR等格式素材,更多关于网络学习素材、图片、海报、背景、插画、配图、矢量、UI、PS、免抠,模板、艺术字、https://www.51miz.com/so-sucai/157549/p_3/
4.深度学习时代的图模型,清华发文综述图网络机器之心深度学习在多个领域中实现成功,如声学、图像和自然语言处理。但是,将深度学习应用于普遍存在的图数据仍然存在问题,这是由于图数据的独特特性。近期,该领域出现大量研究,极大地提升了图分析技术。清华大学朱文武等人综述了应用于图的不同深度学习方法。 他们将现有方法分为三个大类:半监督方法,包括图神经网络和图卷积网https://www.jiqizhixin.com/articles/122304
5.深度学习图像分割:网络结构设计一览GANs网络结构示意受到GANs启发,Luc等人训练了一个语义分割网络(G)以及一个对抗网络(D),对抗网络区分来自ground truth或语义分割网络(G)的分割图。G和D不断地博弈学习, 它们的损失函数定义为 : GANs loss function 回顾一下原始的GAN损失函数:GANs的损失函数体现的是一种零和博弈的思想,原始的GANs的损失函数如下:https://www.51cto.com/article/711681.html
6.干货图神经网络的十大学习资源分享雷峰网字幕组双语原文:【干货】图神经网络的十大学习资源分享 英语原文:Top 10 Learning Resources for Graph Neural Networks 翻译:雷锋字幕组(听风1996) 图神经网络(GNNs)是深度学习的一个相对较新的领域,从最近开始越来越流行。Twitter、Google或Facebook等大公司都会开始对于GNN投入研究,事实证明了GNN优于其他使用图数据https://www.leiphone.com/news/202010/7Xuv0ipza1lmd125.html
7.高清图解:神经网络机器学习数据科学一网打尽附PDF这份备忘单涵盖了上述领域几乎全部的知识点,并使用信息图、脑图等多种可视化方式呈现,设计精美,实用性强。 今天,新智元要为大家推荐一个超实用、颜值超高的神经网络+机器学习+数据科学和Python的完全图解,文末附有高清PDF版链接,支持下载、打印,推荐大家可以做成鼠标垫、桌布,或者印成手册等随手携带,随时翻看。https://news.hexun.com/2019-05-14/197181509.html
8.终于有人总结了图神经网络!一、为什么需要图神经网络? 随着机器学习、深度学习的发展,语音、图像、自然语言处理逐渐取得了很大的突破,然而语音、图像、文本都是很简单的序列或者网格数据,是很结构化的数据,深度学习很善于处理该种类型的数据(图1)。 图1 然而现实世界中并不是所有的事物都可以表示成一个序列或者一个网格,例如社交网络、知识图https://www.scholat.com/teamwork/showPostMessage.html?id=10103
9.NeurIPS这篇论文提出了一种基于官能团生成的图网络自监督预训练方法MGSSL。大量实验表明MGSSL可以使得预训练图网络学习到官能团结构和语义信息,提升下游分子属性预测的表现。未来的研究工作包括:(1)设计更多基于官能团的图网络自监督学习任务 (2)探索基于官能团的自监督学习在其他领域的应用。 https://cloud.tencent.com/developer/article/1915923
10.上海交通大学王宇光:几何深度学习和图神经网络的研究进展和趋势3月 23 日,在机器之心 AI 科技年会上,上海交通大学自然科学研究院和数学科学学院副教授、上海人工智能实验室成员王宇光老师发表了主题演讲《几何深度学习和图神经网络的研究进展和趋势》。 演讲视频地址(点击「阅读原文」也可观看):https://www.bilibili.com/video/BV1Yr4y1q7c1?spm_id_from=333.999.0.0 https://www.thepaper.cn/newsDetail_forward_17536620
11.勇立潮头向“网”图强:网络人士学习贯彻党的二十大精神!近年来,互联网行业发展日新月异,广大网络人士勇立潮头、逐梦时代、向“网”图强,以信息化数字化优势创造了一个又一个中国互联网“奇迹”,不断赢得未来发展和竞争的主动权、主导权。为进一步贯彻党的二十大精神,团结凝聚广大网络人士,构建网上网下同心圆,中央统战部第5期网络人士理论研讨班近日在中央社会主义学院举https://www.zysy.org.cn/article/4Ccia12MDAT
12.MindSpore官网框架中已经自带实现十三种图网络学习模型,涵盖同构图、异构图、 随机游走等类型的应用网络。 详情请参考这里https://gitee.com/mindspore/graphlearning/tree/research/model_zoo 4 高性能可扩展的强化学习计算框架:昇思MindSpore Reinforcement 强化学习(RL)是近年来AI领域的研究热点之一,伴随昇思MindSpore全场景AI框架 https://www.mindspore.cn/news/newschildren?id=967
13.科学网—python图神经网络,注意力机制Transformer模型目标4. 图卷积网络(GCN)的工作原理。 5. 图神经网络的变种和扩展:图注意力网络(GAT)、图同构网络(GIN)、图自编码器、图生成网络。 6、案例演示7、实操练习 强化学习详解 1、强化学习的基本概念和背景(什么是强化学习?强化学习与其他机器学习方法的区别?强化学习的应用领域有哪些? https://blog.sciencenet.cn/blog-3559456-1409752.html