越来越火的图数据库到底能做什么?sql算法关系型nosql

【CSDN编者按】图数据库像新一代的关系型数据库,取代传统关系型数据库在诸多领域大展拳脚、高歌猛进。图数据库较传统关系型数据库有何优势?适用于哪些技术领域?未来是何态势,有何机遇?《》特邀Neo4j亚太地区售前和技术总监俞方桦为大家解读图数据库。

作者|俞方桦责编|张红月

出品|《》编辑部

随着大数据时代的到来,传统的关系型数据库由于其在数据建模和存储方面的限制,变得越来越难以满足大量频繁变化的需求。关系型数据库,尽管其名称中有“关系”这个词,却并不擅长处理复杂关系的查询和分析。另外,关系型数据库也缺乏在多服务器之上进行水平扩展的能力。基于此,一类非关系型数据库,统称“NoSQL”存储应运而生,并且很快得到广泛研究和应用。NoSQL(NotOnlySQL,非关系型数据库)是一类范围广泛、类型多样的数据持久化解决方案。它们不遵循关系型数据库模型,也不使用SQL作为查询语言。其数据存储不需要固定的表格模式,也经常会避免使用SQL的JOIN操作,一般都有水平可扩展的特征。

简言之,NoSQL数据库可以按照它们的数据存储模型分4类:

那么,到底什么是“图数据库”?相比关系型数据库,图数据库又有哪些优势呢?

本文节选自《》

图数据库与关系型数据库的比较

图数据库(GraphDatabase)是指以图表示、存储和查询数据的一类数据库。这里的“图”,与图片、图形、图表等没有关系,而是基于数学领域的“图论”概念,通常用来描述某些事物之间的某种特定关系。比如在我们的日常生活中:

可以说,“图无处不在”(Graphsareeverywhere),也正因如此,传统关系型数据库不擅长处理关系的问题,能够被图数据库很好地解决,图数据库正是为解决这一问题而生。

其实,在某些方面,图数据库就像新一代的关系数据库,区别在于图数据库不仅存储实体,还存储实体之间的关系。关系型数据库通过“主键-外键”表示隐含的“关系”连接,但实际上这里的“关系”是关系代数中的概念,与我们现实世界中的“关系”不同。

通过将关系预先物理存储在数据库中(我们称之为“原生”),图数据库将查询性能由原先的数分钟提高到数毫秒,特别是对于JOIN频繁查询,这种优势更加明显。图2中比较了在社交网络数据集上搜索朋友圈的查询,在原生的图数据库和关系数据库的查询执行效率。显然,使用图数据库比使用传统关系数据库效率有极大提升。

图2比较图数据库和关系数据库的查询性能

作为NoSQL数据库的一种,图数据库通常不需要先定义严格的数据模式,以及强制的字段类型,这使其在处理结构化和半结构化的数据时同样得心应手。

除了存储和查询效率方面的优势,图数据库也拥有更加丰富的分析能力,我们通过比较这四类主要的非关系型数据库特点(见表1),就可以得知。

表1四类主要非关系型数据库特点

图数据库的主要技术领域

既然图数据库有诸多优势且发展迅速,那它主要涉及哪些技术领域呢?我们用图3来描述。具体来讲,图数据库的主要技术领域包括存储模式、图模型、图查询语言、图分析以及图可视化。

存储模式

原生图vs非原生图

图数据库以节点和边来对现实世界进行数据建模。对于实际的底层物理存储技术,目前主流有两大类方法:

有的图计算平台底层支持各类存储技术,包括图存储,称作“多模式”,例如百度HugeGraph。

原生的图存储由于针对图数据和图操作的特点进行了优化,并且从物理存储到内存中的图处理,都采用一致的模型而无需进行“模式转换”,在大数据量、深度复杂查询以及高并发情况下,性能普遍优于非原生的图存储。

图的分布式存储

为了支持大规模的图存储和查询,需要对图进行分布式存储。这里有两类分布式的实现方法:

1、分片(Sharding)。分片就是根据某一原则(例如根据节点的ID随机分布)将数据分布存储在多个存储实例中。根据切分规则,又可以分为:

出于优化性能的考虑,目前按点切分的分布式图更加常见。

2、分库(Partitioning)。由于现实世界中的图往往遵循“幂律分布”,即少数节点拥有大量的边,而多数节点拥有很少的边。分片存储不可避免地会造成大量数据冗余复制,或增加分区间网络通信的负担。因此,另外一种分布式的方法是分库。这是借助图建模的方法,将节点按照业务需求、根据查询类型分布在不同库中,是最小化跨库的网络传输。不同库中的数据则通过联邦式查询(FederatedQuery)实现。

图模型

在基于图的数据模型中,最常见的两种方法是资源描述框架(ResourceDescriptionFramework,RDF)和标签属性图(LabelledPropertyGraph,LPG)。

RDF

RDF是W3C组织指定的标准,它使用Web标识符(URI)来标识事物,并通过属性和属性值来描述资源。根据RDF的定义:

我们来看看RDF是怎样描述“西湖是位于杭州的一个旅游景点”这个事实的(见图4)。

图4RDF举例

RDF图的查询语言是SPARQL。如果要询问“位于杭州的旅游节点有哪些?”,使用SPARQL的查询如下:

PREFIXns:SELECTplaceWHERE{placens:地理位置ns:杭州.placens:实例ns:旅游景点.

LPG

在LPG属性图模型中,数据对象被表示成节点(拥有一个或多个标签)、关系和属性。我们用下面的例子来说明(见图5)。

图5关于电影的个人偏好的属性图

在图5中:

相比RDF,LPG由于可以在节点和边上定义丰富的属性,更加易于我们理解,建模也更加灵活。

图查询语言

应该说,关系型数据库在过去半个世纪的成功离不开SQL查询语言标准化。目前,图查询语言的标准化(GQL)工作还在进行当中,其核心语法和特性基于Neo4j的Cypher、Oracle的PGQL和GCORE框架。

从查询语言本身来说,主要有两类:

图分析

最短路径搜索

最短路径是图计算中一类最常见的问题,通常见于解决下面的应用场景:

计算范围则包括:

除此之外,最小生成树、随机游走等图遍历算法也属于这一类。

社团检测

“物以类聚,人以群分”,这句话非常形象地描述了网络的一个重要特征:聚集成群。群也称作“社区”“团体”“群组”。社区的形成和演变是图分析和研究的又一个重要领域,因为它帮助我们理解和评估群体行为、研究新兴现象。

社区检测算法就是在图中对节点进行分组和集合(见图6):在同一集合中的节点之间的边(代表交互/连接)比分属不同集合的节点之间更多。从这一意义上,我们认为它们有更多共同点。社区检测可以揭示节点集群、隔离的群组和网络结构。在社交网络分析中,这种信息有助于推断拥有共同兴趣的人群。在产品推荐中,可以用来发现相似产品。在自然语言处理/理解中(NLP/NLU),可以用来对文本内容自动分类。社区检测算法还用于生成网络的可视化展现。

有助于推断拥有共同兴趣的人群。在产品推荐中,可以用来发现相似产品。在自然语言处理/理解中(NLP/NLU),可以用来对文本内容自动分类。社区检测算法还用于生成网络的可视化展现。

中心性算法

在图论和网络分析中,中心性指标识别图中最重要的顶点。其应用广泛,包括识别社交网络中最有影响力的人、互联网或城市网络中的关键基础设施节点,以及疾病的超级传播者。

相似度算法

相似度描述两个节点以及更加复杂的子图结构是否在何等程度上属于同一类别,或者有多相似。

图/网络相似性度量有三种基本方法:

图可视化

“一图胜万言”这句话是对图可视化最恰当的描述。图可视化直观、智能地展现数据之间的结构和关联,能看到从前在表格或者图表中看不到的内容。

图7新冠病毒知识图谱

图数据的可视化建立了关于事物之间关联的最直观的展现,并且使得原本并不明显、甚至于淹没在数据汪洋中的重要特征得以显现出来,成为新的认知。

图数据库的未来展望

在图数据库出现并兴起的十余年间,它在各个领域都得到了成功的应用,并且产生了众多创新性的解决方案。

在社交平台的“网络水军”识别方面,通过分析用户的关系图特征、结合传统的基于用户行为和用户内容的发现方法,可以有效提高预测的准确性和鲁棒性。

在金融领域,图和图分析帮助机构更高效地发现异常的关联交易,以赢得反洗钱战争。

在电力、电信行业,图数据库帮助管理复杂庞大的设备和线路网络,并及时为故障分析根源、估算影响。

在制造、科研、医药等领域,图数据库广泛用于存储和查询知识图谱,成为大数据管理、数据分析和价值挖掘乃至人工智能技术领域的重要支撑。

在可预见的未来内,图数据库与人工智能技术的结合应用将会带来更多创新和飞跃。图数据库至少能在以下四个领域帮助提升AI能力。

第二,图提供更高的处理效率,因此借助图来优化模型并加速学习过程,可以有效地增强机器学习的效率。

第三,基于数据关系的特征提取分析可以识别数据中最具预测性的元素。基于数据中发现的强特征所建立的预测模型拥有更高的准确性。

除此以外,近年来,云端部署的图数据库(SaaS/DaaS)成为了又一个发展趋势。国内的众多大厂纷纷推出自研的云端图数据库产品,例如百度的HugeGraph、阿里的GDB、腾讯的TGDB、华为的GES图计算引擎。

就总体趋势而言,我们能够预见,大数据时代,数据缺失不再是最大的挑战,我们渴求的是挖掘数据价值的能力,而数据的价值很大一部分在于数据之间的关联。图数据库和图分析作为处理关联数据最有效的技术和方法,一定会继续大放异彩,书写数据库应用的新篇章。

作者简介:

Neo4j亚太地区售前和技术总监,有二十余年IT从业经验。PMP、IEEE和ACS会员,PMP认证专家、欧盟GDPR认证专家、Neo4j数据库和图数据科学认证专家,并拥有金融市场(投资和交易)高级学位。

THE END
1.AI在自然语言处理中的突破:从理论到应用腾讯云开发者社区自然语言处理的核心技术 1. 词嵌入(Word Embedding) 词嵌入技术通过将词语映射到一个高维向量空间中,使得计算机能够理解词语之间的关系。常见的词嵌入模型包括Word2Vec、GloVe和FastText。这些模型通过大量文本数据的训练,能够捕捉词语的语义信息。 ###2. 变压器模型(Transformer) https://cloud.tencent.com/developer/article/2479408
2.自然语言处理中的知识图谱自然语言处理(NLP)是计算机科学和人工智能领域的一个分支,旨在让计算机理解、生成和处理人类语言。知识图谱(Knowledge Graph,KG)是一种以实体(entity)和关系(relation)为基础的图形数据库,可以帮助计算机理解和推理人类语言。在过去的几年里,知识图谱在自然语言处理领域取得了显著的进展,成为了NLP的一个重要组成部分。 https://blog.csdn.net/universsky2015/article/details/135788023
3.应用:自然语言生成与对话系统51CTO博客知识图谱(Knowledge Graph, KG)是一种用于表示实体(entity)和实体之间的关系(relation)的数据结构。知识图谱的核心是将实体和关系建模成图的节点(node)和边(edge),实体表示为节点,关系表示为边。知识图谱可以帮助计算机理解自然语言,从而实现自然语言处理(Natural Language Processing, NLP)的目标。 https://blog.51cto.com/universsky/9048284
4.AI自然语言处理NLP原理与Python实战:知识图谱的构建自然语言处理(Natural Language Processing,NLP)是人工智能(Artificial Intelligence,AI)领域的一个重要分支,旨在让计算机理解、生成和处理人类语言。知识图谱(Knowledge Graph,KG)是一种结构化的数据库,用于存储实体(如人、地点、组织等)及其关系的信息。知识图谱的构建是自然语言处理的一个重要应用,可以帮助计算机理解人类https://zhuanlan.zhihu.com/p/670006229
5.Python自然语言处理实战图1-5还显示了当我们使用Google的Translation API服务时,翻译文本的JSON响应。 1.2.5 自然语言推理 自然语言推理(natural language inference,NLI)任务对前提和假设之间的关系进行分类。在推理过程中,任务将前提和假设作为输入,并基于给定的前提输出假设是否为真的判断。 https://www.ituring.com.cn/book/tupubarticle/33684
6.文本序列的常用构图方法与代表案例剖析信息抽取图的目的是抽取结构信息来表示自然句子中的高级信息。 在实现上: 首先,通过Openie等工具识别出句子中的实体、实体之间的共指关系三元组(如上图中名字 "Pual"、名词 "He "和 "一位著名的计算机科学家 指的是同一个对象),以及主谓宾三元组(如图中的paul,grew up in seatle),一同作为关系三元组数据(https://www.shangyexinzhi.com/article/4455904.html
7.干货分享RDF和LPG知识图谱上的表示学习在本文中,我们将重温三元组在知识图谱构建中的结构范式,同时也将学到新概念—超图、超关系知识图谱以及超关系知识图谱的发展历程、超关系知识图谱编码、解码的全过程等等。原文(见阅读原文)翻译如下: 知识图谱(KGs)是现代自然语言处理和人工智能应用的基石——近期的成果包括问答、实体和关系链接、语言建模、信息提取,https://www.jianshu.com/p/5366ec5bc4a2
8.政策智能分析详解,达观RPANLP知识图谱技术多嘲落地应用通过机器人流程自动化(RPA)、自然语言处理(NLP)、共光学字符识别(OCR)、知识图谱、智能搜索、智能推荐、文档智能审阅等自动化与人工智能技术的结合,未来,达观数据也将继续助力企业快速实现智能化升级。https://blog.itpub.net/69997703/viewspace-2778372/
9.科学网—[转载]时态知识图谱补全的方法及其进展杜剑峰(1976-),男,博士,广东外语外贸大学教授,中国中文信息学会语言与知识计算专业委员会委员,主要研究方向为知识表示与推理、数据挖掘和自然语言处理。在AAAI、WWW、ISWC、CIKM和KAIS等学术会议上发表数十篇文章,获得多项国家自然科学基金项目资助。担任JournalofWebSemantics编委,长期担任CCKS、CSWS、IJCAI、AAAI、ISWC、https://blog.sciencenet.cn/blog-3472670-1296534.html
10.产品经理的知识图谱入门实操人人都是产品经理从无结构的文本中抽取知识,首先需要识别文本中的实体,这个过程称之为做命名实体识别(Named Entity Recognition,NER),命名实体识别属于自然语言处理中的一项基础任务,同时也是关系抽取、事件抽取、机器翻译、问答系统等多个NLP任务的基础工作,其目标是从文本中抽取出具有特定意义的实体,一般包括实体类、实践类、数字类三个https://www.woshipm.com/pmd/2638735.html
11.全国一体化政务大数据体系建设指南图2国家平台与地方和部门平台关系图 国务院办公厅统筹全国一体化政务大数据体系的建设和管理,整合形成国家政务大数据平台,建立完善政务大数据管理机制、标准规范、安全保障体系。国务院有关部门要明确本部门政务数据主管机构,统筹管理本部门本行业政务数据,推动垂直管理业务系统与国家政务大数据平台互联互通。已建设政务数据平台https://www.hc.gov.cn/bmjd/jz/gdz/zwxx_100731/dt_100733/202210/t20221031_11249976.html
12.Python自然语言处理之词干,词形与最大匹配算法代码详解python这篇文章主要介绍了Python自然语言处理之词干,词形与MaxMatch算法代码详解,涉及词干提取,词形还原,简单总结了二者的区别和联系,最后还分享了最大匹配算法的相关示例,具有一定参考价值,需要的朋友可以了解下。 本文主要对词干提取及词形还原以及最大匹配算法进行了介绍和代码示例,Python实现,下面我们一起看看具体内容。 https://www.jb51.net/article/128333.htm
13.?达摩院文档级关系抽取新数据集和五元组抽取新任务自然语言处理 关系抽取 EMNLP 信息抽取 知识图谱邴立东 2022-12-02关系抽取(RE)是 NLP 的核心任务之一,是构建知识库、事件抽取等下游应用的关键技术。多年来受到研究者的持续关注。 本文将介绍达摩院语言实验室多语言 NLP 算法团队的两篇 EMNLP 2022 主会论文。第一篇论文针对文档级关系抽取任务中普遍存在的假负https://techbeat.net/article-info?id=4379