数据中台演进的四个阶段

口述者行在(张金银),奇点云CEO,阿里巴巴第一个数据仓库的创建者,阿里巴巴第一个消费者数据平台TCIF的创建者,阿里云数据智能平台数加的创始人,2004年以数据技术专家身份加入阿里巴巴以来,12年来一直投身于大数据事业。2016年离开阿里巴巴,创立奇点云,旨在用「AI驱动的数据中台」赋能线下,让商业更智能。

(奇点云CEO-行在)

2009年,阿里云开启了中国的云时代。

十年市场教育,中国的公有云市场也已经从无到有,迈过了300亿元大关,预计到2021年更是能达到900亿元的规模。

「数据中台」已经从一个技术词汇,慢慢转变成为企业界的共识:如果想要在信息商业中拥有一席之地,就必须要借助云计算和数据的力量,完成企业的数字化转型。

只是,数据到底在转型中扮演什么样的角色,要如何利用好数据,数据上云后如何支持业务,企业需要哪些核心能力?这些问题,对于大多数的非技术业者而言,仍然是知其然不知其所以然。

一般而言,「数据上云」更多强调的是数据的存储和计算,而要让数据能够赋能业务,则更需要「数据中台」来进行数据处理,进而支持业务决策和优化运营。

这是「数据中台」和「数据上云」最大的不同。

作为数据业务领域的先行者,阿里云总裁张建锋,在最新的演讲中,把数据智能作为数据处理的核心能力:

这里面传达出了几个核心信息:

1.云计算为数据智能提供了基础算力;

2.行业(经验转化而来的)算法是智能处理数据的主要工具;

3.数据+智能的平台和能力,前提是基础设施的云化和核心技术的互联网化;

这是阿里云所认为的数据处理的能力框架,而在目前的市场上,我们通常把这种能力框架称为「数据中台」。

舆论往往会更强调技术的作用,强调技术对业务的推动作用,但事实上,在商业领域,更多的时候,技术发展都是跟着业务走,技术的发展常常来自于业务需求和业务场景的倒逼。

例如,随着越来越多的企业把业务流程上云,日益增长的数据存储和仍然稀缺的数据应用就成为了企业的主要矛盾之一,而且,这种矛盾不是一天就能够解决,需要从业务、技术、组织几个不同的领域一起来探寻数据的解决方案。

简单来说,「数据中台」就是这一系列解决方案的基础设施。

数据中台不是一套软件系统,也不是一个标准化产品,站在企业的角度上,数据中台更多地指向企业的业务目标,也即帮助企业沉淀业务能力,提升业务效率,最终完成数字化转型。直白点说,中台只讲技术,不讲业务,都是大忽悠。

这么多年来,互联网的发展都建立在更低成本、更高效率的连接之上,线下也一定会复制线上的发展逻辑,用更多连接带来更多的数据。

比如,通过摄像头,我们就可以低成本建立顾客的FaceID档案,从而丰富人和店铺的关系数据,店铺进而可以根据数据分析结果,给顾客提供更有针对性的服务项目。

在数据史上,2015年是一个重要的关口:2015年全年产生的数据量等于历史上所有人类产生数据的总和,这是数据从乘数型增长全面转向了指数型增长的方向标,海量数据处理成为全人类的挑战;

未来学家认为,机器智能最终会超越人的智慧,而这两者的临界点就被称为「奇点」。从这点来说,我们可以认为,阿里巴巴已经跨越了奇点,真正成为一家数据公司。

下面我们从数据的角度来梳理下这个过程。

阿里巴巴的数据处理经历了四个阶段,分别是:

一、数据库阶段,主要是OLTP(联机事务处理)的需求;

二、数据仓库阶段,OLAP(联机分析处理)成为主要需求;

三、数据平台阶段,主要解决BI和报表需求的技术问题;

四、数据中台阶段,通过系统来对接OLTP(事务处理)和OLAP(报表分析)的需求,强调数据业务化的能力。

(数据中台演进的四个阶段)

第一个阶段是数据库阶段。

淘宝还只是一个简单的网站,淘宝的整个结构就是前端的一些页面,加上后端的DB(DataBase,数据库),只是个简单的OLTP系统,主要就是交易的事务处理。

这里要说明的是,OLTP的交易场景和OLAP的分析场景区别在于,前者强调高并发、单条数据简单提取和展示(增删改查),后者对并发的要求不高,但是需要打通不同的数据库,比如ERP、CRM、行为数据等等,并且能够进行批量的数据处理,也就是通常说的低并发,大批量(批处理)、面向分析(query+计算,用于制作报表)。

随着淘宝用户超过100万,分析需求的比重就越来越大。淘宝需要知道它的交易来自于哪些地区,来自于哪些人,谁在买淘宝的东西等等,于是,就进入了数据处理的第二个阶段。

第二个阶段是数据仓库阶段。

正如前文所述,OLTP和OLAP对数据存储和计算的需求非常不一样,前者处理的是结构化的交易数据,而OLAP对应的是互联网数据,而互联网里面数据量最大的是网页日志,90%以上的数据都是点击(log)什么的非结构化的数据,而且数据量已经达到了TB的级别。

针对分析需求,就诞生了数据仓库(DW,DataWarehouse),我2004年加入阿里,用OracleRAC搭建了阿里巴巴第一个DW,解决大量数据的存储和计算需求,也就是去把非结构化的数据转化成结构化数据,存储下来。

这个阶段,DW支持的主要就是BI和报表需求。

顺带提一下,数据库(DB)这时也在从传统DB转向分布式DB。主要原因是以前交易稳定,并发可控,传统DB能满足需求,但是后来随着交易量的增长,并发越来越不可控,对分布式DB的需求也就出来了。

随着数据量越来越大,从TB进入了PB级别,原来的技术架构越来越不能支持海量数据处理,这时候就进入了第三个阶段。

第三个阶段是数据平台阶段,这个阶段解决的还是BI和报表需求,但是主要是在解决底层的技术问题,也就是数据库架构设计的问题。

这在数据库技术领域被概括为「SharedEverything、SharedNothing、或SharedDisk」,说的就是数据库架构设计本身的不同技术思路之争。

SharedEverything一般是针对单个主机,完全透明共享CPU/MEMORY/IO,并行处理能力是最差的,典型的代表SQLServer。

SharedDisk的代表是OracleRAC,用户访问RAC就像访问一个数据库,但是这背后是一个集群,RAC来保证这个集群的数据一致性。

问题在于,OracleRAC是基于IOE架构的,所有数据用同一个EMC存储。在海量数据处理上,IOE架构有天然的限制,不适合未来的发展。阿里巴巴的第一个数据仓库就是建立在OracleRAC上,由于数据量增长太快,所以很快就到达20个节点,当时是全亚洲最大的OracleRAC集群,但阿里巴巴早年算过一笔账,如果仍然沿用IOE架构,那么几年后,阿里的预计营收还远远赶不上服务器的支出费用,就是说,如果不去IOE,阿里会破产。

SharedNothing的代表就是Hadoop。Hadoop的各个处理单元都有自己私有的存储单元和处理单元,

各处理单元之间通过协议通信,并行处理和扩展能力更好。中间有一个分布式调度系统,会把表从物理存储上水平分割,分配给多台服务器。

Hadoop的好处是要增加数据处理的能力和容量,只需要增加服务器就好,成本不高,在海量数据处理和大规模并行处理上有很大优势。

综上,用一个关键词来概括第三阶段就是「去IOE」,建立SharedNothing的海量数据处理平台来解决数据存储成本增长过快的问题。在阿里巴巴,前期是Hadoop,后期转向自研的ODPS。

第四阶段是数据中台阶段。

这个阶段的特征是数据量的指数级增长,从PB迈向了EB级别,未来会到什么量级,我也说不清楚。

主要是因为,2015年之后,IOT(物联网)发展起来,带动了视图声(视频、图像、声音)数据的增长,未来90%的数据可能都来自于视图声的非结构化数据,这些数据需要视觉计算技术、图像解析的引擎+视频解析的引擎+音频解析的引擎来转换成结构化数据。5G技术的发展,可能会进一步放大视图声数据的重要性。

线下要想和线上一样,通过数据来改善业务,就要和线上一样能做到行为可监测,数据可收集,这是前提。线下最大量的就是视图声数据,而这些数据靠人来手工收集,肯定是不靠谱的,依靠IOT技术和算法的进步,最终会通过智能端来自动化获取数据。

要使用这些数据,光有视觉算法和智能端也不行,要有云来存储和处理这些数据,以及打通其他领域的数据。

另一方面,从业务来看,数据也好,数据分析也好,最终都是要为业务服务的。也就是说,要在系统层面能把OLAP和OLTP去做对接,这个对接不能靠人来完成,要靠智能算法。

目前的数据中台,最底下的数据平台还是偏技术的,是中台技术方案的其中一个组件,主要解决数据存储和计算的问题;在上面就是一层数据服务层,数据服务层通过服务化API能够把数据平台和前台的业务层对接;数据中台里面就没有人的事情,直接系统去做对接,通过智能算法,能把前台的分析需求和交易需求去做对接,最终赋能业务。

综合上述两个方面,我认为未来要做好数据中台,只做云或者只做端都不靠谱,需要把两者合起来做。智能端负责数据的收集,云负责数据的存储、计算、赋能。端能够丰富云,云能够赋能端。

未来的数据中台,一定是「AI驱动的数据中台」,这个中台包括「计算平台+算法模型+智能硬件」,不仅要在端上具备视觉数据的收集和分析能力,而且还要能通过FaceID,帮助企业去打通业务数据,最终建立线上线下触达和服务消费者的能力。

真正做到「一切业务数据化,一切数据业务化」。

那么,数据中台是怎么来赋能业务使用数据的呢?这里举一个TCIF的例子。

现在大家可能都认识到了统一消费者数据的必要性,但是在几年前,哪怕是在阿里巴巴,消费者的信息也分散在各个业务中,碎片化、散点化,而业务当时需要把这些分散的人的数据集中起来,进行人群画像。道理很明白,人群画像越清晰,服务就会越精准。

怎么统一消费者数据?

首先,定义埋点规范,同一个人就用同一个标识,ID打通,也就是所谓的OneID;

再次,每个人还有各种网络行为,要如何把这些行为结构化,装到各种框架里面?这个特别难,我们当时主要是跟人类学家合作,一起把行为的分类树做出来。这个分类树非常细,甚至能够把一个人的发质都结构化了。

最后,就需要通过算法模型,把所有的标签都贴回到人上面,当时TCIF用上述方式生产出了3000多个消费者标签。

从TCIF的例子来看,数据中台未来一定需要具备三种能力。

第一是数据模型能力。

在业务层面,业务抽象能够解决80%的共性问题,开放的系统架构来解决20%的个性问题,但同时又要把平台上的业务逻辑分开,因为不同的业务逻辑之间可能有冲突。

这在数据中台就表现为数据的中心化,也就是数据的高内聚、低耦合,需要对共性问题抽象出业务的规则,建立数据模型,一个好的内聚模块能够解决一个事情,同时又要降低模块和模块之间的耦合度,让模块具有良好的可读性和可维护性。

这里的前提是要有真正懂业务能沉淀经验的人,以及要在企业层面开展数据治理,让数据能够准确、适度共享、安全地被使用。

第二是AI算法模型能力。

要实现数据业务化,前提是做到数据的资产化。要能够从数据原油里面,去提炼出可以使用的汽油。

第三是行业的应用能力,也就是我们通常说的数据业务化能力。

和数据中心化类似,数据业务化也需要很强的行业经验来指导,建立合适的业务场景,在场景里面去使用数据,从而体现数据的价值,来大大扩展数据在行业中的应用能力。

在奇点云和某酒类客户的合作过程中,我们最大的收获不是帮助客户完成了数据中台的搭建,而是通过理解客户的业务,把其经验沉淀到数据中台,从而赋能客户更多的端上的创新业务,带来了生意的增量。

最后总结一下,未来的数据中台最重要的不单是数据的存储和计算能力,而是要能从「存、通、用」的角度和业务结合,帮助企业从数据中获取价值,沉淀数据资产,最终用数据赚钱。

THE END
1.互联网发展的四个阶段理想股票技术论坛互联网经历了四个发展阶段,每个阶段都有其独特的特征和里程碑。这些阶段包括初级阶段、扩张阶段、成熟阶段和创新发展阶段。每个阶段的特征都反映了互联网技术的不断进步和应用的广泛普及。 ,理想股票技术论坛https://www.55188.com/tag-thread-8648210-1.html
2.中国互联网发展的四个阶段中国互联网的发展历程,实际上就是互联网、大数据、人工智能与实体经济融合发展过程。具体来说,中国互联网发展经历了四个阶段:学术牵引期、探索成长期、快速发展期、成熟繁荣期。 中国互联网发展的四个阶段 百氪解答 中国互联网历经了将近30年,其发展历程,实际上就是互联网、大数据、人工智能与实体经济融合发展过程。https://36kr.com/p/1357474901181825
3.国内互联网的发展经历过以下哪三个阶段?声明: 本网站大部分资源来源于用户创建编辑,上传,机构合作,自有兼职答题团队,如有侵犯了你的权益,请发送邮箱到feedback@deepthink.net.cn 本网站将在三个工作日内移除相关内容,刷刷题对内容所造成的任何后果不承担法律上的任何义务或责任 https://www.shuashuati.com/ti/9936a893600941a0b97f6cfb264a5182.html?fm=bd12c37585691d5b1d776fb69394d397e5
4.互联网的发展分为哪几个阶段互联网的发展分为哪几个阶段 互联网发展分为四个阶段 第一阶段:PC互联网时代的开始,90年代初以新浪、搜狐、网易、百度为代表的门户网站为代表,解决了人与信息交互的形式,各种传统的互联网网站以“内容为主,服务为辅”。 第二阶段:3G网络建设出具规模,消费者感受到3G的价值,以淘宝、腾讯为代表的互联网企业,解决https://www.yswxk.com/qa-detail/699a218d1dc311ef87b2fa163e1970d8
5.计算机的发展经历了哪几个阶段?各阶段软硬件都有怎样的特点爱问知识人此后经历了文本到图片,到现在语音、视频等阶段,宽带越来越快,功能越来越强。互联网的特征是:全球性https://iask.sina.com.cn/b/KURgMseiMb-a.html
6.课题研究结题报告(精选6篇)网络,大至互联网,小至学校多媒体网络教室的小型局域网。基于网络资源开展学习也就是指利用网络中可资利用的丰富资源开展学习活动,老师通过建立一个主题学习网站,构建交互式学习环境,同学通过网络开展信息检索、搜集、筛选、整理等学习活动,通过网络发表自身的研究效果,并通过网络分享他人的效果。https://www.ruiwen.com/word/ketiyanjiujietibg.html
7.图情动态信息(2018.2)信息服务黄淮学院第四届产教融合发展战略国际论坛“四大亮点”前瞻 2017年全国教育事业发展统计公报 “顶天立地”深化产教融合 全面提高人才培养能力 提升高等教育整体水平 研究性思维”引导本科生打开科研之门 让“互联网+”推动高校思想政治理论课同频共振 文创设计让文物活起来 http://cms.huanghuai.edu.cn/s.php/library/item-view-id-60499.html
8.计算机网络分开哪些阶段,物联网的发展可以分为哪四个阶段?物联网的发展可以分为四个阶段:第一个阶段是大型机、主机的联网;第二个阶段是台式机、笔记本电脑与互联网相联;第三个阶段是手机等一些移动设备的互联;第四阶段是嵌入式互联网兴起阶段,更多与人们日常生活紧密相关的应用设备,包括洗衣机、冰箱、电视、微波炉等都将加入互联互通的行列,最终形成全球统一的“物联网”https://blog.csdn.net/weixin_35261385/article/details/118349240
9.计算机网络发展历程探究,四阶段的演变之路科技计算机网络的发展历程经历了四个阶段:萌芽期、局域网的出现与发展、广域网与互联网的崛起以及移动互联网与物联网时代,每个阶段的发展都推动了计算机网络技术的进步,使得网络规模不断扩大,网络应用日益丰富,从简单的点对点通信到全球互联网的形成,计算机网络的发展改变了我们的生活方式和工作方式。 https://www.shrwt.com/post/4349.html
10.培智学校义务教育课程标准(2016年版)生活语文是培智学校学生学习应用语言文字的重要载体,也是培智学校学生发展思维、改善功能、学习文化知识和形成生活技能的基础。生活语文课程标准是培智学校实施语文教育教学的重要依据。生活语文课程的基础作用与多重功能,奠定了该课程在培智学校九年义务教育中的重要地位。 一、课程性质 生活语文课程是培智学校义务教育阶段https://yun.nxeduyun.com/index.php?r=space/school/theme/content/view&id=794545
11.智慧树知到章节测试答案汇总智慧树知到创新创业基础心理降答案汇总近日北京大学智慧树共享课程还是很受大家喜欢的,不过在学习之后需要完成见面课和章节测试的,很多小伙伴不清楚答案,今天小编就给大家整理了一些,有关爱生命急救与自救技能,走进故宫,互联网与营销创新章节等测试答案的汇总,一起来看看。 智慧树知到互联网与营销创新章节测试答案 https://www.qqtn.com/article/article_319268_1.html
12.架构与方法》转型的4个基本认识5项重点任务和5个发展阶段四数字化转型的五个发展阶段 数字化转型共分为五个发展阶段:初始级发展阶段、单元级发展阶段、流程级发展阶段、网络级发展阶段、生态级发展阶段。 数据是数字化转型的关键驱动要素,不同发展阶段的组织在获取、开发和利用数据方面,总体呈现出由局部到全局、由内到外、由浅到深、由封闭到开放的趋势和特征。基于数据要https://blog.51cto.com/u_15127642/2774804
13.中国互联网的发展历程有哪些2、互联网发展史第二阶段(2003 年—2005 年) WAP(Wireless Application Protocol,无线应用协议)时期,用户主要在移动互联网上看新闻、读小说、听音乐,这是一个内容为王的移动互联网时代,这个阶段开始出现移动互联网产品经理,如SP(Service Provider,服务提供商)产品经理或WAP 产品经理等。 https://www.jy135.com/diannao/190550.html
14.人防(民防)知识竞赛试题及参考答案人防(民防)发展的良好环境,为建设美丽、繁荣、和谐四 川凝聚力量,以优异成绩向新中国成立70 周年献礼。 四川省人防(民防)知识竞赛学习资料,分为选择题、 判断题、抢答题、视听题、防护技能综合训练题和网络答题 六大板块,题型多样,内容丰富,具有较强的学习参考价值, http://rfb.cngy.gov.cn/news/detail/20190610162528569.html