数据中台最近特别火,各个企业都在关注如何构建自己的数据中台,利用数据中台打造数据驱动的经营能力。数据中台的概念漫天飞,作为最早为企业提供数据中台构建服务的实践者,我们希望将一些落地的经验和教训给到那些正在考虑建设数据中台的企业。
我们将一些大家关注的核心问题整理出来,做成N问数据中台(先出八问),结合真实的案例,从概念和实践的层面给与解读。
导读,文章万字左右,重点内容导读如下:
数据中台是什么?数据中台和数据仓库,数据平台的关系是什么?数据中台和业务中台的区别是什么?数据中台建设的最大挑战是什么?数据中台的数据质量应该如何保障?数据中台的典型架构是怎样的?企业数据中台的团队如何构建?数据中台团队的绩效如何评价?1.数据中台是什么
数据中台需求的出现,是企业数字化转型的一个标志性的转折,数据中台成为热点,标志着,“在企业信息化或者数字化的历史上,数据从来没有距离业务这么近,数字化转型正从流程优先走向数据优先”。要想从根本上理解数据中台是什么,要认识到数据和软件的关系。
信息化和数字化的本质区别是:
“信息化是用软件工程技术局部支撑和改良业务,数字化是用数字化技术重塑和转型业务本身”,而数据则是构成数字化业务世界的原子材料。
数据从应用诞生的那一天开始就存在,但是,数据并不是第一天就被存储和利用的,应用和数据的发展是不同步的,数据的地位是不断演进,越来越重要的,经历了以下五个阶段:
阶段1:数据没有被存储早期的应用,是为了解决某一个单点的问题,比如计算器,计算过程的数据是不被存储的,但是计算的过程中,数据是客观存在的。这个阶段,数据是应用的过程产物,产生即丢弃,并不被存储。
阶段2:只有少量结果数据被存储和查询当应用的功能丰富后,软件从解决单点问题的工具演进到处理一类业务问题,从而有了多个功能模块。典型的例子是办公自动化系统、进销存系统,这个时候少量的结果数据被存储起来,并且也有了对数据的查询、统计的需求。这个时候,数据是关键业务的记录。
阶段3:数据仓库出现,数据被大量存储接着,企业级管理系统比如ERP、MES、CRM的出现,企业管理层需要跨条线,跨职能了解和掌握整体的经营情况,从而根据这些数据来帮助企业做决策。这个时候商务智能,传统数据仓库系统应运而生的出现了,数据在企业管理中的作用开始显现。但是这个时候的数据距离业务很远,为业务提供支持的速度很慢,往往是先有了业务想法和需求,先有“领导要看什么”,然后在去采集和处理对应的数据做出什么报表给到领导
阶段4:数据的深入价值开始被挖掘传统数据仓库还是基于流程的,原因是数据仓库的需求还是来自于预先的设计,来自于固有流程数据的整合。而这个时候,企业的业务已经有了一定的复杂度,企业管理人员希望从数据当中发现一些隐藏的未知的价值和规律。而这个时候预定义的查询条件,预定义的业务主题已经不能满足这样的需求,所以在数据仓库基础上,产生了数据挖掘的技术,业务从数据中发现市场的规律,洞察客户的兴趣,产生一些人们不知道的信息。这个阶段在市场营销、生产调度等影响因子较多,动态性较大的业务领域,数据的重要性愈加凸显。
以上四个阶段,基本上都处于“业务数据化”的阶段
阶段5:业务数据化,数据成为企业核心资产到了数字化时代,所有的一切都被数字化的技术所重构,而数据是构成数字化世界的基础。数据如同石油一样,成为新时代的资源,从数据当中挖掘价值,从数据当中去产生创新已经成为了所有企业的共识。这个时候,数据成为了企业的核心资产,所有的业务都被数据化。
总结一下,我们会发现在信息化时代,数据是流程的副产品,流程是预先设计好的,然后在设计好的流程中产生了数据;
在数字化时代,业务流程应用软件(业务流程的显形载体)会随着市场的变化快速而不断动态迭代甚至消亡,而数据成为了物理世界映射到数字化世界的原子,数据思维(”Data First” )成为战略核心之一。
“数据是构建物理世界对等的数字化世界的原子”,数据中蕴含着业务的本质,蕴含着创新的源泉,谁能掌握数据的能力谁就能在数字化竞争中拔得头筹。
最近两年,数据在数字化转型的重要性被提上了前所未有的高度,数据驱动的决策,调度,运营给企业插上了智能的大脑,带来了巨大的业务价值。
UPS的首席信息官Juan Perez在2017年启动了网络规划工具的试点,利用算法和数据来优化路由,2018年这个项目为UPS节约了三千九百万加仑的能源消耗,缩短了3.64亿公里的路程。现在利用算法,机器学习,深度学习的技术来加工数据,通过数据来驱动企业的运营已经成为了UPS的核心竞争力。
[https://erpinnews.com/big-data-case-study-ups-using-analytics-improve-performance
https://bigdata-madesimple.com/10-big-data-case-studies-big-results-2018/
]
招商银行将“数据化”作为金融科技战略的核心举措,通过数据驱动来全方位进行渠道优化和服务升级革命,打造了一批数据和智能驱动的新产品和服务。
[
https://www.wdzj.com/hjzs/ptsj/20180724/707374-1.html
http://www.cfc365.com/technology/bigdata/2018-07-25/14785.shtml
]
ThoughtWorks在2018年初就提出,数字化转型已经从流程驱动进入数据驱动的时代,数据已经成为了企业的核心生产资料。
[https://mp.weixin.qq.com/s/Y2Q_NUKzHWTOyX99kXO5BQ]
2018年10月,阿里云栖大会上提出”数字外场“的概念,而数字外场的核心就是数据,每一个企业都在努力的成为数据驱动的企业,所以构建数据中台之前,企业需要在企业推行数据思维,建立自己的数据战略。
[https://www.yidianzixun.com/article/0KBGxr4g]
数据本身在企业数字化转型的历程中,成为了最核心,最重要的生产资料,成为了企业重塑业务,自我转型的决定性因子,在这个背景下,企业需要一个源源不断的输出数据服务,数据洞察的能力源泉,数据中台的出现就成了顺理成章的事情。
在2017年,我们就观察到到数据中台将会成为今年的风口,那个时候我们提的最多的是“精益数据资产创新”(有兴趣的同学可以自行百度搜索“精益数据资产创新”)。
那么,数据中台到底是什么呢?
用一句话来简单的介绍,“数据中台是数据服务(Data API)工厂”,数据中台的核心是Data API。
Data API是数据中台的核心,它是连接前台和后台的桥梁,通过API的方式提供数据服务,而不是直接把数据库给前台、让前台开发自行使用数据。至于产生DataAPI的过程,怎么样让DataAPI产生得更快,怎么样让DATA API更加清晰,怎么样让DATA API的数据质量更好,这些是要围绕数据中台去构建的能力。
某多产业现代物流集团,在2017年就通过构建企业级数据中台,为业务人员提供了数据资产创新服务,将数据以API的形式提供给前台,从而将新产品从想法到上线的时间,提高了数倍。
在金融领域,所有的产品、服务、交易本身就是数据化的。我们看到最复杂的业务领域,电信行业现在的网络建设,网络优化,大部分工作都是在电脑上,利用各种工具软件来处理基站和网络的数据,将网络洞察数据转换成网络扩容需求数据,将扩容需求数据设计成网络架构数据,在讲网络架构数据处理成各种不同设备型号的配置数据,同步的产生财务、物流、服务数据等。整个过程90%的工作量在处理各类数据,最后把结果数据传递到现实世界,安排发货,安装,验收等行为。而现在所提倡的工业4.0,智能制造本身也是将生产过程数据化,在数字化世界里用数据来重构工厂本身,从而利用数字化的强大的计算能力,快速的搜索能力,数据的预测能力来增强和优化业务本身。
未来企业的业务运营,从操作本质上来讲就是加工和处理数据。数据中台就是企业的数据服务工厂,完成从数据到价值的加工过程。
对比与之前的所有的数据相关的应用和系统来讲,
数据中台对于业务的价值是“加速从数据到价值的过程,提高企业的响应能力“。
传统的信息化建设过程中,数据对业务的贡献是靠人看报表,从数据中理解和发现了新的思想后,通过传统的沟通方式(开会,新需求)来对业务产生影响和指导的。
数字化时代,数据中台对于企业的价值,是加速从数据到价值的过程,提高企业的响应力。
原来从数据报表的产生到改变业务行为是以周为单位去计算的,而数据中台的价值是通过抽象和生产数据服务,更快的影响和改变业务行为本身,这就是有的企业将数据服务直接嵌入到交易系统中,实时通过数据洞察来改变业务流程和应用本身。
某金融科技企业,构建自己的实时风控数据中台,将原来的报表系统变成实时的智能预警平台,将合规评估从事后的模式,直接改变成事前的模式,就像在业务的高速公路上建设了一个个的风控检查站,检查站通过高速的建模,实时数据分析,能够在不影响业务速度的情况下,实时对来往的车辆做风控评估,如果有的车辆有风险,则实时预警。
将传统的数据服务,从事后管控的模式提高到事前评估的模式,打造高数据响应力的企业是数据中台对于业务的核心价值。
数据中台还能够为企业解决数据开发和应用开发不同步的问题。
我们要接受并认可一个现实问题,那就是,企业的数据开发是跟不上应用的开发速度,更是跟不上业务的变化速度的。这是一个不可调和解决的问题,从市场变化到业务需求,到应用开发到沉淀成数据,这三者的速度是天生不一致的,这样的不一致会带来很多的问题,包括有开发效率的问题,有团队协作的问题,有技术能力的问题。比如,为什么开发一个报表需要十几个人天,并且大部分时间都是花在找数据,对数据,算数据上。为什么同样的一个数据需求,不同的项目就要开发两边,不能共用,不能做到一个数据出口?为什么一般的Java开发人员不能掌握数据处理,ETL的能力?
数据中台就是要将这些能力都沉淀到一个体系中,变成数据开发的能力,变成可以复用,二次加工的数据服务工厂,加快数据开发和协作的速度。
我们可以广义上来给数据中台一个企业级的定义:“聚合和治理跨域数据,将数据抽象封装成服务,提供给前台以业务价值的逻辑概念”。
从T+N到T+0,数据中台将融合OLTP和OLAP,为前台业务提供更快的数据类业务服务
十几年前,数据处理的流程分成两类,联机交易处理类(OLTP)和联机分析处理类(OLAP),分别对应两类业务需求:“T+0”和”T+N”,这是因为软件的计算能力有限,生产系统无法容纳历史数据的查询统计功能,否则就会导致海量数据的查询,拖垮生产系统的正常交易。所以不得已一个业务系统分成了两个:交易型系统和分析型系统,前者用来处理最新的交易业务,后者用来对历史的、集成的、多维的数据进行分析,支撑业务。
我们举一个常见的电商价格策略调整的场景,原来的电商系统的价格是提前设置好的录入到电商系统数据库的,电商系统是OLTP也就是在线交易系统。电商系统对于实时性能要求很高,处理的并发交易量很大,为了提高数据库的处理速度,电商系统只保存一段时间内的交易数据,而把历史数据都归档到数据仓库系统也就是OLAP系统里。电商的运营部门定期会在OLAP系统里挖掘历史数据来分析不同的商品的交易数据和价格的关系,然后决定电商系统的价格是不是需要调整。所以传统电商系统,产品价格的变化需要一个比较长的周期的。到了今天,价格本身受影响的维度越来越多,市场需要电商系统的价格能够实时的根据历史数据进行变化,这样一来,传统的OLTP和OLAP分离的架构就不能够满足业务需求了。
随着大容量高速存储技术的发展、计算能力的提升、微服务、大数据架构的出现,OLTP和OLAP在逐渐融合:应用系统能够实时的基于多维、多渠道、历史数据的分析来定制化交易流程和和行为。OLTP和OLAP从平行的关系,变成垂直的关系。
刚才举的电商的例子是互联网时代的典型场景,而对于比较传统的金融保险行业来说,目前也正面临着这样的挑战。很多保险产品的报价需要进行信息搜集,评估,审核,而这个过程就是数据的采集,建模,评估,模拟的过程,过去这样的业务都是”T+N”,就是从接到交易申请到给出结果,需要N天,而现在市场的竞争愈加激烈,更快,更准确的给出报价,所以业务要就能够尽量做到”T+0”,实时响应市场的需求。
这就意味着要把原来的OLAP的历史数据分析,建模,评估的过程和OLTP系统里的交易数据进行融合分析才能够做到。
我们观察到,从金融保险到电信制造,原来传统的”T+N”的需求都在朝”T+0”演进,大家都在寻找高响应力,快速反馈的实时分析型数据数据处理架构,将数据从原来传统的经营分析领域演进到直接参与业务交易。
所以我们认为未来的交易型系统,都会变成分析型交易系统(Analytic Transcation Processing),具有跨域、全量数据分析的支持能力,用数据分析来支持交易的动态敏捷变化,高速响应市场和用户的需求,而OLTP和OLAP也会在云计算,微服务,大数据等技术支撑下逐渐融合。
2.数据中台和数据仓库,数据平台的关系是什么?
下面这张图说明了企业对于数据处理需求的变化和演进:
早期,企业的数据是少量的,利用Excel等数据文件处理工具来进行统计和手工分析。
然后,企业希望能够更快的处理比较多的数据,就有了数据仓库的出现,也希望利用数据来支撑运营和分析。接下来不仅有了结构化数据,还出现了非结构化数据,并且运营对于数据的需求越来越多,数据量也越来越大,这就出现了大数据平台,去处理各种不同格式,不同领域的数据,这个过程都是业务数据化的过程。
到数字化的今天,企业不仅希望事后的运营能够靠数据支撑,更希望构建数据驱动的业务本身,所以,企业需要将这些数据变成一个个业务服务应用到业务本身,参与到业务流程,业务应用的过程中,去改变和驱动业务行为,这也就是”数据业务化“,我把”数据业务化“理解成是”数据业务服务化“的简称。
这个过程,就能很清晰的解答数据中台和数据仓库,数据平台的关系。
第一,他们不是一个维度的东西,数据仓库和数据平台是提供数据的系统,而数据中台是提供业务服务的系统,数据中台是能够直接为业务提供数据服务的。但是数据中台是需要构建在数据之上的,所以,数据中台是可以构建在数据仓库、数据平台之上的。
第二、数据中台能够以提供数据服务的方式直接驱动和改变业务行为本身,而不需要人的介入,数据中台距离业务更近,为业务产生价值的速度更快。
一句话来总结,数据仓库,数据平台提供的是数据本身,而数据中台提供的是有直接业务价值的数据服务,数据中台距离业务更近。
3.数据中台建设的最大的挑战是什么
数据中台建设的最大挑战,是如何找到有价值的业务场景。
数据中台是一个能力平台,是将企业的数据能力封装到一个平台中,快速提供给业务前台使用的工作。那么企业需要什么样的数据能力,哪些业务需要这些能力,这些数据能力之间的关系是什么?这是一个体系化的工作,是需要进行整体规划和顶层设计的。
数据中台从出生那一天起就承担着为业务提供更快的数据服务的使命,所以它是和业务价值紧密绑定的,不能提供业务价值的数据服务就是一种浪费。所以如何能够找到,识别出有价值的业务场景是数据中台建设的最大,也是最紧迫的挑战。但是这里就有一个矛盾,业务场景是不断被挖掘和演进的,是快速变化的,而作为能力平台是要支撑全场景的,是要相对稳定的,如何平衡这两者之间的关系呢?
我们总结了数据中台建设的三大策略:围绕业务价值,演进式架构,要有战略耐心。
业务价值策略:
数据中台建设应该以"业务价值为纲,生于业务场景,高于业务场景,始于业务场景。"
数据中台的建设需求,要围绕业务价值产生。所以所有的功能设计要有对应的业务场景需求为根源,但是数据服务是要抽象, 建模,复用的,所以数据中台在业务场景的基础上要高于业务场景,完成总体的架构设计。
最终建设的时候,我们不建议那种传统的分层的方式,而是在总的架构设计为目标,要从某一个业务场景出发建设,从业务价值,平台能力和数据治理三个方面同步建设。
演进式架构策略:
数据中台的建设应该”快规划,重场景,轻标准“。
我们所说的规划,不是那种传统意义上的很重,很细致的流程层面的IT规划,而是比较快,比较轻的,围绕业务价值的场景探索式的规划。要轻标准,不要试图去做一个放之四海皆准的企业级数据中台标准,并且定制的很细致,要充分理解市场的动态性,标准一定要轻量,越重实施起来就是枷锁,很难落地。
战略耐心策略:
投资方和建设方都要有战略耐心。
投资方要清晰的认识到数据中台是一个赋能平台,是一个体系化的工作,融合了技术、组织、能力、机制等多个因素,不是一蹴而就的,所以要有一定的耐心给到数据中台的价值露出。
建设方也要清晰地认识到数据中台是一个复杂工程,是一个演进迭代式的建设工程,是不能毕其功于一役的,要有策略,有步骤的去建设,不要试图做一个大而全,大一统的平台。要服务于业务,高于业务,要深入到业务场景当中去才能获得业务的支持,获得持续的生命力。
在以上三个策略的基础上,我们在过去的实践中,设计和总结了一套精益数据探索方法(LDD),通过四个阶段来产出数据中台的建设路线。
5.数据中台里的数据质量应该如何保障?
过去这么多年的经验教训告诉我们,数据质量的问题是不可能百分之百解决掉的,因为业务变化的速度快于数据变化的速度,这是一个客观存在的而且短期内不可能改变的事实。我们最应该关心的应该是数据如何能够给业务产生价值,即使只有50%的数据准确度,在治理数据质量的同时,依然要找到这些数据可以为业务产生价值的方法和场景。
这个问题应该改成,如何治理好现有的数据为业务产生价值。
数据治理是要服务于业务场景的,而传统的数据治理方法,