Gartner BI与数据分析魔力象限是大数据技术领域最具影响力的分析报告之一,作为一名有着20年从业经验的大数据行业人员,每年研读报告中的技术与商业趋势慢慢的变成了一种职业习惯。
我本人和公司都从中受益良多,相信也一定会给各位关心大数据行业技术与发展的朋友们带来一些参考,以下分享一些令我印象非常深刻的重点信息:
我们从“Gartner 2018 BI与数据分析魔力象限”中能够准确的看出,敏捷BI产品的出现,已经扭转了商业智能的市场格局,并且成为了市场的不二之选。
敏捷BI魔力象限图变化不大,但更好的厂商会在21世纪的第二个十年出现并成为领导者。
《Gartner 2018 BI与数据分析魔力象限》中提到了一些关键技术趋势,如增强分析、数据扩展性和模型复杂度、嵌入功能等关键技术,而Tableau、Qlikview它们在这些关键技术的研发投入,以及研发的进度等,目前还是未知的。
由于他们在这些领域的进展尚未给企业创造价值,也就没有在商业智能领域形成较为强大的竞争力。但是这些关键技术会真正的去改变数据分析的下一个10年,然而下一个10年的BI领导厂商是不是依旧是Tableau、Qlikview,目前还无法判断。
因此,我预测在将来,有极大几率会出现两三家创新型BI厂商,他们将在关键性技术领域取得重大突破,从而更好帮助客户进行数据分析。
我预测创新型BI厂商可能在21世纪第二个10年,也就是2020年出现,成为行业领导者。
从本质上来讲,数据分析的目标是帮助客户从数据当中获取洞察力,创造价值,而AI作为商业智能中的关键技术,它围绕的目标并没发生变化,还是怎么样帮助到客户,尤其是对公司中的绝大多数业务人员,通过AI帮他们从数据当中获取洞察、实现更精准的趋势预测和辅助决策,提升公司竞争力以及提升企业的运营效率。
在国内,永洪科技是第一个推出本土市场的AI平台,在AI的研发技术上会持续投资,我们坚信这些关键技术的投入会让我们更好的帮助到各行各业客户。
业务人员将成为商业智能的核心用户群体。这在5年以前是很难来想象的,但现在已经变成了现实。
五年前,其实是IT人员在做数据建模和数据分析,再推送给业务人员。最近两年,我们代表永洪科技与各行各业的客户探讨商业智能,并已经与上千家中大规模的公司形成了实质性的合作。
我观察到了一个明显的趋势自服务BI成为国内的中大规模的公司面向业务人员的首选数据分析工具,比如能源、电信这一些行业,他们对自服务分析看得越来越重,而且不断有采购的需求。
虽然业内有很多号称支持自服务分析的平台或产品,但是背后还需要做很多工作,例如怎么样处理用户的错误点击、如何规避无IT背景用户使用大数据时的不正当操作给平台带来非常大的消耗和冲击、如何确保企业最重要的资产即数据的安全和管控、以及如何确保高并发下整个平台的稳定性等难题。
我们的一站式大数据分析平台Yonghong Z-Suite较好地解决了以上困境,成为了众多企业业务人员的日常数据分析工具。
中国的商业智能领域是一个充分竞争的市场,它不具备行业保护,也没形成很大的垄断,我们从成立的第一天,就开始跟IBMcognos、OracleBIEE、SAPBO等BI厂商去竞争,到后来我们又开始跟Tableau、Qlikview、PowerBI等企业竞争。
要超越同行,一是产品功能足够强大;二是要持续在研发领域投入并形成优势;三是要有非常强的市场和行业洞察和服务能力,一定要为客户创造价值。
而永洪在产品、研发、服务、市场等方面投入了大量的人力、物力和财力。除此之外,我们还在AI、Big Data、一体机等领域持续不断地加大技术上的研发以及资金投入。
在国内,Yonghong是第一个推出敏捷BI平台的企业,是第一个推出自服务数据分析平台的企业,也是第一个推出本土AI平台的企业。我们连续三年被主流媒体和权威机构认定为最佳敏捷BI厂商,已经取得了初步的认可,来自各行业的客户非常认同永洪的技术积累、业务积累和行业洞察。
我们相信在这样的领域会有更多的中国BI产品走进全球市场,数百家中国五百强和世界五百强和领袖企业选择永洪作为数据技术的合作伙伴。我们在这一领域走在前面,这是一个长跑,还需要在未来持续投入,帮助客户从数据中获取洞察,为客户创造价值。
以下是《Gartner 2018 BI与数据分析魔力象限》报告原文,欢迎大家解读。
基于云部署的现代商业智能与数据分析平台正在逐步占据主流市场。随着市场上产品的易用性和智能分析方面的创新,数据与分析领导者开始升级传统解决方案,扩大新供应商的产品组合。
到2020年,智能分析是一种包括自然语言搜索、智能数据预处理、自动化深入分析和以可视化为基础的数据挖掘功能的分析方式,它将成为推动商业智能、分析数据科学以及机器学习平台和嵌入式分析购买市场的主要驱动力量。
到2020年,现代商业智能和数据分析平台将会因为智能数据挖掘能力的不同而体现出差异化,拥有智能数据挖掘能力的平台的用户量将达到非此类平台两倍的增长率,而这也会给客户带来两倍的商业价值的提升。
到2020年,自然语言处理和人工智能技术将成为90%的现代BI平台的标准性能。
到2020年,50%的分析问题将通过使用搜索、自然语言处理和语音的方式生成,或者将被自动生成。
到2020年,一些平台将为用户提供内部和外部的数据目录,与无法提供这些数据目录的企业相比,他们将帮助客户通过对数据分析的投资实现两倍的商业价值。
以可视化为基础的数据挖掘技术决定了现代商业智能(BI)与数据分析平台的特征属性。传统平台的分裂浪潮始于2004年,现代商业智能与数据分析市场从IT为中心的记录系统(SOR)转向以业务为中心的现象已成为主流。
现代商业智能与数据分析平台的工具具备简单、易用的特性,并且支持全面的分析工作流程。在分析前期,新平台不需要IT人员大量参与到预先准备数据模型的工作中来,在某些情况下,平台会自动生成可复用的数据模型(请参阅《现代商业智能与数据分析平台的技术综述》)。
独立的内存列引擎有助于探索,同时也可以快速建立原型。现代商业智能与数据分析平台可以选择性地从传统的IT建模数据结构中获取信息,以促进整个组织的管理和可复用性。许多组织可以通过敏捷的方式扩展IT模型化结构,并将其与新的多结构化数据源结合,从而帮助组织开展现代化工作。
与此同时,其他组织可以使用现代商业智能与数据分析平台中的分析引擎作为传统数据仓库的替代品。这种方法通常只适用于数据源有限、数据量相对较小的中小型组织。数据湖和逻辑数据仓库使用量的增加也与现代商业智能与数据分析平台的能力相匹配,可以接受这些轻度模型数据源。
Gartner 在2016年重新修订了BI和分析平台的魔力象限,反映了此间长达十年的巨大转变。多年来,向现代敏捷和商业主导分析的过渡现在已成为主流,并呈两位数的增长态势; 与此同时,自2015年以来,传统商业智能的支出一直在下降,在当时,Gartner曾首次定义了这两个细分市场。
最初,现代商业智能与数据分析市场的大部分增长都是由业务用户推动的,通常是通过个人或业务部门的小额采购实现。然而,随着这个市场的成熟,IT慢慢的变多地(随着商业用户的影响力)参与主导扩展部署,作为扩大自助服务分析范围的一种方式。
商业智能与数据分析的拥挤市场中,包括了从大型的技术厂商到由大量风险投资支持的创业公司等参与者。传统商业智能平台的供应商已经发展出新功能,包括现代的基于视觉的数据挖掘与管控等。
与此同时,新的供应商继续发展最初被关注的敏捷性功能,将其扩展、发布和共享到更高的管理和扩展平台。客户的理想选择是在单一平台上同时拥有侧重于可预测性并具有稳定性目标,以及探索性的,涉及实验来解决新问题,并针对不确定性领域进行优化的两种模式,并且能在两种模式之间实现跳转。
随着以可视化为基础的数据挖掘技术对传统商业智能造成破坏性影响,第三波破坏已经开始以智能分析技术的形式出现,机器学习可以为日益增多的海量数据提供新见解。以智能分析为特色的供应商能够更好地为他们的产品制定高价政策(请参阅“智能分析是数据分析的未来”)。
魔力象限专注于符合现代商业智能与数据分析平台标准的产品,这些产品正是当今市场上主流产品。传统企业报告平台市场指南涵盖了(由于IT预设数据模型的前期要求,或者以报告为中心的)不符合纳入要求的现代标准的产品。
以敏捷为中心的BI产品:这种平台支持敏捷型的、IT化的工作流程,包括从数据到集中交付和管理分析内容,平台具有自有的数据管理能力。
去中心化的分析:支持数据的自服务数据分析。可以为独立的业务模块和用户更好的提供分析支持。
数据挖掘管控:支持从自服务数据分析到自助创建数据分析管理页面的工作流程,IT级的内容管控,而用户内容生成、管理页面和分析内容都是可复用和可升级的。
OEM和内嵌式BI:支持数据分析流程以内嵌BI至一个流程或者一种应用中来实现。
外部部署:支持为外部客户或者公共领域、公民接入分析内容,流程类似以敏捷为中心的BI。
1. BI平台的监管、安全与架构:平台具有安全管理、用户管理、平台接入与使用的审计、调优和保障高可用性和容灾的能力。
2. 云BI:具有平台即服务和分析应用即服务的能力,可以同时在云端和本地部署、使用和管理数据分析报告和数据分析应用。
3. 数据源的连接和融合:让用户能连接到云端和本地化的结构化和非结构化的数据,包含支持不同类型的数据存储平台。
4. 元数据管理:该工具能够让用户利用数据包模型和元数据。实现这些功能需要提供一种强大且核心的方式方便管理者们去搜索、抓取、存储、复用和发布元数据对象,比如维度、层级、度量、表现特性/核心指标 (KPIs)和报告布局等。平台管理者们需要有能力去升级业务用户创建的数据模型,将其提升为系统级的数据模型。
5. 自有数据的抽取、转换、加载以及数据存储:该系统有能力为连接、融合、转换和加载数据至一个自有的功能引擎以及有能力去索引数据、管理数据加载以及更新计划。
6. 自服务数据准备:平台可“拖拽”不同来源的用户数据集,可生成分析模型,比如根据不同数据来源的用户可自定义度量、组合、集合和层级。高级功能包括对不同来源的数据通过机器学习、语义识别、智能联结、智能侧写、层级生成、数据行数和数据混合等进行分析处理。
7. 可扩展性和数据模型的复杂性:平台使内存中的引擎或数据库内部体系结构能够处理海量数据、复杂数据模型、性能优化和大量用户部署等工作。
8. 内置的高级分析功能:让用户可以非常方便地接入高级分析功能,在自有平台或者通过引入、结合外部高级模型进行分析。
9. 分析仪表盘:通过视觉探索和内置的高级地理空间分析能力去生成能够被其他人使用的高交互性的仪表盘和内容。
10. 可交互的视觉化探索:使这种数据分析的探索可以借助可视化的选项,包括但不限于基础的图表形式,比如饼图、柱状图、线图等,也包括热力图和树状图,地图和散点图以及其他特殊主题的图表形式。这些工具能让用户通过百分比、细分和组合的展示情况去分析和操作数据。
11. 智能数据挖掘:帮助用户在不通过查询和建模以及写算法的情况下自动挖掘、视觉化和叙述重要的分析发现,比如数据间的关联、排除、集合、连接和预测等。
12. 移动端的数据探索和编程:通过利用移动设备的天然属性,例如触屏、照相功能和地理位置信息,让客户能够最终靠发布或交互的模式给移动设备升级和传送内容。
13. 嵌入分析内容:这种性能包含供应商提供的软件开发工具包和API接口,支持用户创建和修改分析内容,支持可视化展现和嵌入应用程序,可将其嵌入到业务流程、应用程序或门户的开放标准中。
这些能力可以来自于外部的应用、或者被复用的分析基础设施,但必须可以无缝的与内部应用连接,也不需要让用户在两种系统间进行切换。这种能力让BI与其他数据分析应用架构可以结合,让用户可以选择在哪个业务流程中嵌入分析模块。
14. 分析内容的发布、分享和结合:这些能力可以让用户通过不同的结果类型和分布方式去发布、配置和优化分析内容,同时也有对内容搜索的支持、计划和预警的功能。
15. 便捷的使用和可视化展现,以及平台能力和工作流:对管理者来说可以便捷的使用和部署平台、生成内容、销售内容以及与内容互动,同时也具备可视化展现的能力。对于单一的、无缝的产品,或者多个产品来说,需要基于怎样不同的功能去适配这种融合的需求。
2017年,数据分析和BI(商业智能)的市场增长率约为10%(排除汇率因素),正如Gartner对该其复合年均增长率的预测,到2021年底,其增长率将为8%。
数据分析和BI软件市场的现代细分市场的发展速度一直都比整体市场要快:2017年增长率为28%,2021年为17%(排除汇率因素)。尽管软件使用者正在努力拓展在用户和产品内容方面的潜力,但价格下行压力和市场饱和的情况将成为导致市场增速放缓的两大因素。
根据2017年的魔力象限,许多错过了可视化数据分析那波市场红利的大软件公司已经早早占据了以增强分析为代表的第三波技术机会的先机。
数据增强分析包括以机器学习为基础的数据分析和BI功能,可以嵌入整个数据分析流程中的每一步中,包括数据准备、数据建模和结论生成。
交互模式也从原来单纯的拖拽查询模式向声音、搜寻和以NLP算法为基础的交互模式进化。通过用自然语言生成(NLG)来说明检索结果,可视化的效果也得到了优化。无论是大软件公司和初创企业都在其各自的增强分析技术发展路线图上不断前进着,尽管这一点尚未影响到主流市场,但消费者无疑可将之视为软件公司正在迅速推进技术创新的一项明证。
此外,早期购买使用了可视化数据分析软件的用户正面临着数据和用户数据分析工作数量猛增的问题。随着他们自己的分析平台的成熟,这批用户对下一波的技术革新的态度似乎是最为开放的,因为增强分析技术有望帮助使用者在数据复杂性不断提高的情况下更快地得出最重要的分析结论。
随着数据存储的形式由单一的关系存储向多元化的非SQL式的数据存储发展,数据分析和BI平台在提高数据扩展性和模型复杂度上所面临的压力越来越大。而且,随着数据素养的提高,用户开始提出需要调用复数数据源并进行菜单驱动的预测分析的、更为复杂的问题。
整个数据架构正变得越来越复杂,数据湖泊的数量和规模不断增加,这迫使数据分析和BI系统的开发队伍必须思考判断在哪里、如何进行数据建模:是否要把数据复制到数据分析和BI工具的内部存储空间里?复制数据对运算效率的提高能否抵消其带来的负面影响?不同软件之间在这些性能上依然有很大的差距。
有的软件已经将数据扩展性和模型复杂度打造成自己的卖点(如MicroStrategy),而其他软件公司还在努力应对这种趋势:Tableau用Hyper取代了原来的数据抽取模式;Oracle在Oracle数据分析云中嵌入了多维数据库(Essbase);而Pyramid Analytics为了满足用户的要求,干脆彻底重建了它的产品。
嵌入式数据分析和BI依然还是一个重要的用例,因为用户想要开发外联网应用、使数据货币化并打造嵌入了数据分析和BI功能的整体商业应用。
这一个市场的规模很难量化,因为其主要开发形式是以定制开发为主的。在最常被用于分析这一用例的魔力象限中的软件公司中:Logi Analytics再次增加了一倍在该领域的投入;它还在Sisense的客户用例中占比客观。
嵌入式用例还可包括数据分析和BI软件公司将有关内容嵌入到他们自己开发的商业应用及操作程序中的做法,它们这么做是为了抵达第一线的企业决策者,对销售部门来说这是有其作用的。Qlik则试图通过引起开发者社群的兴趣来大力推进在该领域的发展,然而,只有Qlik的少部分用户真正安装使用了这个用例。
不仅如此,软件公司们还在努力提高其平台的开放性,从而促进社群用户在一定范围内拓展这些技术的应用,例如可视化、算法、计算和预置的分析应用等形式。
被评估的很多软件公司一直都为非营利机构提供特别优惠,并向学生群体提供免费软件,这一方面是其承担社会责任的一种形式,另一方面也算是在大学里培养未来的客户。
有些公司的公益行动并不止于此,它们会努力减少自己的碳足迹,并将工作进展向大众公开,还承诺将部分利润捐出用于回报社会。
在Data for Good活动中,软件公司会使用公共数据集、针对社会问题举办编程马拉松,或为社会公益活动捐赠软件和服务,这都是其回报社会的方式。而这也成了筛选能力都很出色的软件供应商的一种条件。今年的魔力象限就首次将软件公司的社会责任感和多样性指数纳入了评价体系中。
2015年早期,微软大幅降低了Power BI软件的用户人均价格,给该领域的所有软件公司都造成了降价压力。这一降价压力一直持续到2017年,其间,有的大软件公司会将新的数据分析和BI功能捆绑到其传统平台上,或将其作为维护更新的一部分。
消费者表示愿意为关键性的特别功能的使用支付额外费用,如果其中包括新兴的增强分析等功能,付费意愿就更强了。大部分消费者首先看的都是授权费,但Gartner一直宣称人们应该看的是总拥有成本,其中囊括了安装部署、系统扩容、内容授权、后期培训和支持等所有费用。
不少软件公司开始采取按月购买的定价机制,从而降低新用户开始使用软件的初始成本,然而,这种做法并没有降低长期授权费用三四年以后,用户累计支付的费用就会超过一次性永久授权费用。
此外,对直接下载安装的软件或安装部署工作量小的情况来说,按照用户来定价的模式是很合适的,但对于需要进行大规模安装部署的情况来讲,成本往往会大幅上升。
目前,大部分软件公司会提供直接安装和扩容两种选项,不过,其中有的公司的企业协议并没有得到同步升级。
分析和BI的云部署现在已经过了临界点。多数的全新的云端部署项目以及超过70%的今年调研中的客户表示,他们已经在用公有云部署了,而2017年的这个数据只有40%。
这种变化在今年的魔力象限报告中被突出显示,例如仅有云部署或者云端优先的产品(比如SalesforceEinstein Analytics, SAP Analytics Cloud, IBM Watson Analytics 和 Domo)。这种现实揭示出一些创新正在云端先发生了。另外,云部署变得更加灵活,混合数据连接至本地数据源得到了广泛支持。
在混合云的概念中客户可以选择在何处用到他们的 SaaS 分析应用,以及在任何云端IaaS平台上去用。在早期的时候, Qlik 和 SAP 就已经构建了向云端发展的策略。一些供应商同时可帮助客户替换 IaaS 云平台所提供的BI和数据分析产品。
另外,供应商现在可给客户授权一个通用的 license 支持客户本地至云端的无缝切换,就如微软的Power BI 高级版最初进入市场时那样,最近 SAP、Oracle 和 Qlik 也都提供了这样的方式。那么对客户来说,购买单一完整的 license 会是一个理想的起点,客户同时希望通过这些部署模式拥有管理内容和用户的能力,但可惜的是大多数的供应商并不支持这种混合部署。
虽然就这次报告中所观察的客户的情况来看,客户的云部署水平普遍很高,但Gartner的 IT Score 测试却显示出68%的客户缺乏云部署策略,仅有7%的客户有在产品层面的策略。
慢慢的变多的企业希望利用由设备、传感器和人进行连接,从而对产生的流数据进行分析,以便据此分析结果,更快的做出决策。
商业智能市场的参与者通过投资,为具备需求相似的买家提供一个具备能够支持实时事件、流数据以及其他类型数据的分析,同时开发出一系列具备实时、易用性强的创新型应用,从而提升企业的市场洞察力。
内容、数据和算法市场将进一步扩大并变得更成熟,同时为企业创造新的销售机会,并通过销售分析功能来缩短决策时间
软件厂商和购买方,双方通过交流数据分析的应用场景,共同策划数据源的利用,以及探讨自定义可视化和大数据算法,这种活跃商业智能市场的可用性探讨,将有利于数据分析以及商业智能领域未来的发展。
一个成熟的商业智能市场也为BI厂商提供了一个新的销售经营渠道 ,BI厂商在平台应用成熟之后,可以将平台积累的成熟行业解决方案出售给客户或者通过合作伙伴渠道出售给有此需求的企业。
成熟市场的主要受益者最终还是用户和企业,用户通过将商业智能应用在工作流程当中,企业内部通过对成熟的行业解决方案的应用,从而优化了工作流程以及提了升企业的运营效率。
随着下一波市场浪潮的到来,创新型厂商将不断涌现,但这一变化应被创新性厂商视为整体发展的策略的一部分
因为创新型厂商拥有大量的技术创新,以及由于创新型厂商对多个独立的解决方案进行快速演示其业务价值并且草率地将其转化为生产部署,而未对设计、实施和技术等给予足够的投入,因此在产品投入市场做验证时,将会暴露出众多缺陷,而这些创新型厂商对于产品暴露的问题,都将承担技术责任。
在这个加快速度进行发展的市场中,创新性企业应该更加谨慎通过制定正确的发展的策略,以及选择正确的技术架构,从而避免将来重大的返工以及重新设计工作。
本文由大数据专家、永洪科技创始人&CEO何春涛(Henry He)先生撰文,如需转载请联系永洪科技获得授权。
违法和不良信息举报电话 举报邮箱:新闻从业人员职业道德监督电话 监督邮箱: