大数据:技术、产业与管理 研究报告
伴随着互联网技术的风生水起,庞大而复杂的网络技术将地球真正地浓缩为“地球村”,互联网技术的广泛应用,不同角色间所输入与输出的海量信息衍生出来的巨大数据量,再一次颠覆我们的信息时代,迎来了信息量暴增的崭新时代——大数据时代。
以互联网为契机,时代发展推动着信息、技术与传统产业的结合,数字信息、智能控制和电子网络的融合使传统产业持续发展,同样也带来了一次新的产业革命——第四次产业革命。
本次报告将从4个方面展开论述:产业革命、关键技术、大数据管理,信息安全。
一、产业革命
历史长河中发生了数次产业革命,在讨论大数据时代下的产业革命前,我们来回顾前几次产业的飞跃。
产业革命也称为工业革命。
第一次工业革命源自于英国,以瓦特改良蒸汽机为开始的标志。在第一次工业革命中,蒸汽机的大量使用导致了整个社会的生产力发生了极大地变化,机器开始代替人力,手工作坊开始向机械化工厂转变,整个产业围绕着蒸汽机旋转,同时造就了新的经济行业的出现和兴起,如煤炭行业、机械纺织行业等。
第二次工业革命则是发电机和内燃机的发明而带动起来的,在这次工业革命中,社会生产力得到了极大的提升,人类有了新的动力来源,电的出现和内燃机的发明为新的通讯方式和生活及生产方式打下基础,在这次工业革命中,出现了新的工业部门,如电气工业、石油工业、化学工业等。第二次工业革命中,数据技术开始萌芽,人们开始采用新的方式来收集、处理及分析技术,标志性事件便是美国统计学家赫尔曼•霍尔瑞斯为了统计1890年的人口普查数据发明了一台电动器来读取卡片上的洞数,该设备让美国用一年时间就完成了原本耗时8年的人口普查活动,由此在全球范围内引发了数据处理的新纪元。
第三次工业革命以原子能、电子计算机、空间技术和生物工程的发明和应用为主要标志,涉及信息技术、新能源技术、新材料技术、生物技术、空间技术和海洋技术等诸多领域的一场信息控制技术革命。这次科技革命极大地推动了社会生产力的发展,促进了社会经济结构和社会生活结构的变化。在第三次工业革命中,数据技术得到了极大地发展,特别是计算机的出现和应用,更是极大地提高了数据技术的实际应用能力,为大规模的数据处理提供了可能。但是,第三次工业革命中,数据技术任然是处于一个产业革命的从属地位,很少有企业、政府或者个人运用数据来获得想要的东西,直至进入21世纪之后,数据技术才开始正式且广泛的得以运用到许多行业和各国政府的日常运行之中。
现今,也就是我们的第四次工业革命——这是一个还未到来或者说已经出现的时代,第四次工业革命是以智能化、信息化为核心,以大数据、云计算、人工智能、量子通讯等前沿技术为代表。在第四次工业革命中,数据技术将会是一个支撑面,数据技术贯穿于整个第四次工业革命,数据技术既是第四次工业革命的基础,又将会是第四次工业革命的保障。
二、大数据下的技术
通过上述文字,我们清楚地看到了每一次的产业革命都有关键技术的推动,第一次的蒸汽技术,第二次的电力和内燃机技术,第三次多样的生物工程、原子、电子技术等,第四次则是智能、信息技术的舞台了。
我们选取几个现今大家耳熟能详的技术进行简要地阐述:
① 人工智能
1、智能教育和医药:智能教学系统(ITS)是人工智能与教育结合的主要形式。也是今后教学系统的发展方向。信息技术的飞速发展和新的教学体系开发模式的提出和不断完善,推动人们综合运用媒体技术、网络基础和人工智能技术开发新的教学体系。计算机智能教学体系就是其中的代表。医学专家系统,助医生解决复杂的医学问题,作为医生诊断、治疗的辅助工具。目前,医学智能系统通过其在医学影像方面的重要应用。
2、人工智能芯片行业:Google、Facebook、微软、亚马逊以及中国的百度等互联网巨头正在探索各种可以推动AI发展的芯片技术。
3、算机视觉:计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取‘信息’的人工智能系统。
4、智能语音处理
5、生物特征识别
6、自然语言理解
7、智能决策控制
8、新型人机交互
② 区块链
区块链是比特币的底层技术,具有即时、透明的特性,尤其适用于跨国货币交易。区块链代表着以p2p为基础的去中心化的新技术,它能安全的存储交易数据,并且无需任何中心化机构的审核。
1、网络和物联网
2、能源区块链
3、金融行业:线上线下的对接,比如说有一套线下身份确认的方法,如脸谱识别、虹膜识别,到了线上之后,转化成区块链惟一的一个线上的身份。
4、智能设备,区域建立联系,通过智能设备链接一定区域内的人
③3D打印
1、与传统制造行业对接:3D打印技术与传统制造技术有机结合,大力发展金属件无模数字化精密成形、金属件高质高效增材制造、模具数字化再制造、金属丝材制备、多金属融覆等增材制造技术
2、文物创意及文物修复
3、医疗及牙科矫正
4、模具检测
5、航空航天:数控机床零件,模型制作,关键零部件
6、新型材料:高纤复材,电子信息材料,化工新材料,生物医用新材料,金属材料
④ 虚拟现实
1、虚拟现实游戏
2、虚拟现实电影
3、虚拟现实主题公园
4、虚拟现实技术和电商业务结合:3D商品库
5、虚拟现实服务:爱奇艺打造中文虚拟现实服务,发力建设虚拟现实内容分发平台
6、VR:acebook推出Oculus�Rift、HTC�推出HTC�Vive、Sony推出PSVR
上述4项技术,都是当今时代下的重要技术,除此之外还有一些高新技术正在发展中,它们还在不断进步以达到最优的程度,大数据时代下,这些技术将影响我们的众多产业。
并且大数据的价值链结构,主要影响以下传统行业:
其发展模式如下:
三、大数据下的管理
(一)组织形式
① 大数据
大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理,必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘,但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。大数据通常用来形容一个公司创造的大量非结构化数据和半结构化数据,这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起,因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。
我们生活的“fabric”中。“fabric”所指不仅是电子纺织品世界,更包含我们的生活方式。还有相关媒体,例如,穿戴迷是中国可穿戴设备新媒体门户网站,创办于2013年8月,由互联网资深运营人士及可穿戴设备发烧友联合发起,致力于成为中国可穿戴设备第一门户网站而努力,网站目前下设七大模块,包括:资讯、评测、开发者、产品库、应用库、图库、论坛,内容都围绕智能眼镜、智能手表、智能手环等消费类电子产品,网站流量目前在同类网站中排名第一,并于2014年2月发布了可穿戴设备2014年市场趋势报告,已被网易数码等主流科技门户转载。
② 人工智能
人工智能是计算机科学的一个分支,主要包括计算机实现智能的原理、制造类似于人脑智能的计算机,使计算机能实现更高层次的应用。人工智能将涉及到计算机科学、心理学、哲学和语言学等学科。可以说几乎是自然科学和社会科学的所有学科,其范围已远远超出了计算机科学的范畴,人工智能与思维科学的关系是实践和理论的关系,人工智能是处于思维科学的技术应用层次,是它的一个应用分支。从思维观点看,人工智能不仅限于逻辑思维,要考虑形象思维、灵感思维才能促进人工智能的突破性的发展,数学常被认为是多种学科的基础科学,数学也进入语言、思维领域,人工智能学科也必须借用数学工具,数学不仅在标准逻辑、模糊数学等范围发挥作用,数学进入人工智能学科,它们将互相促进而更快地发展。
③ 区块链
物联网的核心和基础仍然是互联网,是在互联网基础上的延伸和扩展的网络;其用户端延伸和扩展到了任何物品与物品之间,进行信息交换和通信,也就是物物相息。物联网通过智能感知、识别技术与普适计算等通信感知技术,广泛应用于网络的融合中。
(二)IT诱发的组织结构变化
1、减少管理层次
①增加控制幅度
一般管理幅度为5-7,IT技术的引入可以使管理幅度增加到10-15。
②多管理(控制)渠道并存
矩阵型组织结构。
③管理者角色改变
从指挥到教练。
2、工作流程重组
①传统的按职能划分的组织
优点:专业分工带来的利益,方便管理
缺点:组织关注的中心是职能而不是客户,横向协调困难,组织内的边界障碍
②基于流程的工作团队
信息系统提供了将各职能部门联系起来的操作平台,成立为某一特定目标服务,基于流程的工作团队将打破职能层级体制的界限,直接为顾客服务
③从强调功能型组织向强调流程型组织过渡——工作流程重新设计
3、团队化组织
团队建设,当商业机会出现时,需要迅速建立起合适的团队。
互联网、通讯技术、数据库技术,信息共享允许人们跨越地域建立团队,协同工作。
支持性团队,复杂任务需要对任务进展进行连续监督。
信息系统可以对每个团队成员完成每项工作的进展情况进行及时的统计和汇总。
4、网络化组织
IT技术的应用可以降低交易成本。
组织更专注于他们的核心能力。
信息技术使上下游企业的供应链可以集成起来,并形成供应网络。
信息技术促进以核心企业为龙头的企业动态联盟的出现。
(三)管理创新
第一,提高企业的商业智能化程度。
企业要想提高商业智能化程度,首先应打好信息化这个基础,信息化并不仅仅是在企业内部实现办公自动化、无纸化管理,更为重要的是要培养组织成员的信息意识和数据质量意识,让每个信息系统的用户意识到数据是系统的生命,高质量、真实的、高可靠性的数据是一个信息系统成功的关键。其次,企业应重视数据挖掘人才的培养与引进,商业智能是由数据仓库、联机分析处理以及数据挖掘等组成,这三方面都需要大量的数据挖掘的人才。最后,企业应提高知识管理的水平,因为商业智能是构筑在企业业务系统基础上,以知识获取和共享为目的的解决方案。
第二,让决策者意识到数据的商业价值。
“大数据”时代是一个以数据为王的时代,企业的决策者们应该意识到数据的商业价值:一,将数据与企业的决策相关联,发挥数据的潜在价值;二,沟通,即在企业施行商业智能化的过程中经常与决策者进行沟通,使决策者从不关心数据到关心数据,再到提出需求,当单一系统的数据分析不能满足企业需求的时候,大规模的数据分析系统的建设就顺理成章。
第三,正确认识决策主体。
在传统的管理模式中,企业的中高层管理者、领导者以及一些著名的商业精英和咨询公司被认为是决策的主体,而随着社会化媒体的出现以及社交网络的普及,这种传统的决策机制降低了企业决策的正确性与合理性。应树立以社会公众为决策主体的观念,将决策的理念由狭隘的企业高层转移到广泛的社会公众,通过社会媒体、社交网络等平台广泛的收集社会公众的意见和建议。大量的非结构化数据,使得原材料、生产设备和市场等因素越来越没有固定的定义,产业边界也变得模糊,根据Gartner预测,未来5年中,企业数据将增长8倍,其中80%是非结构化数据,因此“大数据”增加了企业决策的不确定性和不可预测性,所以企业更应该重视和发展以社会公众为主体的决策模式。
第四,培养首席数据官。
“大数据”时代下,对数据的处理和分析不再是一个领域的范畴,它需要同时具有信息技术知识、市场营销知识、运营管理知识等综合素质的人才来掌控,CDO(Chief Data Officer,首席数据官)由此诞生,数据归业务部门,应用归IT部门,这一概念已经被广泛接受,然而现在到了该挑战这一理念的时候了,在多数组织机构中,业务部门并不想拥有数据,他们也不是为管理数据而配备的。首席数据官的主要职能是利用数据推进企业与社会的对话,挖掘信息化过程中更为潜在的价值。他们视数据为资产,负责其运营,通过分析来自传感器、社会网络评论、网络流量等各方面的数据,为企业的决策提供参考。另外从组织结构方面来说,企业应该重视CDO人才的培养与引进,目前无论是国内还是国外,设置这个职位的企业还很少,笔者认为这主要还是和“大数据”相关技术不成熟有关,企业高层应该意识到CDO在企业未来发展过程中起到的重要作用,给予他们更多的话语权。
第五,重视员工的社交网络。
传统的组织架构中,很少去关注员工的社交网络,因而导致了这些网络零零碎碎的局面,使得员工在管理实践过程中处于分裂的状态。这里所说的社交网络不仅指员工在企业内部所建立的关系网络,还包括与组织以外的其他人员的联系、员工在各个在线社交网络平台上的好友等等,这是一个庞大的社会关系网络,企业如果能够很好地利用这一网络,将会大大提高企业的效益。因为社交网络在跨部门的流程改善、联合和合并中提供了粘合剂的作用,对新产品开发也有着不可忽视的推动效果,其也是工作满意度与员工保持的重要因素。
四、大数据的管理——信息安全
随着信息技术的快速发展,网络上的数据出现了爆炸式增长,美国互联网数据中心指出,互联网上的数据每年将增长50%,每两年便将翻上一番,而目前90%以上的数据是最近几年才产生的。大数据正在成为有巨大价值的经济资产,并将带来全新的创业方向、商业模式和投资机会。但是——大数据的信息安全也存在巨大隐患。如何管理这些具有重大价值的数据,我们还要不断努力。
我们来看一组数据:
预测2016年到2019年,我国信息安全市场的复合增长率为16.6%。安全硬件复合增长率为20.3%,安全软件复合增长率为15.3%,安全服务的复合增长率为10.8%。2019年信息安全领域市场规模有望达到48亿美元。
政策的支持是国内信息安全行业高速增长的主要驱动因素之一。信息安全作为国家安全的重要组成部分,面临的形势日渐严峻,因此我国从2013年开始相应出台了相应的法律法规,对信息安全建设给予了高度的重视,尤其是在政府和军事等涉密的行业。2016年11月7日,全国人大常委会通过《网络安全法》,将于2017年6月1日施行。本次通过的《网络安全法》明确了网络空间主权的原则和网络产品好服务提供者、网络运营者的安全义务,进一步明确了个人信息保护规则,建立了关键信息基础设施安全保护制度,确立了关键信息基础设备重要数据跨境传输的规则。国家制定并不断完善网络安全战略,坚持网络安全与信息化发展并重,持续的政策红利将加大对信息安全的整体投入。
信息化新兴领域的爆发需要信息安全产品或设施为其保驾护航,信息安全行业边界不断扩张,行业总量不断增加。网络安全行业可分为基础设施安全、终端安全、云安全、工控安全、安全管理、安全服务等。近年来,云安全、工控安全等新兴领域的爆发带给行业更多的机会。
云安全是指云环境下的信息安全保护,云安全的诞生是信息安全对“云架构”的适应的结果。从云安全联盟(CSA)在2016年和2013年发布的报告来看,对云安全构成最大威胁的安全问题大部分来自传统信息安全领域的沉疴旧疾。信息安全的攻与防从来都是“道高一尺,魔高一丈”的关系,在黑客层出不穷且攻击手段不断强大的今天,防御能力还有很大的提升的空间。任何一种威胁攻击的升级都是对信息安全防御能力的刺激,从而促使新技术的诞生;而技术产品化之后无疑又是一次对云安全产业乃至信息安全产业的推动。因此在防御“质”量上仍然有很大提升空间,云安全还有很长的路要走。
目前全球云安全服务市场规模大约为36亿美元,整体的云安全服务市场规模增长将会达到23%,预计到2022年,整体市场规模将达到120亿美元左右。
而聚焦到国内,我们注意会有这样两个特点:(1)国内云计算整体的市场规模占全球总规模的绝对值相对较少,但增速显著快于全球的平均增速,显著说明了国内云计算正处于爆发期;(2)云安全市场尚处于起步阶段,整体的市场规模会随云计算市场增长而快速崛起。据IDC的预测,2014-2019年国内信息安全市场年均复合增长率为16.6%,预计2019年将会达到48.22亿美元。我们认为,未来3-5年,信息安全的整体的增长,将会有相当一部分来自于云安全需求的迅猛增长。
大数据时代下,存在信息安全的诸多隐患,大数据存在被窃取的风险,对个人网络隐私保护造成了冲击,易成为为网络攻击的目标。
在这个数据信息与产业发展息息相关下,我们要加强大数据法律法规建设,加强自主研发和创新,加强数据保护意识,这样我们管理下的数据才能发挥出它真正的意义。
PS:一人一言
周悦:
对于中小型网站来说,不用盲目追求先进技术、牛逼架构,首先需要考虑的是商业运作和推广,只有用户量飙升见红的情况下,再去考虑技术升级。
张思玉:
真正的大数据,应该是从不同维度,不同途径过来的各种格式的数据碎片。
张毅:
每天早上一醒来,我就要问自己:怎么才能让数据流动得更好、管理得更好、分析得更好?(罗林·福特 沃尔玛首席信息官)
程静:
互联网的最高一层是大数据。数据是否被活用,是大数据能否产生价值的标准,活数据、热数据才是大数据。(曾鸣 阿里首席战略官)
李朋:
最高深的技术是那些令人无法觉察的技术,这些技术不停地把它们自己编织进日常生活,直到你无从发现为止。(马克·韦泽 普适计算之父)