ITPUB论坛-中国最专业的IT技术社区

 找回密码
 注册
查看: 44206|回复: 71

从数据中挖掘宝藏,你真地准备好了吗?

[复制链接]
认证徽章
论坛徽章:
51
行业板块每日发贴之星
日期:2007-06-12 01:03:552011新春纪念徽章
日期:2011-01-25 15:42:332011新春纪念徽章
日期:2011-01-25 15:42:56管理团队成员
日期:2011-05-07 01:45:08ITPUB官方微博粉丝徽章
日期:2011-06-28 19:45:36ITPUB十周年纪念徽章
日期:2011-11-01 16:23:262012新春纪念徽章
日期:2012-02-13 15:09:232012新春纪念徽章
日期:2012-02-13 15:09:232012新春纪念徽章
日期:2012-02-13 15:09:232012新春纪念徽章
日期:2012-02-13 15:09:23
发表于 2015-9-10 16:52 | 显示全部楼层 |阅读模式
        随着与大数据相关的一系列技术的不断发展,企业拥有的大量财务数据、生产数据、销售数据,以及来自客户的浏览、询价等实时数据,都有望通过实时的数据处理和分析技术,转变为帮助企业快速响应业务需求,制订全新决策的高价值信息。为此,我们真的需要做好准备。

        云计算平台的兴起,算是给我们数据的存储和处理带来了很大的便利,这需要借重能够快速横向扩展的计算和存储系统的能力,而拥有密集计算能力,并能通过大容量内存实现内存计算技术,支持内存数据库的纵向扩充型系统,依然是承载实时数据分析应用的主力,这两大类系统及相关的应用软件体系,就形成了大数据时代数据处理和分析的基础设施。

        说起构建IT基础设施,我们不得不提起此前引发激烈讨论的“架构是选X86,还是选POWER”的话题,它涉及到了IBM和英特尔的核心新产品。最终,至强E7v3刚上市不久,就赢了众多用户的青睐,成为承载大数据实时分析的重要平台,这与大家在线讨论的结果基本相符。这也表明,多数企业如今在数据分析应用上,都转向了开放,易用且能兼顾横扩展和纵向扩充的X86平台,来快速响应市场变化。就在此时此刻,英特尔又开启了一场说走就走,且涵盖了行业大数据处理和分析应用的至强E7 v3行业应用方案全国路演活动,这对于急着跟上数据处理和分析应用大潮,又缺乏实践案例参考的企业IT同仁们,真是一场及时雨啊!


话题讨论:
1)对于公司不断增加的数据存储,处理和分析需求,您是更倾向于选择增加硬件设备自建和升级数据中心?还是开始尝试来自公有云的相关服务?

2)为数据类的应用自建数据中心,硬件选型是选择单纯x86架构?还是选择非x86架构,抑或是将x86与非x86架构混合部署和应用,做出相关决策时最主要的依据是成本,安全,性能、可扩展性还是系统兼容性?

3)尝试用外部的云平台或云服务承载数据应用需求时,会侧重考虑哪个方面的因素?是价格、知名度、稳定性、响应能力还是客户端的易用性?

4)请具体谈谈对于推进大数据及数据分析应用时力不从心的地方或环节有哪些?可以涵盖硬件,软件和服务层面。


活动时间: 2015年9月11日--10月20日
活动奖励:本活动由大话IT栏目在ITPUB社区发起,活动结束后将评选17名获奖会员,欢迎亲们踊跃参与!
最佳评论1名:美的(Midea)便携蒸汽挂烫机
20151020160531.png

优秀评论奖10名:商务保温杯


QQ截图20150910163627.png
评论奖6名:迷你充电宝
QQ截图20151019103835.png


获奖名单公布:
一等奖挂烫机 1
fatelyliang

二等奖商务保温杯:10个
kukisama  ,佚名是译名 ,phoenix1981  ,xdsnet  ,harkjim ,
王江玉  ,woshiyiziyu ,rickcafe  ,hiyachen  ,ylky_2000 ,
三等奖 迷你充电宝6个
xiehuanzhong ,shenlanyouyu ,bfmo   ,xuexiaogang  ,workflow263  ,may0505


论坛徽章:
737
达拉斯小牛
日期:2016-09-23 08:18:15季节之章:夏
日期:2015-07-31 17:16:29季节之章:秋
日期:2015-07-31 17:16:14ITPUB季度 技术新星
日期:2014-07-17 14:37:00红钻
日期:2014-12-16 17:51:41洛杉矶湖人
日期:2016-09-23 08:18:15布鲁克林篮网
日期:2016-09-23 08:17:18绿钻
日期:2015-08-15 13:20:11季节之章:冬
日期:2015-07-31 17:16:14华盛顿奇才
日期:2016-09-23 08:18:15
发表于 2015-9-10 17:17 | 显示全部楼层
站位。。。

使用道具 举报

回复
论坛徽章:
0
发表于 2015-9-10 17:19 | 显示全部楼层
本帖最后由 kukisama 于 2015-9-21 17:29 编辑

1)对于公司不断增加的数据存储,处理和分析需求,您是更倾向于选择增加硬件设备自建和升级数据中心?还是开始尝试来自公有云的相关服务?
针对公司增长的海量数据,我觉得根据需要根据业务、公司规模、愿意投入的资金来具体对待。
首先对于中小企业来说,使用公有云在很长一个时间段内,都是省钱的。在前期的飞速扩张(或者发展不愠不火)的时候,投入多少钱,收入多少产值,没有太多固定资产积压,按需付费。这都是公有云的特点。要知道如果想要本地部署,甭管盈利不盈利,好用不好用,钱都是需要在初期一次性投入一大笔,投入之后的维护费用也省不了。
但是对于较大规模的企业而言,内部部署的私有云,以及多分支的公有云组合的混合云模式,更为合适一些。毕竟从数据安全(不是指物理层面的安全)角度,放在本地,更容易获得领导层的支持,也更容易让更多人认可数据的安全性。但是即使可以接受内部部署的高昂成本,此时采用部分业务的公有云,也是很有必要的。因为只要扩张,就可能在某个阶段产生瓶颈,而公司规模较大的情况下,各种审批流程的速度不会太快。

2)为数据类的应用自建数据中心,硬件选型是选择单纯x86架构?还是选择非x86架构,抑或是将x86与非x86架构混合部署和应用,做出相关决策时最主要的依据是成本,安全,性能、可扩展性还是系统兼容性?
产品选型上,X86是比较成熟的,不过如果是有目的的,针对数据类的应用,其实这个时候选择何种架构就不需要太纠结。因为针对数据而言,最重要的第一个属性是安全,不能说考虑省钱了,就用非常低廉的X86服务器,用一些没有支持的服务搭建一个简单的环境。
我觉得做出决策的主要依据是
1、首先必须满足设计需求,如安全、数据吞吐、价格因素等
2、满足之后,公开招标
3、各自厂商肯定有自己的独到之处,如果有特别好的,考虑是否愿意为好的功能买单。
4、架构可能存在优点和缺点,但是更重要的是在软件层面的研发。

3)尝试用外部的云平台或云服务承载数据应用需求时,会侧重考虑哪个方面的因素?是价格、知名度、稳定性、响应能力还是客户端的易用性?
1、稳定性
2、价格
3、易用性

4)请具体谈谈对于推进大数据及数据分析应用时力不从心的地方或环节有哪些?可以涵盖硬件,软件和服务层面。
一般来说,推进大数据的时候在开始最容易遇到的问题是,基于未来考虑的基础架构设计,会因为预算庞大的问题,被财务部门砍一刀或者砍好几刀,到手后的硬件可能无法满足需求。
软件方面说难也容易,这个环节的关键是要有一个或者很多个“靠谱”的程序媛/程序猿,但是“靠谱”这个属性,比较难界定。


使用道具 举报

回复
认证徽章
论坛徽章:
199
2010新春纪念徽章
日期:2010-03-01 11:20:51至尊黑钻
日期:2015-08-13 13:38:12至尊黑钻
日期:2015-02-15 09:47:472015中国数据库技术大会纪念徽章
日期:2015-05-15 14:08:232015年中国系统架构师大会纪念徽章
日期:2015-07-31 17:48:20管理团队2007贡献徽章
日期:2015-01-19 09:48:27海蓝宝石
日期:2015-02-03 10:23:39红宝石
日期:2015-01-19 09:46:08红宝石
日期:2015-01-19 09:42:28红宝石
日期:2016-12-09 16:42:19
发表于 2015-9-10 17:21 | 显示全部楼层
占位待编辑

使用道具 举报

回复
招聘 : 系统架构师
认证徽章
论坛徽章:
368
乌索普
日期:2016-06-20 12:16:26秀才
日期:2015-08-26 09:00:13金牛座
日期:2015-08-28 09:13:22秀才
日期:2015-09-06 10:19:32秀才
日期:2015-09-06 10:42:32巨蟹座
日期:2015-09-09 14:25:25巨蟹座
日期:2015-09-10 09:03:46秀才
日期:2015-09-11 10:43:06秀才
日期:2015-09-21 09:46:16秀才
日期:2015-08-26 09:00:13
发表于 2015-9-10 17:22 | 显示全部楼层
1)对于公司不断增加的数据存储,处理和分析需求,您是更倾向于选择增加硬件设备自建和升级数据中心?还是开始尝试来自公有云的相关服务?
自建,数据量太大,网络消费太大。共有云存些不重要的log就行了。
2)为数据类的应用自建数据中心,硬件选型是选择单纯x86架构?还是选择非x86架构,抑或是将x86与非x86架构混合部署和应用,做出相关决策时最主要的依据是成本,安全,性能、可扩展性还是系统兼容性?
基本上X86架构
3)尝试用外部的云平台或云服务承载数据应用需求时,会侧重考虑哪个方面的因素?是价格、知名度、稳定性、响应能力还是客户端的易用性?
稳定性,响应能力
4)请具体谈谈对于推进大数据及数据分析应用时力不从心的地方或环节有哪些?可以涵盖硬件,软件和服务层面。
人才。。。

使用道具 举报

回复
认证徽章
论坛徽章:
225
至尊黑钻
日期:2015-09-25 14:27:26粉钻
日期:2015-10-16 10:53:36紫钻
日期:2015-10-16 10:53:21红钻
日期:2015-09-25 15:05:50黄钻
日期:2015-10-17 12:23:40绿钻
日期:2015-10-24 10:29:30至尊黑钻
日期:2015-08-14 13:24:07粉钻
日期:2015-10-24 10:30:07紫钻
日期:2015-11-03 22:32:09红钻
日期:2015-11-06 17:21:40
发表于 2015-9-10 17:23 | 显示全部楼层
本帖最后由 佚名是译名 于 2015-10-20 14:11 编辑

火钳留名 占楼更新

1)对于公司不断增加的数据存储,处理和分析需求,您是更倾向于选择增加硬件设备自建和升级数据中心?还是开始尝试来自公有云的相关服务?

我更倾向于算则增加硬件设备自建和升级数据中心,主要是公司的数据量就那么多,增长的速度没那么快,增加硬件设备就够用了,云相关的服务还是有些担心的,怕丢失,怕泄露。
2)为数据类的应用自建数据中心,硬件选型是选择单纯x86架构?还是选择非x86架构,抑或是将x86与非x86架构混合部署和应用,做出相关决策时最主要的依据是成本,安全,性能、可扩展性还是系统兼容性?
为数据类的应用自建数据中心,硬件选型公司会选择单纯X86架构,做出相关决策时最主要的依据是:
   易用可扩展性   因而X86架构的易用性较高。企业业务扩展需求的必然性要求服务器具有一定可扩展性。在服务器可扩展性方面,传统非X86服务器可扩展性方面比如小型机可扩展至8个CPU以上,而X86架构产品在至强E7/E5推出之后,在支持八路方面也有不俗的表现,同时X86集群也可实现较高扩展。
  成本   从价格看,从软硬件采购到机器运维管理与升级,等等,X86的价格都较传统定制化的非X86服务器架构实惠。毕竟通用型X86遵循“One For ALL ,单一架构合适所有”标准化生产理念,如此一来,开放批量标准化生产的X86架构服务器自然成本较封闭的定制化产品价位低。
  安全 传统非X86架构服务器产品的三性要优于X86架构服务器。然而,随着X86服务器产品在冗余技术和高可用技术方面扩展,也使得双方在三性方面的差距正在缩短。
  兼容性  X86素来有兼容性超于其他的美誉。
3)尝试用外部的云平台或云服务承载数据应用需求时,会侧重考虑哪个方面的因素?是价格、知名度、稳定性、响应能力还是客户端的易用性?
会侧重考虑知名度,稳定性和响应能力。

4)请具体谈谈对于推进大数据及数据分析应用时力不从心的地方或环节有哪些?可以涵盖硬件,软件和服务层面。
人员方面吧,要有这方面的储备人员,没人的话,要向前进还是很难的,毕竟现在还打不到自动化的地步。

使用道具 举报

回复
认证徽章
论坛徽章:
836
状元
日期:2015-11-12 10:18:05榜眼
日期:2015-11-12 10:18:05探花
日期:2015-11-12 10:18:05进士
日期:2015-11-12 10:18:05举人
日期:2015-09-11 13:42:08秀才
日期:2015-09-17 09:11:05至尊黑钻
日期:2015-11-20 18:17:09紫钻
日期:2015-11-20 18:18:06粉钻
日期:2015-11-20 18:17:23绿钻
日期:2015-11-20 18:17:48
发表于 2015-9-10 18:04 | 显示全部楼层
大公司才需要这玩意
小公司挖毛啊

使用道具 举报

回复
认证徽章
论坛徽章:
275
马上加薪
日期:2014-02-19 11:55:14马上有对象
日期:2014-02-19 11:55:14马上有钱
日期:2014-02-19 11:55:14马上有房
日期:2014-02-19 11:55:14马上有车
日期:2014-02-19 11:55:14马上有车
日期:2014-02-18 16:41:112014年新春福章
日期:2014-02-18 16:41:11版主9段
日期:2012-11-25 02:21:03ITPUB年度最佳版主
日期:2014-02-19 10:05:27现任管理团队成员
日期:2011-05-07 01:45:08
发表于 2015-9-10 23:19 | 显示全部楼层
看看先。。。。。

使用道具 举报

回复
认证徽章
论坛徽章:
244
2015年新春福章
日期:2015-05-28 10:58:322015年新春福章
日期:2015-03-19 09:32:472015年新春福章
日期:2015-03-06 11:58:182015年新春福章
日期:2015-05-21 11:46:522015年新春福章
日期:2015-05-22 13:32:002015年新春福章
日期:2015-06-25 14:26:362015年新春福章
日期:2015-07-01 17:15:212015年新春福章
日期:2015-07-01 17:15:212015年新春福章
日期:2015-07-01 17:12:082015年新春福章
日期:2015-05-18 13:50:34
发表于 2015-9-11 07:54 | 显示全部楼层
占位待编辑

使用道具 举报

回复
招聘 : 数据库管理员
认证徽章
论坛徽章:
275
生肖徽章2007版:鼠
日期:2009-11-25 17:01:33生肖徽章2007版:牛
日期:2009-02-07 09:37:19生肖徽章2007版:虎
日期:2008-09-28 13:40:38生肖徽章2007版:兔
日期:2009-09-10 11:22:26生肖徽章2007版:龙
日期:2012-08-10 14:09:58生肖徽章2007版:蛇
日期:2013-02-25 15:21:30生肖徽章2007版:马
日期:2009-03-10 21:15:36生肖徽章2007版:羊
日期:2009-09-10 11:27:42生肖徽章2007版:猴
日期:2009-02-10 09:47:38生肖徽章2007版:鸡
日期:2012-09-29 11:39:23
发表于 2015-9-11 08:14 | 显示全部楼层
本帖最后由 phoenix1981 于 2015-9-11 09:14 编辑

话题讨论:
1)对于公司不断增加的数据存储,处理和分析需求,您是更倾向于选择增加硬件设备自建和升级数据中心?还是开始尝试来自公有云的相关服务?
个人观点:我们公司这边结合自身情况,运用的策略是“增加硬件设备自建和升级数据中心”。原因有二,
一、每年全公司各种系统产生的数据也就那么多(大概2点几个T左右),发现磁盘阵列容量报警,就把之前的数据迁出去或是增加硬盘即可;
二、主要还是担心云服务的数据安全性,不是怕丢,而是怕看。

2)为数据类的应用自建数据中心,硬件选型是选择单纯x86架构?还是选择非x86架构,抑或是将x86与非x86架构混合部署和应用,做出相关决策时最主要的依据是成本,安全,性能、可扩展性还是系统兼容性?
个人观点:我们这边基本都是X86,主要是由于技术水平有限,也用习惯了,换成非X86的要迁移应用,要面临很多未知的问题,而且非JAVA开发的系统也没法直接迁到非X86上。关于这方面的事情,由信息部门决策,就是出于对成本、安全、性能、可扩展性和系统兼容性考虑才会做这样的决策。采用非X86架构不是完全不可行,但管理成本会增加,系统兼容性可能会受影响,所以还不敢尝试大范围应用。

3)尝试用外部的云平台或云服务承载数据应用需求时,会侧重考虑哪个方面的因素?是价格、知名度、稳定性、响应能力还是客户端的易用性?
个人观点:如果我们这边考虑使用云平台或云服务,指标优先级从高到低应该是这样的:知名度、稳定性、价格、响应能力、客户端的易用性。
我们老板比较喜欢用知名品牌的产品(在商会分享时有面子),然后才是IT考虑的要素:稳定性和响应能力,其次是客户端的易用性(专业人员操作,小众需求,不优先考虑)。但是做事情得考虑成本不是,那就把价格往前移一移,拿稳定性来比较吧。

4)请具体谈谈对于推进大数据及数据分析应用时力不从心的地方或环节有哪些?可以涵盖硬件,软件和服务层面。
个人观点:刚好,应领导要求,最近正在研究一般国内知名报表软件产品,就是为了快速在不同终端上展现数据分析结果。说到“力不从心”,硬件软件都会有。
硬件:我们公司物理服务器就那几台,硬着头皮虚拟出十几台服务器,就算是不断地调整各个服务器的配置,可是对系统性能的提升做用微乎其微。一句话全包括:老板觉得够用
软件:我们公司在这个行业里算是IT建设开展得比较早的,数据量级也基本达到挖掘的程度了。可是大量的系统数据,有结构化的,有非结构化的,让人无从下手。前期邀请了几个数据分析软件厂商来交流,开始聊得挺好,后来老板一听价格,就没有后话了。后来我们想先从结构化的数据入手,弄个报表系统,可以把最实用的一部分数据分析结果以报表形势展现出来,等后面需求多了,再找老板批款上大系统。

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则

TOP技术积分榜 社区积分榜 徽章 电子杂志 团队 统计 虎吧 老博客 知识索引树 读书频道 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档 | IT博客
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛 | SAP ERP系统
CopyRight 1999-2011 itpub.net All Right Reserved. 北京皓辰网域网络信息技术有限公司版权所有 联系我们 网站律师 隐私政策 知识产权声明
京ICP证:060528号 北京市公安局海淀分局网监中心备案编号:1101082001 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表