楼主: hwayw

话题讨论:Hadoop是否是大数据处理的福音

[复制链接]
论坛徽章:
9
茶鸡蛋
日期:2011-12-28 08:44:392012新春纪念徽章
日期:2012-01-04 11:49:54优秀写手
日期:2013-12-18 09:29:152014年新春福章
日期:2014-02-18 16:41:11马上有车
日期:2014-02-18 16:41:11
11#
发表于 2012-4-18 18:27 来自手机 | 只看该作者
Hadoop本人认为是比较适用于互联网中的电商企业。

使用道具 举报

回复
论坛徽章:
52
2015年新春福章
日期:2015-03-06 11:57:312012新春纪念徽章
日期:2012-02-13 15:12:252012新春纪念徽章
日期:2012-02-13 15:12:25生肖徽章2007版:龙
日期:2012-02-07 10:33:22生肖徽章2007版:龙
日期:2012-02-07 10:33:22生肖徽章2007版:龙
日期:2012-02-07 10:33:22生肖徽章2007版:龙
日期:2012-02-07 10:33:22生肖徽章2007版:龙
日期:2012-02-07 10:33:22生肖徽章2007版:龙
日期:2012-02-07 10:32:552012新春纪念徽章
日期:2012-02-07 09:59:35
12#
发表于 2012-4-18 19:50 | 只看该作者
1.hadoop非常适合处理大数据,不过是指海量数据,而是指大文本或视频等文件;

2.hadoop是属于一整套的解决方案,包含了文件系统,以及非常多的工具支持;

3.hadoop将给开发人更多的想象空间,以及给很多企业解决数据分析的压力,而且是开源的产品很多公司可以整合成一个产品,不过对传统的DBA有所冲击,对开发人员和系统工程师是极大的机遇;

使用道具 举报

回复
招聘 : 多个岗位招聘
论坛徽章:
33
2010广州亚运会纪念徽章:跆拳道
日期:2010-11-22 15:42:39灰彻蛋
日期:2012-05-16 13:17:56参与WIN7挑战赛纪念
日期:2012-05-24 10:37:35茶鸡蛋
日期:2012-05-28 17:27:32灰彻蛋
日期:2012-06-13 18:48:14双黄蛋
日期:2012-06-14 14:32:02奥运会纪念徽章:帆船
日期:2012-07-10 09:43:29奥运会纪念徽章:足球
日期:2012-08-17 09:17:32奥运会纪念徽章:帆船
日期:2012-07-26 15:46:49奥运会纪念徽章:赛艇
日期:2012-08-20 16:23:58
13#
发表于 2012-4-18 19:55 | 只看该作者
Hadoop 是一个分布式系统基础架构,由Apache基金会开发。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力高速运算和存储。Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有着高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上。Hadoop 以并行的方式工作,通过并行处理加快处理速度;还是伸缩,能够处理PB级数据。本期讨论话题:
讨论话题
    1、Hadoop是否是大数据处理的福音?
    2、Hadoop与其他海量数据处理方案相比有什么优劣势?
    3、Hadoop给您带来哪些更多的机会?



       1、这个问题客观的来看,Hadoop提供的是一类思路。通过分布式实现高可用。
     2、Hadoop的优势
              高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。
              高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的,这些集簇可以方便地扩展到数以千计的节点中。
              高效性。Hadoop能够在节点之间动态地移动数据,并保证各个节点的动态平衡,因此其处理速度非常快。
              高容错性。Hadoop能够自动保存数据的多个副本,并且能够自动将失败的任务重新分配。
           劣势
              HA(High Availability)高可用性:
               这一点是Hadoop非常弱的一个缺点,不管是Hdfs还是Map-reduce,都是采用单master的方式,集群中的其他机器都是与一台中心机器进行通信,如果这个中心机器挂了,集群就只有不工作了(不一定数据会丢失,但是至少需要重启等等工作),让可用性变得更低。这个一般叫做单点失败(single point of failure,SPOF)。
     3、Hadoop来给我们的是非结构数据的高并发支持。对于big data的存取是有指导性帮助的。
        为架构的设计提供了不错的思路。



个人观点,欢迎交流~~~



使用道具 举报

回复
论坛徽章:
277
马上加薪
日期:2014-02-19 11:55:14马上有对象
日期:2014-02-19 11:55:14马上有钱
日期:2014-02-19 11:55:14马上有房
日期:2014-02-19 11:55:14马上有车
日期:2014-02-19 11:55:14马上有车
日期:2014-02-18 16:41:112014年新春福章
日期:2014-02-18 16:41:11版主9段
日期:2012-11-25 02:21:03ITPUB年度最佳版主
日期:2014-02-19 10:05:27现任管理团队成员
日期:2011-05-07 01:45:08
14#
发表于 2012-4-18 22:24 | 只看该作者
1、Hadoop是否是大数据处理的福音?
这是肯定的。Hadoop之所以具备出色的大数据处理能力,在于Hadoop的生态圈包含了很多优秀的工具,比如Hive和Pig等,在获取、存储、管理和分析数据方面远远超越传统的数据库软件工具。最为重要的一点是,Hadoop已经成为了业界处理分布式大数据的“标准”,无论是Google、Yahoo,还是微软、思科、淘宝等,都支持Hadoop。
  
2、Hadoop与其他海量数据处理方案相比有什么优劣势?
Hadoop的优势是在实现低成本方案的同时保证了高可用性和高可靠性,而且Hadoop社区强大,Hadoop生态圈的开发者和爱好者众多。
Hadoop的劣势是其技术正在不断地演进,Hadoop自身及其周边的工具的Bug都不少,学习曲线较陡,学习成本不低。

3、Hadoop给您带来哪些更多的机会?
使得中小公司或者企业可以用低成本的Hadoop方案构建分布式大数据处理环境,挖掘很多以前没法处理的有价值的数据,从而获取更大的收益。

使用道具 举报

回复
论坛徽章:
15
最佳人气徽章
日期:2013-03-14 11:03:26兰博基尼
日期:2013-08-05 16:44:02凯迪拉克
日期:2013-08-05 16:45:47
15#
发表于 2012-4-19 09:31 | 只看该作者
1、Hadoop是否是大数据处理的福音?
应该是。
2、Hadoop与其他海量数据处理方案相比有什么优劣势?
hadoop和传统数据库比较:
优点:
a.硬件低廉。
b.由于是分布式的,可扩展性好。
c.开源。
缺点:
a.目前只支持linux系统。
b.使用hoodoop比较多是一些互联网的web应用,而像电信、金融对稳定性要求很高的企业,对传统数据库更加信赖。
3、Hadoop给您带来哪些更多的机会?
随着不断的发展,相信Hadoop会在更多的领域中使用,对于搞it的人来说,以后就业面会更广。

使用道具 举报

回复
论坛徽章:
314
行业板块每日发贴之星
日期:2012-07-12 18:47:29双黄蛋
日期:2011-08-12 17:31:04咸鸭蛋
日期:2011-08-18 15:13:51迷宫蛋
日期:2011-08-18 16:58:25紫蛋头
日期:2011-08-31 10:57:28ITPUB十周年纪念徽章
日期:2011-09-27 16:30:47蜘蛛蛋
日期:2011-10-20 15:51:25迷宫蛋
日期:2011-10-29 11:12:59ITPUB十周年纪念徽章
日期:2011-11-01 16:19:41鲜花蛋
日期:2011-11-09 20:33:30
16#
发表于 2012-4-19 09:58 | 只看该作者
一直在作ORACLE,很希望有机会接触hadoop,

使用道具 举报

回复
求职 : 数据库管理员
论坛徽章:
32
生肖徽章2007版:狗
日期:2009-07-20 17:10:18茶鸡蛋
日期:2013-05-23 16:34:43茶鸡蛋
日期:2013-07-19 14:39:22ITPUB社区千里马徽章
日期:2013-08-22 09:58:03雪铁龙
日期:2013-08-23 13:04:11林肯
日期:2013-09-04 14:07:20兰博基尼
日期:2013-09-16 13:45:20马上有钱
日期:2014-05-14 14:07:392014年世界杯参赛球队: 波黑
日期:2014-07-03 13:24:39马上有对象
日期:2014-10-30 14:04:32
17#
发表于 2012-4-19 10:51 | 只看该作者
关注一下HADOOP

使用道具 举报

回复
论坛徽章:
1
2013年新春福章
日期:2013-02-25 14:51:24
18#
发表于 2012-4-19 11:14 | 只看该作者
讨论话题
    1、Hadoop是否是大数据处理的福音?
         是福音,但是只是离线数据的处理的福音。对实时性要求比较高的大数据分析处理,hadoop暂时未见优势。
    2、Hadoop与其他海量数据处理方案相比有什么优劣势?
        其他有那些,商业的还是开源的?
    3、Hadoop给您带来哪些更多的机会?
         说白了就是工作机会,现在那个互联网公司不朝大数据靠?所以有hadoop的相关经验,钱不低啊。
        不过,说到底,它只是一个工具,应时的工具,咱作为程序猿,不能沦被工具所累。一些核心技术,业务能力才是核心。

使用道具 举报

回复
招聘 : 数据工程师
论坛徽章:
92
生肖徽章2007版:鸡
日期:2013-11-12 07:55:03马上有房
日期:2014-02-18 16:42:02马上有钱
日期:2014-04-09 17:17:412014年世界杯参赛球队: 美国
日期:2014-06-28 21:46:122014年世界杯参赛球队:喀麦隆
日期:2014-07-07 10:46:48马上有车
日期:2014-07-21 13:04:39马上加薪
日期:2014-07-29 10:04:19马上有对象
日期:2014-07-29 10:04:53马上有车
日期:2014-07-29 10:04:20马上加薪
日期:2014-08-26 22:26:06
19#
发表于 2012-4-19 12:04 | 只看该作者
1、Hadoop是否是大数据处理的福音?    2、Hadoop与其他海量数据处理方案相比有什么优劣势?
      hadoop对大数据,非格式化,多文件格式的数据处理有优势,只需要增加少量的硬件投入即可,但是对于数据一致性,事务处理,实效性有很大的不足,只能说对于某些行业如互联网,对数据要求不十分精确,对业务变化很快的行业有极大优势。但是对于金融行业对于数据的一致性,数据的实效性要求十分精准,那么此类行业的业务系统用hadoop就不太合适了,今后的大数据出来肯定是传统的oracle,TD和分布式数据处理并存,要不然oracle也不会花极大力气去研发exeadata,IBM不会花几十亿去研发per system。
3、Hadoop给您带来哪些更多的机会?
     hadoop对数据的重要性起了非常大的作用,单单不说hadoop纯开发职位,由于分布式的极大发展,很多企业的大量垃圾数据得以加工和处理,产生了很多开发职位和架构分析管理职位,最近的互联网分析师的流行,绝对离不开hadoop之类的推动。个人来看,hadoop相对传统BI开发难度大,人才少,待遇会大大高于传统IT职位。

使用道具 举报

回复
论坛徽章:
1
ITPUB新首页上线纪念徽章
日期:2007-10-20 08:38:44
20#
发表于 2012-4-19 14:37 | 只看该作者
nannan5000 发表于 2012-4-18 19:55
1、这个问题客观的来看,Hadoop提供的是一类思路。通过分布式实现高可用。
     2、Hadoop的 ...

我对hadoop的了解仅限于概念。hadoop不能像gp这样的mpp的数据库那样弄一台stand by的master吗?

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表