楼主: hwayw

话题讨论:大数据时代的数据处理方案部署(已公布获奖)

[复制链接]
论坛徽章:
737
季节之章:春
日期:2015-07-31 17:16:29ITPUB季度 技术新星
日期:2014-07-17 14:37:00季节之章:秋
日期:2015-07-31 17:16:14季节之章:夏
日期:2015-07-31 17:16:29股神
日期:2014-10-15 09:23:31衰神
日期:2014-10-20 22:47:12季节之章:冬
日期:2015-07-31 17:16:14红钻
日期:2014-12-16 17:51:41洛杉矶湖人
日期:2016-09-23 08:18:15布鲁克林篮网
日期:2016-09-23 08:17:18
11#
发表于 2014-5-22 18:48 | 只看该作者
yanyangtian4502 发表于 2014-5-22 16:11
这本书里面涉及到的话题很多,我在里面参与了部分的讲述,本次就我一个嘉宾,感觉压力山大啊 呵呵。

我在 ...

niubi 的大神。。。

使用道具 举报

回复
论坛徽章:
737
季节之章:春
日期:2015-07-31 17:16:29ITPUB季度 技术新星
日期:2014-07-17 14:37:00季节之章:秋
日期:2015-07-31 17:16:14季节之章:夏
日期:2015-07-31 17:16:29股神
日期:2014-10-15 09:23:31衰神
日期:2014-10-20 22:47:12季节之章:冬
日期:2015-07-31 17:16:14红钻
日期:2014-12-16 17:51:41洛杉矶湖人
日期:2016-09-23 08:18:15布鲁克林篮网
日期:2016-09-23 08:17:18
12#
发表于 2014-5-22 18:48 | 只看该作者
支持活动。。。。。。。。。。

使用道具 举报

回复
论坛徽章:
57
SQL极客
日期:2013-12-09 14:13:35秀才
日期:2016-01-21 13:42:39秀才
日期:2016-01-13 12:14:26SQL大赛参与纪念
日期:2016-01-13 10:32:19SQL数据库编程大师
日期:2016-01-13 10:30:43秀才
日期:2015-12-14 14:47:54秀才
日期:2015-10-19 15:50:392015年新春福章
日期:2015-03-06 11:58:18懒羊羊
日期:2015-03-04 14:52:11优秀写手
日期:2014-11-08 06:00:14
13#
发表于 2014-5-22 20:37 | 只看该作者
yanyangtian4502 发表于 2014-5-22 16:11
这本书里面涉及到的话题很多,我在里面参与了部分的讲述,本次就我一个嘉宾,感觉压力山大啊 呵呵。

我在 ...

我们在用mpp数据库greenplum,不知道一体机exadata和hadoop如何?他们有什么优势和不足?如何根据他们设计应用。

使用道具 举报

回复
论坛徽章:
57
SQL极客
日期:2013-12-09 14:13:35秀才
日期:2016-01-21 13:42:39秀才
日期:2016-01-13 12:14:26SQL大赛参与纪念
日期:2016-01-13 10:32:19SQL数据库编程大师
日期:2016-01-13 10:30:43秀才
日期:2015-12-14 14:47:54秀才
日期:2015-10-19 15:50:392015年新春福章
日期:2015-03-06 11:58:18懒羊羊
日期:2015-03-04 14:52:11优秀写手
日期:2014-11-08 06:00:14
14#
发表于 2014-5-22 20:38 | 只看该作者
yanyangtian4502 发表于 2014-5-22 16:11
这本书里面涉及到的话题很多,我在里面参与了部分的讲述,本次就我一个嘉宾,感觉压力山大啊 呵呵。

我在 ...

exadata一般oracle,设计上那些不同,如何适应?

使用道具 举报

回复
论坛徽章:
57
SQL极客
日期:2013-12-09 14:13:35秀才
日期:2016-01-21 13:42:39秀才
日期:2016-01-13 12:14:26SQL大赛参与纪念
日期:2016-01-13 10:32:19SQL数据库编程大师
日期:2016-01-13 10:30:43秀才
日期:2015-12-14 14:47:54秀才
日期:2015-10-19 15:50:392015年新春福章
日期:2015-03-06 11:58:18懒羊羊
日期:2015-03-04 14:52:11优秀写手
日期:2014-11-08 06:00:14
15#
发表于 2014-5-22 20:39 | 只看该作者
yanyangtian4502 发表于 2014-5-22 16:11
这本书里面涉及到的话题很多,我在里面参与了部分的讲述,本次就我一个嘉宾,感觉压力山大啊 呵呵。

我在 ...

云计算吵得很热,它究竟是什么,它为什么好,我们如何应用它?

使用道具 举报

回复
论坛徽章:
57
SQL极客
日期:2013-12-09 14:13:35秀才
日期:2016-01-21 13:42:39秀才
日期:2016-01-13 12:14:26SQL大赛参与纪念
日期:2016-01-13 10:32:19SQL数据库编程大师
日期:2016-01-13 10:30:43秀才
日期:2015-12-14 14:47:54秀才
日期:2015-10-19 15:50:392015年新春福章
日期:2015-03-06 11:58:18懒羊羊
日期:2015-03-04 14:52:11优秀写手
日期:2014-11-08 06:00:14
16#
发表于 2014-5-22 20:45 | 只看该作者
yanyangtian4502 发表于 2014-5-22 16:11
这本书里面涉及到的话题很多,我在里面参与了部分的讲述,本次就我一个嘉宾,感觉压力山大啊 呵呵。

我在 ...

gp正在研发hawa,可以用sql处理的hadoop和mpp兼容数据库,也可以运行mapraeduce,可扩展使用开源r,你如何看?hadoop的总体持有成本也蛮高的,需要专业的专家,虽然是开源的。以后会有商业版的便宜的hadoop吗?易于维护,易于使用,高效,高稳定性,低成本,这些如何平衡?

使用道具 举报

回复
论坛徽章:
57
SQL极客
日期:2013-12-09 14:13:35秀才
日期:2016-01-21 13:42:39秀才
日期:2016-01-13 12:14:26SQL大赛参与纪念
日期:2016-01-13 10:32:19SQL数据库编程大师
日期:2016-01-13 10:30:43秀才
日期:2015-12-14 14:47:54秀才
日期:2015-10-19 15:50:392015年新春福章
日期:2015-03-06 11:58:18懒羊羊
日期:2015-03-04 14:52:11优秀写手
日期:2014-11-08 06:00:14
17#
发表于 2014-5-22 20:47 | 只看该作者
yanyangtian4502 发表于 2014-5-22 16:11
这本书里面涉及到的话题很多,我在里面参与了部分的讲述,本次就我一个嘉宾,感觉压力山大啊 呵呵。

我在 ...

传统的oracle还有发展空间吗?mpp?hadoop?哪些是未来5年的春天?

使用道具 举报

回复
论坛徽章:
0
18#
发表于 2014-5-22 21:21 | 只看该作者
大数据是今后最值得关注的问题,希望大家有机会可以多多讨论!

使用道具 举报

回复
论坛徽章:
111
ITPUB9周年纪念徽章
日期:2010-10-08 09:34:03马上有房
日期:2014-02-18 16:42:02马上有车
日期:2014-03-20 10:09:22马上有钱
日期:2014-03-20 15:53:11马上有车
日期:2014-03-20 16:13:24马上有房
日期:2014-03-20 16:14:11马上有钱
日期:2014-03-20 16:14:11马上有对象
日期:2014-03-20 16:14:11马上加薪
日期:2014-03-20 16:14:11技术图书徽章
日期:2014-03-27 09:30:56
19#
发表于 2014-5-22 21:29 | 只看该作者
 1、从大数据分析的计算方式来看,部署大数据分析方案,您会看好哪种方式呢?小型机、X86虚拟化、刀片服务器、开源分布式计算方式还是其它方式?
       现网部署大数据分析一般采用的是刀片存储服务器进行部署,X86虚拟化目前还在测试阶段。


  2、海量并行处理数据库系统MPP已经存活十多年了,不管是传统数据还是大数据都可以使用MPP架构,那么它到底有哪些威力呢?对企业而言,在处理海量数据时,是选择数据仓库还是一体机?
        如果说刀片存储是一体机的话,我觉得在处理海量数据的时候,刀片存储应该可以占据一定席位。
     毕竟MPP数据库就是需要主机带存储,当前的存储刀片已经可以满足一台刀片配几十T的存储盘,从SAS盘,SATA盘; 并且刀片背板可以配置万兆网卡用以满足大数据量的通信。

使用道具 举报

回复
论坛徽章:
111
ITPUB9周年纪念徽章
日期:2010-10-08 09:34:03马上有房
日期:2014-02-18 16:42:02马上有车
日期:2014-03-20 10:09:22马上有钱
日期:2014-03-20 15:53:11马上有车
日期:2014-03-20 16:13:24马上有房
日期:2014-03-20 16:14:11马上有钱
日期:2014-03-20 16:14:11马上有对象
日期:2014-03-20 16:14:11马上加薪
日期:2014-03-20 16:14:11技术图书徽章
日期:2014-03-27 09:30:56
20#
发表于 2014-5-22 21:29 | 只看该作者
 1、从大数据分析的计算方式来看,部署大数据分析方案,您会看好哪种方式呢?小型机、X86虚拟化、刀片服务器、开源分布式计算方式还是其它方式?
       现网部署大数据分析一般采用的是刀片存储服务器进行部署,X86虚拟化目前还在测试阶段。


  2、海量并行处理数据库系统MPP已经存活十多年了,不管是传统数据还是大数据都可以使用MPP架构,那么它到底有哪些威力呢?对企业而言,在处理海量数据时,是选择数据仓库还是一体机?
        如果说刀片存储是一体机的话,我觉得在处理海量数据的时候,刀片存储应该可以占据一定席位。
     毕竟MPP数据库就是需要主机带存储,当前的存储刀片已经可以满足一台刀片配几十T的存储盘,从SAS盘,SATA盘; 并且刀片背板可以配置万兆网卡用以满足大数据量的通信。


补充《大数据时代的IT架构设计》试读想法

   整体上来说,试读包含了四位大师的网络架构和说明,分别为hadoop的上网日志分析、hadoop的金融银行业的应用架构、优酷土豆的hadoop平台开放之路以及淘宝的自创的海量文件存储实践四大内容。

    关于hadoop的上网日志分析,当前现网已经部署hadoop的网络爬虫以及hadoop的日志分析,如文章中介绍的通过url匹配进行用户上网日志的抓取,通过日志分析,过滤,导入到传统的数据库中。 这点和文章中不太一致,文章是全部通过hadoop处理。我们这边hadoop只是获取爬虫数据,过滤完后,传到传统的数据库中进行关联用户资料,再进行分析。

    关于淘宝的海量文件存储实践,前期看过淘宝技术这十年,感觉淘宝人才济济,太厉害了,对于海量数据的分析能力很强悍。

     书的内容很丰富,而且组网图我感觉有点立体感,后续可以借鉴到工作中。


使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表