楼主: ~贝贝~

[Tips] [有奖讨论]第二期:细数列式数据库与行式数据库的优劣对比

[复制链接]
论坛徽章:
47
生肖徽章:牛
日期:2007-09-26 17:01:04马上有对象
日期:2014-02-19 11:55:14马上有钱
日期:2014-02-19 11:55:14马上有房
日期:2014-02-19 11:55:14马上有车
日期:2014-02-19 11:55:14奥运会纪念徽章:摔跤
日期:2012-09-18 10:12:52版主4段
日期:2012-05-15 15:24:112012新春纪念徽章
日期:2012-01-04 11:50:44现任管理团队成员
日期:2011-05-07 01:45:08生肖徽章:蛇
日期:2007-09-26 17:01:59
11#
发表于 2010-9-14 11:22 | 只看该作者
由于底层存储模型的不同,使得列式和行式针对于不同的应用场景。在OLAP方面的应用中,列式有他天然的优势,还有个比较适用的好处,列式的存储模型在修改表结构的时候实在太方便了,对于后期系统升级而言,非常方便。大数据量下,行式存储修改表结构简直是一种噩梦。

使用道具 举报

回复
论坛徽章:
19
ITPUB新首页上线纪念徽章
日期:2007-10-20 08:38:44版主1段
日期:2012-05-15 15:24:112012新春纪念徽章
日期:2012-02-13 15:12:252012新春纪念徽章
日期:2012-02-13 15:12:252012新春纪念徽章
日期:2012-02-13 15:12:252012新春纪念徽章
日期:2012-02-13 15:12:252012新春纪念徽章
日期:2012-02-13 15:12:252011新春纪念徽章
日期:2011-02-18 11:42:502011新春纪念徽章
日期:2011-01-25 15:42:562011新春纪念徽章
日期:2011-01-25 15:42:33
12#
发表于 2010-9-14 11:26 | 只看该作者

不是我写的,下面的内容摘自我们ITPUB数据库技术大会一名参会者(玉面飞龙)博客:

列式数据库对传统行式数据库思维的DBA还是很impressed的。列式数据库比传统的行式数据库更加适合OLAP数据仓库和数据分析。由于设计上的不同,列式数据库在并行查询处理和压缩上更有优势。而且数据是以列为单元存储,完全不用考虑数据建模或者说建模更简单了。要查询计算哪些列上的数据,直接读取列就行了。不像行式数据库,一行上有多列,尽管我们只需要分析某些列的数据,也要读取表上的全部数据(FTS为例)。这样,列式数据库的IO更高效。

使用道具 举报

回复
论坛徽章:
13
生肖徽章2007版:虎
日期:2009-03-14 11:55:56ITPUB社区12周年站庆徽章
日期:2013-10-08 15:00:34灰彻蛋
日期:2013-03-16 23:13:202013年新春福章
日期:2013-02-25 14:51:24紫蛋头
日期:2013-01-23 13:48:22双黄蛋
日期:2011-07-30 15:08:322010年世界杯参赛球队:德国
日期:2010-05-11 21:28:202010年世界杯参赛球队:意大利
日期:2010-01-26 11:28:16生肖徽章2007版:兔
日期:2009-05-13 09:35:07生肖徽章2007版:鸡
日期:2009-04-08 19:14:38
13#
发表于 2010-9-14 12:16 | 只看该作者
个人观点:
行式数据库存储的时候大部分是采用堆表的方式,随机插入优势明显,列式数据库如果数据即索引,则随机插入的开销要大。每一列都有次定位和插入的动作,索引本身的维护量不会少。列式数据库本身还有其它形式索引,和行式相似。
大量的修改(varchar)时行式存储难免产生行漂移。这点恐怕对行数据库不利。
大量随机删除时堆表的维护应该是好于索引的维护的。
所以OLTP上行式数据库肯定优于列式数据库。

目前IQ上的索引基本也就改良B树和改良位图两类。全文检索应该是不太合适的。
查询特别是大范围查询,列式数据库因为是压缩存放的,所以IO上优势应该是明显的,
但牵涉到多表关联时更多取决于连接的join算法问题、统计结果的存放问题。现在市面上的OLAP产品也多,
MOLAP的产品在这方面的优势明显,ROLAP在一定程度上处于劣势,虽然IQ增加了join index但该索引的维护很夸张。如果不能再做到分布式的数据分布,后期的扩展就有问题了。

分布式列式数据库在ROLAP上应该是发展方向。

使用道具 举报

回复
论坛徽章:
1
2010新春纪念徽章
日期:2010-03-01 11:05:01
14#
发表于 2010-9-14 15:11 | 只看该作者
提到发展方向,个人认为列式数据库在今后的发展中,应该考虑以下几个方向:

1,分布式计算:可能和楼上提的分布式列式数据库类似,希望看到可能是分步走的过程,先做CPU上面的分布;再做主机层面的分布;最后是存储层面的分布。这样可以更大地打开计算能力的瓶颈。列式数据库的列式存储的优势配合上分布式计算的优势,应该是未来的一个大方向。至于说叫不叫云计算都不重要。
2,进一步的索引优化:可能以新的索引的方式,可能以索引对查询/分析的使用方式等
3,分久必合,合久必分,我想行式数据库必定会有压力去突破,等行式数据库也慢慢地接受列式数据库带来的的技术冲击,最终我们会发现行式和列式其实在某一个层面上并没有那么大的差别,会某种意义上再合并起来,共同解决数据存储/使用的问题。

使用道具 举报

回复
论坛徽章:
9
2011新春纪念徽章
日期:2011-02-18 11:43:34鲜花蛋
日期:2012-04-18 13:12:44
15#
发表于 2010-9-14 16:41 | 只看该作者
不懂来学习了。

使用道具 举报

回复
论坛徽章:
118
现任管理团队成员
日期:2011-05-07 01:45:08马上有钱
日期:2014-02-18 16:43:09马上有车
日期:2014-02-19 11:55:14马上有房
日期:2014-02-19 11:55:14马上有对象
日期:2014-02-19 11:55:14马上加薪
日期:2014-02-19 11:55:14ITPUB元老
日期:2014-03-05 22:46:57版主2段
日期:2014-03-27 02:21:00射手座
日期:2015-11-10 10:28:18
16#
发表于 2010-9-14 17:17 | 只看该作者
参与人的奖励已发!!
请大家注意查收哦
欢迎大家继续讨论

使用道具 举报

回复
论坛徽章:
13
生肖徽章2007版:虎
日期:2009-03-14 11:55:56ITPUB社区12周年站庆徽章
日期:2013-10-08 15:00:34灰彻蛋
日期:2013-03-16 23:13:202013年新春福章
日期:2013-02-25 14:51:24紫蛋头
日期:2013-01-23 13:48:22双黄蛋
日期:2011-07-30 15:08:322010年世界杯参赛球队:德国
日期:2010-05-11 21:28:202010年世界杯参赛球队:意大利
日期:2010-01-26 11:28:16生肖徽章2007版:兔
日期:2009-05-13 09:35:07生肖徽章2007版:鸡
日期:2009-04-08 19:14:38
17#
发表于 2010-9-14 22:03 | 只看该作者
原帖由 donethat_cu 于 2010-9-14 15:11 发表
提到发展方向,个人认为列式数据库在今后的发展中,应该考虑以下几个方向:

1,分布式计算:可能和楼上提的分布式列式数据库类似,希望看到可能是分步走的过程,先做CPU上面的分布;再做主机层面的分布;最后是存储层面的分布。这样可以更大地打开计算能力的瓶颈。列式数据库的列式存储的优势配合上分布式计算的优势,应该是未来的一个大方向。至于说叫不叫云计算都不重要。
2,进一步的索引优化:可能以新的索引的方式,可能以索引对查询/分析的使用方式等
3,分久必合,合久必分,我想行式数据库必定会有压力去突破,等行式数据库也慢慢地接受列式数据库带来的的技术冲击,最终我们会发现行式和列式其实在某一个层面上并没有那么大的差别,会某种意义上再合并起来,共同解决数据存储/使用的问题。


1,IQ是有MIQ的,存储共享,主机分离。就是你说的CPU,MEM分离了。具体请参考官方文档。

使用道具 举报

回复
论坛徽章:
407
紫蛋头
日期:2012-05-21 10:19:41迷宫蛋
日期:2012-06-06 16:02:49奥运会纪念徽章:足球
日期:2012-06-29 15:30:06奥运会纪念徽章:排球
日期:2012-07-10 21:24:24鲜花蛋
日期:2012-07-16 15:24:59奥运会纪念徽章:拳击
日期:2012-08-07 10:54:50奥运会纪念徽章:羽毛球
日期:2012-08-21 15:55:33奥运会纪念徽章:蹦床
日期:2012-08-21 21:09:51奥运会纪念徽章:篮球
日期:2012-08-24 10:29:11奥运会纪念徽章:体操
日期:2012-09-07 16:40:00
18#
发表于 2010-9-15 00:14 | 只看该作者
但不知道列式对单列主键能否压缩,比如
00000
00001
00002
。。。
99999
也有很多重复的

使用道具 举报

回复
论坛徽章:
26
ITPUB伯乐
日期:2012-05-22 15:05:35喜羊羊
日期:2015-05-14 12:15:30美羊羊
日期:2015-07-02 22:22:59秀才
日期:2015-08-24 09:51:48天枰座
日期:2015-11-05 16:53:35双鱼座
日期:2015-12-05 19:22:56巨蟹座
日期:2015-12-20 18:46:10摩羯座
日期:2016-05-19 09:54:17ITPUB15周年纪念
日期:2016-10-13 13:15:34秀才
日期:2017-02-22 15:16:26
19#
发表于 2010-9-15 10:47 | 只看该作者
學習了.沒看見這個討論的話 還不知道有這東西...

使用道具 举报

回复
论坛徽章:
10
2010新春纪念徽章
日期:2010-03-01 11:07:222011新春纪念徽章
日期:2011-02-18 11:43:342010广州亚运会纪念徽章:体操
日期:2011-02-12 21:46:492010广州亚运会纪念徽章:板球
日期:2011-01-19 09:25:182011新春纪念徽章
日期:2011-01-04 10:35:482010广州亚运会纪念徽章:曲棍球
日期:2010-12-06 10:59:282010广州亚运会纪念徽章:射击
日期:2010-11-22 15:34:042010广州亚运会纪念徽章:柔道
日期:2010-11-12 16:48:16ITPUB9周年纪念徽章
日期:2010-10-08 09:28:52ITPUB十周年纪念徽章
日期:2011-11-01 16:23:26
20#
发表于 2010-9-15 11:15 | 只看该作者
不了解列式数据库

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表