查看: 5869|回复: 11

DB2千万或亿级的数据如何存储性能才最好?

[复制链接]
论坛徽章:
1
2012新春纪念徽章
日期:2012-01-04 11:53:29
跳转到指定楼层
1#
发表于 2009-6-19 09:52 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
有几张表的数据量比较大,现近一亿,需要和一个几十万的小表做merge,现在发现性能特别差,甚至执行不出来。这些大表如何存储或者其他方式,可以提升性能?现在已经在用的列上建了索引,还没有找到合适的分区方式。
论坛徽章:
0
2#
发表于 2009-6-19 10:31 | 只看该作者
这么大的表不建分区恐怕是很难操作的,把索引和表数据建在分别的表空间吧,可以提高读写效率

使用道具 举报

回复
论坛徽章:
1
2012新春纪念徽章
日期:2012-01-04 11:53:29
3#
 楼主| 发表于 2009-6-19 11:03 | 只看该作者
现在是不知道用哪些键做分区,用到的键都比较多而且散,也不好做分区。另外,DB2 LUW可以做分区索引吗?

使用道具 举报

回复
论坛徽章:
5
2009日食纪念
日期:2009-07-22 09:30:00祖国60周年纪念徽章
日期:2009-10-09 08:28:002010新春纪念徽章
日期:2010-01-04 08:33:082010新春纪念徽章
日期:2010-03-01 11:08:29ITPUB十周年纪念徽章
日期:2011-11-01 16:24:04
4#
发表于 2009-6-19 12:36 | 只看该作者
分区键在主键里面选一个散列较好的就可以了

上亿的数据是比较慢,sql优化下,时间应该还是在可以忍受的氛围内

使用道具 举报

回复
论坛徽章:
233
天枰座
日期:2016-02-02 09:36:332012新春纪念徽章
日期:2012-01-04 11:49:54ITPUB十周年纪念徽章
日期:2011-11-01 16:19:41灰彻蛋
日期:2011-06-22 19:28:30现任管理团队成员
日期:2011-05-07 01:45:082010广州亚运会纪念徽章:拳击
日期:2011-04-08 16:56:552011新春纪念徽章
日期:2011-02-18 11:43:332011新春纪念徽章
日期:2011-01-25 15:42:562011新春纪念徽章
日期:2011-01-25 15:42:332011新春纪念徽章
日期:2011-01-25 15:42:15
5#
发表于 2009-6-19 14:07 | 只看该作者
上亿应该还可以啦

使用道具 举报

回复
论坛徽章:
1
2012新春纪念徽章
日期:2012-01-04 11:53:29
6#
 楼主| 发表于 2009-6-19 14:17 | 只看该作者
这方面各位有什么经验,可以分享一下吗?

使用道具 举报

回复
论坛徽章:
18
ITPUB新首页上线纪念徽章
日期:2007-10-20 08:38:44马上有对象
日期:2014-02-19 11:55:14马上有钱
日期:2014-02-19 11:55:14马上有房
日期:2014-02-19 11:55:14马上有车
日期:2014-02-19 11:55:142012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:52
7#
发表于 2009-6-20 07:53 | 只看该作者
原帖由 cuixuezheng 于 19/6/2009 16:17 发表
这方面各位有什么经验,可以分享一下吗?


通常这些大表都通过一定逻辑来组织的。比如时间,地域等等。另外找query条件中共同用到的column,再考虑cardinality对storage的影响。综合后考虑用table partitioning(v9.1或以上)+ MDC (V8.1或以上)。建议你看看IBM网站上的db2 best practice文章。

不过使用以上feature时需考虑是否有外键以用到这个partition了的table。如果外键是enforced的,那就会有可能产生很多NW LOCK,影响insert的性能。这个是IBM infor center以及Best practice不会告诉你的。必须看technote以及PMR。”血“的教训啊。

使用道具 举报

回复
论坛徽章:
233
天枰座
日期:2016-02-02 09:36:332012新春纪念徽章
日期:2012-01-04 11:49:54ITPUB十周年纪念徽章
日期:2011-11-01 16:19:41灰彻蛋
日期:2011-06-22 19:28:30现任管理团队成员
日期:2011-05-07 01:45:082010广州亚运会纪念徽章:拳击
日期:2011-04-08 16:56:552011新春纪念徽章
日期:2011-02-18 11:43:332011新春纪念徽章
日期:2011-01-25 15:42:562011新春纪念徽章
日期:2011-01-25 15:42:332011新春纪念徽章
日期:2011-01-25 15:42:15
8#
发表于 2009-6-20 12:57 | 只看该作者
LS的,什么时候来上海

使用道具 举报

回复
论坛徽章:
71
马上加薪
日期:2014-02-19 11:55:14ITPUB十周年纪念徽章
日期:2011-11-01 16:19:412010广州亚运会纪念徽章:橄榄球
日期:2011-05-22 10:54:33管理团队成员
日期:2011-05-07 01:45:082011新春纪念徽章
日期:2011-01-25 15:42:562011新春纪念徽章
日期:2011-01-25 15:42:332011新春纪念徽章
日期:2011-01-25 15:42:152011新春纪念徽章
日期:2011-01-25 15:41:502011新春纪念徽章
日期:2011-01-25 15:41:012010年世界杯参赛球队:丹麦
日期:2010-04-06 10:23:36
9#
发表于 2009-6-20 22:16 | 只看该作者
原帖由 unixnewbie 于 2009-6-20 07:53 发表


通常这些大表都通过一定逻辑来组织的。比如时间,地域等等。另外找query条件中共同用到的column,再考虑cardinality对storage的影响。综合后考虑用table partitioning(v9.1或以上)+ MDC (V8.1或以上)。建议你看看IBM网站上的db2 best practice文章。

不过使用以上feature时需考虑是否有外键以用到这个partition了的table。如果外键是enforced的,那就会有可能产生很多NW LOCK,影响insert的性能。这个是IBM infor center以及Best practice不会告诉你的。必须看technote以及PMR。”血“的教训啊。


我记得我在dw系统里面用partition+mqt的时候,也碰到这个问题...

[ 本帖最后由 bpmfhu 于 2009-6-20 22:22 编辑 ]

使用道具 举报

回复
论坛徽章:
18
ITPUB新首页上线纪念徽章
日期:2007-10-20 08:38:44马上有对象
日期:2014-02-19 11:55:14马上有钱
日期:2014-02-19 11:55:14马上有房
日期:2014-02-19 11:55:14马上有车
日期:2014-02-19 11:55:142012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:522012新春纪念徽章
日期:2012-02-13 15:09:52
10#
发表于 2009-6-23 11:13 | 只看该作者
原帖由 diablo2 于 20/6/2009 14:57 发表
LS的,什么时候来上海


您老又不在上海,我去为何

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表