楼主: wu十三

[SQL] 40亿数据插入表中,怎么办。。。oracle

[复制链接]
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
31#
 楼主| 发表于 2016-1-25 14:07 | 只看该作者
atgc 发表于 2016-1-25 14:03
怎么会没发看呢?业务上数据是怎么样的,必须是知道的,否则怎么写代码啊

我刚差了一下表大约200G吧语句如下:
INSERT /*+append*/
    INTO IDC_DW_D_URL NOLOGGING
      SELECT/*+parallel(t,8)*/ t.acct_date,
             t.idc_url,
             t.houseid,
             SUM(t.upflow) up_flow,
             SUM(t.downflow) down_flow,
             t.city_id
        FROM idc_dw_h_url t
       WHERE t.acct_date = '20150930'
       GROUP BY t.acct_date, t.idc_url, t.houseid, t.city_id;

使用道具 举报

回复
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
32#
 楼主| 发表于 2016-1-25 14:08 | 只看该作者
tangyuxint 发表于 2016-1-25 14:06
所以先要把这表所在的表空间扩展到足够大才行

我怕数据库崩。。。

使用道具 举报

回复
论坛徽章:
115
生肖徽章:狗
日期:2007-01-06 21:14:12马上有车
日期:2014-03-06 16:45:08马上加薪
日期:2014-05-09 12:27:582014年世界杯参赛球队: 英格兰
日期:2014-07-03 13:10:44青年奥林匹克运动会-竞技体操
日期:2014-09-10 15:30:57马上有钱
日期:2014-10-31 13:56:48美羊羊
日期:2015-03-04 14:48:582015年新春福章
日期:2015-03-06 11:57:31懒羊羊
日期:2015-04-23 19:26:10金牛座
日期:2015-09-17 08:21:44
33#
发表于 2016-1-25 14:19 | 只看该作者
wu十三 发表于 2016-1-25 14:07
我刚差了一下表大约200G吧语句如下:
INSERT /*+append*/
    INTO IDC_DW_D_URL NOLOGGING

你的nologging没有意义
应该是这样
alter table  IDC_DW_D_UR nologging
insert /*+ append */ into
另外,你的一天的数据就有40亿行?

使用道具 举报

回复
论坛徽章:
407
紫蛋头
日期:2012-05-21 10:19:41迷宫蛋
日期:2012-06-06 16:02:49奥运会纪念徽章:足球
日期:2012-06-29 15:30:06奥运会纪念徽章:排球
日期:2012-07-10 21:24:24鲜花蛋
日期:2012-07-16 15:24:59奥运会纪念徽章:拳击
日期:2012-08-07 10:54:50奥运会纪念徽章:羽毛球
日期:2012-08-21 15:55:33奥运会纪念徽章:蹦床
日期:2012-08-21 21:09:51奥运会纪念徽章:篮球
日期:2012-08-24 10:29:11奥运会纪念徽章:体操
日期:2012-09-07 16:40:00
34#
发表于 2016-1-25 14:21 | 只看该作者
wu十三 发表于 2016-1-25 14:07
我刚差了一下表大约200G吧语句如下:
INSERT /*+append*/
    INTO IDC_DW_D_URL NOLOGGING

那就找个快的存储建立表空间,把目标表放在上面

使用道具 举报

回复
论坛徽章:
115
生肖徽章:狗
日期:2007-01-06 21:14:12马上有车
日期:2014-03-06 16:45:08马上加薪
日期:2014-05-09 12:27:582014年世界杯参赛球队: 英格兰
日期:2014-07-03 13:10:44青年奥林匹克运动会-竞技体操
日期:2014-09-10 15:30:57马上有钱
日期:2014-10-31 13:56:48美羊羊
日期:2015-03-04 14:48:582015年新春福章
日期:2015-03-06 11:57:31懒羊羊
日期:2015-04-23 19:26:10金牛座
日期:2015-09-17 08:21:44
35#
发表于 2016-1-25 14:28 | 只看该作者
wu十三 发表于 2016-1-25 14:07
我刚差了一下表大约200G吧语句如下:
INSERT /*+append*/
    INTO IDC_DW_D_URL NOLOGGING

WHERE t.acct_date = '20150930'
       GROUP BY t.acct_date, t.idc_url, t.houseid, t.city_id;
已经限定了某个日期
group by后的 t.acct_date是多余的了

使用道具 举报

回复
论坛徽章:
115
生肖徽章:狗
日期:2007-01-06 21:14:12马上有车
日期:2014-03-06 16:45:08马上加薪
日期:2014-05-09 12:27:582014年世界杯参赛球队: 英格兰
日期:2014-07-03 13:10:44青年奥林匹克运动会-竞技体操
日期:2014-09-10 15:30:57马上有钱
日期:2014-10-31 13:56:48美羊羊
日期:2015-03-04 14:48:582015年新春福章
日期:2015-03-06 11:57:31懒羊羊
日期:2015-04-23 19:26:10金牛座
日期:2015-09-17 08:21:44
36#
发表于 2016-1-25 14:29 | 只看该作者
首先你的表总共有几行,那个日期的有几行?

使用道具 举报

回复
论坛徽章:
10
射手座
日期:2015-11-23 14:22:242016猴年福章
日期:2016-02-18 09:31:30秀才
日期:2016-02-18 09:24:30双子座
日期:2016-01-27 10:10:49天枰座
日期:2016-01-13 16:00:59天枰座
日期:2016-01-13 15:48:12秀才
日期:2016-01-06 14:01:09天蝎座
日期:2015-11-25 16:11:14白羊座
日期:2015-11-24 10:35:21技术图书徽章
日期:2017-09-18 11:45:07
37#
发表于 2016-1-25 15:33 | 只看该作者
本帖最后由 隐剑埋名 于 2016-1-25 15:34 编辑
wu十三 发表于 2016-1-25 12:09
怎么分批,是使用游标每多少行插入并且commit吗?我试过这个,速度慢,插入10000行都慢,不知道怎么回事! ...

就是和你的差不多,把数据分成一天一天的查询插入,提交。换数据库不忙的时候做这种事情,临时表空间还不足的话,看能不能分更细的时间粒度插,一天200个G这么大呃。。

使用道具 举报

回复
论坛徽章:
484
ITPUB北京香山2007年会纪念徽章
日期:2007-01-24 14:35:02ITPUB北京九华山庄2008年会纪念徽章
日期:2008-01-21 16:50:24ITPUB北京2009年会纪念徽章
日期:2009-02-09 11:42:452010新春纪念徽章
日期:2010-03-01 11:04:552010数据库技术大会纪念徽章
日期:2010-05-13 10:04:272010系统架构师大会纪念
日期:2010-09-04 13:35:54ITPUB9周年纪念徽章
日期:2010-10-08 09:28:512011新春纪念徽章
日期:2011-02-18 11:43:32ITPUB十周年纪念徽章
日期:2011-11-01 16:19:412012新春纪念徽章
日期:2012-01-04 11:49:54
38#
发表于 2016-1-25 16:29 | 只看该作者
wu十三 发表于 2016-1-25 13:39
没有,目标表是我新建的,准备作为中间表的,结果中间表都没法做,头大了。。。

等了6个小时还没跑完?

使用道具 举报

回复
论坛徽章:
363
保时捷
日期:2013-12-24 15:30:59马上加薪
日期:2014-02-19 11:55:14问答徽章
日期:2014-03-06 10:39:57马上有房
日期:2014-03-10 13:52:02马上加薪
日期:2014-03-21 18:38:26 2014年世界杯参赛球队: 德国
日期:2014-05-29 13:25:39马上有车
日期:2015-01-21 13:38:54沸羊羊
日期:2015-03-04 14:43:432015年新春福章
日期:2015-03-06 11:57:312010数据库技术大会纪念徽章
日期:2015-04-23 10:33:19
39#
发表于 2016-1-25 16:38 | 只看该作者
抽的时候做成文本,sqlload或者外部表导入

使用道具 举报

回复
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
40#
 楼主| 发表于 2016-1-25 17:38 | 只看该作者
lastwinner 发表于 2016-1-25 16:29
等了6个小时还没跑完?

没有,一个小时我就够受的了

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表