楼主: wu十三

[SQL] 40亿数据插入表中,怎么办。。。oracle

[复制链接]
论坛徽章:
8
马上有房
日期:2014-10-17 16:12:52优秀写手
日期:2014-12-06 06:00:14暖羊羊
日期:2015-03-04 14:54:572015年新春福章
日期:2015-03-06 11:59:47目光如炬
日期:2015-06-07 22:00:00秀才
日期:2015-07-14 09:44:30秀才
日期:2015-11-23 09:48:22狮子座
日期:2016-01-25 13:38:55
11#
发表于 2016-1-25 12:21 | 只看该作者
wu十三 发表于 2016-1-25 12:07
源数据是一个表,我根据另一个表的字段抽数据,抽到另一个表,但是数据有45亿

抽取的语句性能是不是存在问题额?如果效率OK的话,跑45亿数据应该也快的,也有可能是你要插入的表空间不够,每次插入一点后,发现空间不足,然后等待系统后台自动扩展,然后插入一些后,又自动扩展,然后就变成插入一会,扩展一会,插入一会,扩展一会。。会不会是这个原因?

使用道具 举报

回复
论坛徽章:
70
夏利
日期:2013-09-29 21:02:15天蝎座
日期:2016-03-08 22:25:51嫦娥
日期:2014-03-04 16:46:45ITPUB年度最佳技术原创精华奖
日期:2014-03-04 16:19:29马上加薪
日期:2014-02-19 11:55:14马上有对象
日期:2014-02-19 11:55:14马上有钱
日期:2014-02-19 11:55:14马上有房
日期:2014-02-19 11:55:14马上有车
日期:2014-02-19 11:55:14马上有车
日期:2014-02-18 16:41:11
12#
发表于 2016-1-25 12:23 | 只看该作者
并行、Append,就慢慢插呗,注意归档空间和UNDO空间。

怎么,插入过程报错了吗?

使用道具 举报

回复
论坛徽章:
115
生肖徽章:狗
日期:2007-01-06 21:14:12马上有车
日期:2014-03-06 16:45:08马上加薪
日期:2014-05-09 12:27:582014年世界杯参赛球队: 英格兰
日期:2014-07-03 13:10:44青年奥林匹克运动会-竞技体操
日期:2014-09-10 15:30:57马上有钱
日期:2014-10-31 13:56:48美羊羊
日期:2015-03-04 14:48:582015年新春福章
日期:2015-03-06 11:57:31懒羊羊
日期:2015-04-23 19:26:10金牛座
日期:2015-09-17 08:21:44
13#
发表于 2016-1-25 12:45 | 只看该作者
平均行长多少啊?
目标表如果有索引,就杯具了

使用道具 举报

回复
求职 : 数据库开发
论坛徽章:
41
2017金鸡报晓
日期:2017-02-08 14:09:13秀才
日期:2016-01-13 12:14:26秀才
日期:2016-01-12 11:23:27金牛座
日期:2016-01-03 20:58:56秀才
日期:2015-12-21 09:53:46秀才
日期:2015-12-21 09:48:11秀才
日期:2015-12-18 09:28:57秀才
日期:2015-12-14 15:02:13秀才
日期:2015-11-23 09:48:22秀才
日期:2016-01-21 13:37:04
14#
发表于 2016-1-25 13:08 | 只看该作者
ETL工具吧

使用道具 举报

回复
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
15#
 楼主| 发表于 2016-1-25 13:37 | 只看该作者
vage 发表于 2016-1-25 12:23
并行、Append,就慢慢插呗,注意归档空间和UNDO空间。

怎么,插入过程报错了吗?

恩呢,报错的是temp空间不足

使用道具 举报

回复
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
16#
 楼主| 发表于 2016-1-25 13:39 | 只看该作者
atgc 发表于 2016-1-25 12:45
平均行长多少啊?
目标表如果有索引,就杯具了

没有,目标表是我新建的,准备作为中间表的,结果中间表都没法做,头大了。。。

使用道具 举报

回复
论坛徽章:
115
生肖徽章:狗
日期:2007-01-06 21:14:12马上有车
日期:2014-03-06 16:45:08马上加薪
日期:2014-05-09 12:27:582014年世界杯参赛球队: 英格兰
日期:2014-07-03 13:10:44青年奥林匹克运动会-竞技体操
日期:2014-09-10 15:30:57马上有钱
日期:2014-10-31 13:56:48美羊羊
日期:2015-03-04 14:48:582015年新春福章
日期:2015-03-06 11:57:31懒羊羊
日期:2015-04-23 19:26:10金牛座
日期:2015-09-17 08:21:44
17#
发表于 2016-1-25 13:41 | 只看该作者
wu十三 发表于 2016-1-25 13:39
没有,目标表是我新建的,准备作为中间表的,结果中间表都没法做,头大了。。。

不能只看记录数啊,还要看行长,平均行长,才能算出要写入多少字节
假设你的表只有一个字段,这个字段只有一个字节,那么才4G数据啊

使用道具 举报

回复
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
18#
 楼主| 发表于 2016-1-25 13:42 | 只看该作者
tangyuxint 发表于 2016-1-25 12:21
抽取的语句性能是不是存在问题额?如果效率OK的话,跑45亿数据应该也快的,也有可能是你要插入的表空间不 ...

抽取的语句没有问题的,可能是你说的那个原因吧,就是感觉很慢,然后执行一个多小时后告诉你temp空间不足,我猜的是因为数据量大,oracle空间不太足,没法一下缓存那么多数据,其实还是可以做的,所以我决定给他分开处理,但是用分批处理不知道怎么做,毕竟数据量这么大。

使用道具 举报

回复
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
19#
 楼主| 发表于 2016-1-25 13:45 | 只看该作者
atgc 发表于 2016-1-25 13:41
不能只看记录数啊,还要看行长,平均行长,才能算出要写入多少字节
假设你的表只有一个字段,这个字段只 ...

我建的表只有5个字段。。。

使用道具 举报

回复
论坛徽章:
1
秀才
日期:2015-12-21 09:48:11
20#
 楼主| 发表于 2016-1-25 13:46 | 只看该作者
atgc 发表于 2016-1-25 13:41
不能只看记录数啊,还要看行长,平均行长,才能算出要写入多少字节
假设你的表只有一个字段,这个字段只 ...

我建的表只有5个字段。。。

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表