楼主: yi_yin

[笔记] 求推荐 mysql 数据库快速导出方法

[复制链接]
论坛徽章:
8
ITPUB社区12周年站庆徽章
日期:2013-09-18 15:36:43ITPUB社区12周年站庆徽章
日期:2013-10-08 14:58:21福特
日期:2013-10-31 15:09:48问答徽章
日期:2013-11-05 10:55:11Jeep
日期:2013-11-13 14:13:49优秀写手
日期:2014-03-25 05:59:512014年世界杯参赛球队: 俄罗斯
日期:2014-07-24 16:18:03Jeep
日期:2014-08-13 14:52:33
11#
 楼主| 发表于 2014-4-23 10:06 | 只看该作者
最后采用mydumper

使用道具 举报

回复
论坛徽章:
3
懒羊羊
日期:2015-03-04 14:52:112015年新春福章
日期:2015-03-06 11:58:18蒙奇·D·路飞
日期:2017-09-21 11:23:37
12#
发表于 2014-4-23 17:38 | 只看该作者
yi_yin 发表于 2014-1-20 09:29
没办法  需求是这样 主要  在腾讯云上面的mysql 限制太多!

你腾讯云指的是云主机(CVM)还是你的MySQL本事就是用的腾讯CDB?
如果是自己买的CVM,应该可以自己安装Xrtabackup吧

如果直接买的CDB,直接找他们客服,让他们帮你解决吧,我觉得大部分dump应该不是问题吧,
dump出来后导入才是问题,而且你才区区2000W行数据而已

使用道具 举报

回复
论坛徽章:
8
ITPUB社区12周年站庆徽章
日期:2013-09-18 15:36:43ITPUB社区12周年站庆徽章
日期:2013-10-08 14:58:21福特
日期:2013-10-31 15:09:48问答徽章
日期:2013-11-05 10:55:11Jeep
日期:2013-11-13 14:13:49优秀写手
日期:2014-03-25 05:59:512014年世界杯参赛球队: 俄罗斯
日期:2014-07-24 16:18:03Jeep
日期:2014-08-13 14:52:33
13#
 楼主| 发表于 2014-4-23 17:45 | 只看该作者
lujinke 发表于 2014-4-23 17:38
你腾讯云指的是云主机(CVM)还是你的MySQL本事就是用的腾讯CDB?
如果是自己买的CVM,应该可以自己安装Xr ...

一看就是 使用过cdb的 兄弟;,我们是cdb,不能自己安装xtrabackup;
mysqldump 没有问题,这个是肯定可以导出  导入,2000w数据导出速度还凑合,导入 速度差别在1倍左右, 主要是我们需要导出的数据在50GB左右,这个mysqldump 导出 mysql source 导入综合速度就比较差了;
最后使用多线程的mydumper 速度能快很多,主要还是取决你的io

使用道具 举报

回复
论坛徽章:
3
懒羊羊
日期:2015-03-04 14:52:112015年新春福章
日期:2015-03-06 11:58:18蒙奇·D·路飞
日期:2017-09-21 11:23:37
14#
发表于 2014-4-23 18:53 | 只看该作者
本帖最后由 lujinke 于 2014-4-23 18:54 编辑
yi_yin 发表于 2014-4-23 17:45
一看就是 使用过cdb的 兄弟;,我们是cdb,不能自己安装xtrabackup;
mysqldump 没有问题,这个是肯定 ...

你要导出数据干嘛呢,他们那边每天都有全量冷备,也有主从备份
就算出现什么问题,也不需要你们自己来导入导出吧
mydumper确实可以用,但是结果不会好太多
而且是on your risk的

使用道具 举报

回复
论坛徽章:
8
ITPUB社区12周年站庆徽章
日期:2013-09-18 15:36:43ITPUB社区12周年站庆徽章
日期:2013-10-08 14:58:21福特
日期:2013-10-31 15:09:48问答徽章
日期:2013-11-05 10:55:11Jeep
日期:2013-11-13 14:13:49优秀写手
日期:2014-03-25 05:59:512014年世界杯参赛球队: 俄罗斯
日期:2014-07-24 16:18:03Jeep
日期:2014-08-13 14:52:33
15#
 楼主| 发表于 2014-4-24 09:41 | 只看该作者
lujinke 发表于 2014-4-23 18:53
你要导出数据干嘛呢,他们那边每天都有全量冷备,也有主从备份
就算出现什么问题,也不需要你们自己来导 ...

我的数据导出是给bi使用的,数据需要插入到其他cdb中,不同的公司需求不同,从cdb的安全角度说更本不需要我导出数据的。

使用道具 举报

回复
论坛徽章:
8
ITPUB社区12周年站庆徽章
日期:2013-09-18 15:36:43ITPUB社区12周年站庆徽章
日期:2013-10-08 14:58:21福特
日期:2013-10-31 15:09:48问答徽章
日期:2013-11-05 10:55:11Jeep
日期:2013-11-13 14:13:49优秀写手
日期:2014-03-25 05:59:512014年世界杯参赛球队: 俄罗斯
日期:2014-07-24 16:18:03Jeep
日期:2014-08-13 14:52:33
16#
 楼主| 发表于 2014-4-24 09:42 | 只看该作者
lujinke 发表于 2014-4-23 18:53
你要导出数据干嘛呢,他们那边每天都有全量冷备,也有主从备份
就算出现什么问题,也不需要你们自己来导 ...

从我测试下来mydumper导出  是有明显的速度提升, mysqldump 为单线程  mydumper  多线程

使用道具 举报

回复
论坛徽章:
3
懒羊羊
日期:2015-03-04 14:52:112015年新春福章
日期:2015-03-06 11:58:18蒙奇·D·路飞
日期:2017-09-21 11:23:37
17#
发表于 2014-4-24 12:12 | 只看该作者
yi_yin 发表于 2014-4-24 09:42
从我测试下来mydumper导出  是有明显的速度提升, mysqldump 为单线程  mydumper  多线程

导入提升不大

使用道具 举报

回复
论坛徽章:
8
ITPUB社区12周年站庆徽章
日期:2013-09-18 15:36:43ITPUB社区12周年站庆徽章
日期:2013-10-08 14:58:21福特
日期:2013-10-31 15:09:48问答徽章
日期:2013-11-05 10:55:11Jeep
日期:2013-11-13 14:13:49优秀写手
日期:2014-03-25 05:59:512014年世界杯参赛球队: 俄罗斯
日期:2014-07-24 16:18:03Jeep
日期:2014-08-13 14:52:33
18#
 楼主| 发表于 2014-4-24 13:18 | 只看该作者
lujinke 发表于 2014-4-24 12:12
导入提升不大

以前导入  3个多小时  现在 2个小时  虽然不是飞速 但是有提升,自己具体使用多对比就知道

使用道具 举报

回复
论坛徽章:
3
懒羊羊
日期:2015-03-04 14:52:112015年新春福章
日期:2015-03-06 11:58:18蒙奇·D·路飞
日期:2017-09-21 11:23:37
19#
发表于 2014-4-24 17:33 | 只看该作者
yi_yin 发表于 2014-4-24 13:18
以前导入  3个多小时  现在 2个小时  虽然不是飞速 但是有提升,自己具体使用多对比就知道

恩,差不多就是这样

使用道具 举报

回复
论坛徽章:
8
ITPUB社区12周年站庆徽章
日期:2013-09-18 15:36:43ITPUB社区12周年站庆徽章
日期:2013-10-08 14:58:21福特
日期:2013-10-31 15:09:48问答徽章
日期:2013-11-05 10:55:11Jeep
日期:2013-11-13 14:13:49优秀写手
日期:2014-03-25 05:59:512014年世界杯参赛球队: 俄罗斯
日期:2014-07-24 16:18:03Jeep
日期:2014-08-13 14:52:33
20#
 楼主| 发表于 2014-4-25 16:48 | 只看该作者
lujinke 发表于 2014-4-24 17:33
恩,差不多就是这样

哥们 你 不会是 腾讯的cdb吧

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表