ITPUB论坛-中国最专业的IT技术社区

 找回密码
 注册
查看: 23810|回复: 48

[名人堂] ITPUB名人堂第17期:专业MYSQL数据库DBA 金官丁分享数据库优化成功案例

[复制链接]
认证徽章
论坛徽章:
48
现任管理团队成员
日期:2012-10-18 17:10:46
发表于 2012-3-1 14:48 | 显示全部楼层 |阅读模式
ITPUB名人堂第17期:专业MYSQL数据库DBA 金官丁(ID:jinguanding)分享自己数据库优化成功案例

    本次采访我们邀请到了来自于五分钟网络科技DBA经理 金官丁先生分享自己的DBA职业经历,以及数据库优化实战经验分享,同时也欢迎更多的同行跟贴参与更多的讨论。

hwayw:
问题1、您先自我介绍一下?分享以下您的职业经历?您目前的从事的工作?
Jinguanding:
      大家好!我是金官丁,ITPUB网站ID:jinguanding,MySQL及其开源数据库版块的版主,新浪微博账号:mysqlops,早期主要是维护SQL Server数据库,后放弃微软的数据库产品,加入开源数据库MySQL阵容。很多人问我如何提高技术?个人感受最深的就是多逛ITPUB等社区,并且积极想办法还原社区朋友碰到问题的场景,从而找出问题发生的根本原因,再给出合理的解决方案,这样可以提高个人分析和解决问题的能力,同时也增加碰到各种错误的机会,从而会帮助我们在今后工作中,减少错误的发生。做一名扁鹊一样医术高明的DBA,一直是我所追求的。
     大学期间曾经对病毒的研发非常感兴趣,曾经研究过一段时间,并且写过一点小东西,但是终究发现自己不擅长,也不是非常适合作为职业道路走。大二暑假曾经写过一个即时通信的聊天系统,以及使用自学开发软件PowerBuild为企业开发MIS系统,最终还是喜欢数据库,并且被一句话打动:”一个国家信息化程度的高低,取决于数据库的大小”,为此觉得这个方向非常值得学习与适合自己从事的职业方向。大致职业经历:
     (1).大四第二个学期,也即2006年2月份初就带领一帮同学来上海找工作,一周之内顺利拿到3家公司的Offer,还有一家招聘DBA岗位的公司面试未通过,其中3家公司分别是医药系统研发、建筑行业软件研发、电力GIS系统研发,3家公司的待遇都基本上差不多,而且电力GIS系统研发公司没有专门负责数据库方面的技术人员,还可以额外承担此方面的工作,为此选择这家公司,不过使用的数据库产品是:SQL Server 、Oracle,为公司设计和部分实现通用的数据存储架构的解决方案,以及与同事合作编码完成了三套电力行业特有业务系统的通用解决方案。
     (2).待合同期满之后,积蓄也足够在上海生活一年以上,就决心离职寻找DBA岗位的工作。过去一年多的工作时间内,SQL Server的技术进步非常明显,Oracle能应付基本的工作需求,对MySQL也能进行日常的维护操作,同时考虑到Oracle DBA阵容中高手如云,而MySQL DBA的道路还未探明,尤其互联网行业使用MySQL数据库产品的市场前景非常广阔,于是决定优先做SQL  Server DBA的工作,同时也兼顾MySQL数据库技术的实践与学习,并且把MySQL数据库作为以后职业的方向,刚好游戏米果(上海)网络技术有限公司人事电话联系我,询问是否有意向换工作(此时我已经提出离职申请,只是因公司业务需要而未办理离职手续),记得还是在北京回上海的火车上,然后就这样顺利加入,并且为公司做了很多游戏数据库的设计和优化,游戏日志数据的分析工作,卡密生成与自动寄卖系统的设计与开发,充值消费和会员系统的改造等,可惜后来游戏米果因内部原因而致使公司解散。
     (3).因个人感情上因素而选择去杭州,并且优先与丁香园创始人面谈过,但是考虑到阿里巴巴能有更多的数据量与高负载挑战,而决定加入了阿里巴巴(内部称B2B)上市公司,这一年对我的挑战非常大,不仅是陌生的工作环境,高负荷的工作量,技术含金量的要求,更重要的是阿里巴巴内部技术人员抵制与不信任MySQL。首先,如何重建他们对MySQL数据库的信息非常关键;其次,改变开发人员做数据存取设计的习惯与给开发人员做技术培训和辅导;最后,通过大家合作完成一系列项目的研发和上线维护而进行经验累积和摸索,制定与实施一套完整的流程与规范;到我离开B2B DBA团队的时候,我们MySQL DBA团队建立起来了,上述三个目标也都非常顺利的完成,并且团队中还有培养起来非常优秀的同仁。
     现在上海五分钟网络科技有限公司工作,我们公司主业是社交游戏的研发与运营,最大难处就是如何解决大量用户同时在线,而导致的大量数据并发写入与更新。目前主要是负责整个公司数据层架构的设计和带领研发团队实现社交游戏行业的通用性解决方案,或称游戏引擎,游戏与充值消费等数据库的设计与维护,以及团队的管理、公司内部的培训、考核等管理性质工作。

hwayw:
问题2、您认为MySQL、SQL server,oracle这些数据库相比较,哪个有什么优势?您更看好哪种数据库?
Jinguanding:
MySQL数据库产品已经从互联网行业崭露头脚,到现在是占据互联网行业主导地位,几乎每家互联网行业的公司,都在使用MySQL作为其后端数据库提供数据服务,并且提供的数据服务越来越重要。同时,MySQL数据库产品也已经在通信领域的中国移动、中国联通等公司使用,以及电力行业的北方电网等等案例,这些案例说明MySQL数据库产品已经被企业和技术人员认同,也间接说明MySQL数据库产品的成熟度与解决方案的丰富多样,而且正逐渐渗透到其他各个领域;
Oracle数据库在互联网行业的市场占有率,已经受到MySQL等开源数据库产品大规模的冲击,其市场占有份额急剧下降,并且电信、银行、税务、通信、医药、电力等领域是其传统势力范围,并且部分领域也有MySQL成功进入的案例,不过增长势头不明显;
微软公司的SQL Server数据库产品主要是在中小型企业中,有着广泛的应用,尤其是传统的生产制造行业根深蒂固。SQL Server数据库的性能不错和功能完备,以及提供非常方便与简便的图形化操作界面,也降低很多企业对技术人员的能力要求,同时国内不少企业依然使用盗版的SQL Server数据库软件,为此短期内传统生产制造行业不太会轻易考虑数据库产品的更换迁移。

从公司角度出发,可以说甲骨文公司绝对会是现在与未来数据库市场上的大赢家,微软公司也会有自己的一席之地,只是可能市场占有率会被MySQL数据库产品冲击的越来越厉害,关于这点会在另外一篇文章<<甲骨文公司战略主导下 MySQL产品将走向何方>>中详细阐述,个人依然看好MySQL数据库产品在互联网行业,会取得越来越好的成绩,基于MySQL数据库的解决方案也会越来越丰富,并且MySQL数据库的技术与产品也会越来越完善、稳定、高效。

hwayw:
问题3、您一直专注MySQL数据库的研究,您在实际工作中,做的MySQL数据库性能优化方面最成功的例子是什么?您当初是如何来完成?
Jinguanding:
     “优化”一词的准确理解是平衡,也是我在不同场合一直说的:我们总是在一会平衡左手,一会又平衡右手,从中寻找最佳的平衡点,但是随着时间的推移和数据的增长,平衡点会发生变化,平衡也会越来越难,平衡的技巧也会不同。真正的优化应该是越早越好,并且从不同的方向进行合理综合的优化,借用自己去年年底华东技术大会PPT中的图片解答:      Untitled.jpg
     最成功的MySQL数据库优化案例,还真不知道选择哪个是最成功的,为此就选择一个涉及MySQL数据库产品JOIN连接算法和InnoDB统计信息缺陷的优化案例给大家分享,对大家也会比较有价值,也是一直强调重视        MySQL数据库结构设计与其他数据库产品的区别,案例描述信息:
    (1).阿里巴巴公司内部使用的Confluence系统;
   (2).Confluence系统是购买的商业软件,且几年都没有付给软件开发商维护费用,为此无法让开发商修改代码;
   (3).Confluence系统采用了Hibernate方式操作数据库,并且对出现在WHERE子句中的条件字段加了函数,主要是大小写转换的函数;
   (4).数据存储设计问题:几乎所有的数据都存储在一张数据库表中;
   (5).后台数据库为:MySQL,且MySQL不支持函数索引,数据库运行在普通的PC Server上,DELL 2950 8G内存,4块硬盘做的RAID1+0;
   (6).用户量为二万名左右的员工;
   (7).出现的问题:一张大表(大概2000KW多条记录,且含有TEXT大字段)与一张小表(2000条记录左右)需要进行JOIN连接查询操作,偶尔会走错执行计划,出现大表循环小表的情况,从而导致服务器的负载骤然升高,使整个系统的响应速度突然下降,而影响员工的工作效率;
解决办法:
     问题出现的根本原因是几乎所有的数据都存储在一张表中(简称A表),其对应的分类目录信息存在另外一张表中(简称B表),而SQL的查询条件字段加有函数而无法走索引,InnoDB存储引擎的统计信息有时会出现偏差,而导致优化器选择错误的执行计划,即用A表的数据循环B表,其中A表是普通索引,B表是主键索引,更加容易出现。同时,MySQL的JOIN连接算法只有嵌套循环算法,为此出现嵌套循环算法最坏的情况之一。最后通过分析和测试发现,B表的主键字段值是Confluence系统内部控制生成的,为此把B表的主键字段降级为普通索引字段,即可以规避优化器走错执行计划的问题,自从做此修改完成之后再也没有出现Confluence系统出现负载突然飓高的情况。

hwayw:
     问题4、现在的中小型企业都是使用MySQL,但还是有很多人认为MySQL数据库处理不了大数据,要存储大量数据库还是需要用ORACLE,您是否认同这样的观点?为什么?
Jinguanding:
     首先我们大家要阐述清楚一个概念,大数据的标准?若是如维基百科上所言:” 大数据(Big data)是通常用来形容一个公司创造的大量非结构化和半结构化数据,这些数据在下载到关系型数据库(relational database)用于分析时会花费过多时间和金钱。” ,那么MySQL和Oracle数据库产品都不适合,反而是NoSQL数据库产品锁擅长的领域,但是这些数据要从二个角度去理解:一是需要提供用户查询访问,二是用于数据建模分析。前者,我们大家可以考虑存在NoSQL或者MySQL数据库产品中,Oracle数据库产品并不适合,若是数据建模分析,那就是分布式计算的范畴,比如Hadoop非常适合。
    单台MySQL数据库能存储多大容量的数据,提供多少并发数据的服务,也跟其所运行的服务器硬件条件有关系,其本身的技术实现也有关。其实NoSQL、Oracle数据库产品也面临同样的问题,为此都不得不做一些数据拆分存储;若是使用Oracle数据库产品的话,多一个选择也即通过购买更多更贵的存储设备,或者购买更多的License,而采用MySQL数据库拆分存储的话,使用社区版本则为免费,使用企业版本的License费用相比较也低廉很多,为此MySQL和Oracle相比较的话,尤其大数据时代,前者更加有优势。
    最后再阐述一点,打消大家顾虑。我们现在业务数据垂直与水平拆分之后,有很多数据库表的数据量都是几千万,甚至上亿条数据,并且数据的更新和写入并发度非常高,但数据库的性能依然非常优越,关键是掌握MySQL的特性,从而知道如何使用与发挥MySQL的优势。

hwayw:
     问题5、现在有很多人认为:NoSQL才是未来数据库王道,您是否也认同这种观点,为什么?
Jinguanding:
     NoSQL数据库概念一传入国内的时候,技术圈内多数人还未明白NoSQL是何概念,就开始狂热盲目地追崇,然后大约2011年11月份开始,NoSQL数据库热运动开始退却,非常关键是大家已经明白了,何为NoSQL?NoSQL数据库适合那些应用场景?NoSQL数据库产品各自有那些优缺点,是否成熟?所以说NoSQL是未来数据库王道之说,是无法立足的,但是NoSQL数据库一定会有其一席之地。
     NoSQL数据库适合存储非结构化性数据,且企业具有大规模的数据量,也即至少T级别以上,并且这些非结构化数据源源不断地产生,同时企业又非常想通过对这些非结构化的数据进行分析,获得一定的商业或企业策略制定的参考价值,也即需要用到分布式计算的功能,所以此领域的Hadoop软件系统应用前景非常广阔,且提供了一套完整的解决方案。每一种NoSQL数据库产品能适应的业务场景不同,其能实现的技术方案也有千秋,产品的稳定性等都需要技术人员进行考究,否则就会出现忙碌使用,容易导致遍地踏雷开花而身亡。

嘉宾介绍:
     
社区ID: jinguanding       金官丁:ITPUB网站ID:jinguanding,MySQL及其开源数据库版块的版主,五分钟网络科技DBA经理,     正式从业DBA行当,始于MMORPG游戏领域,中途效力过电子商务领域,现又回到SNS游戏领域。工作及学习的内容,主要致力于数据库领域的设计、优化、高可用性、数据层架构、自动化等方面应用研究,以及极力推广开源领域的数据库及相关技术产品,现主要贡献于MySQL开源领域。




论坛徽章:
25
ITPUB伯乐
日期:2012-05-22 15:05:35懒羊羊
日期:2015-04-08 11:34:24喜羊羊
日期:2015-05-14 12:15:30美羊羊
日期:2015-07-02 22:22:59秀才
日期:2015-08-24 09:51:48天枰座
日期:2015-11-05 16:53:35双鱼座
日期:2015-12-05 19:22:56巨蟹座
日期:2015-12-20 18:46:10摩羯座
日期:2016-05-19 09:54:17ITPUB15周年纪念
日期:2016-10-13 13:15:34
发表于 2012-3-1 15:32 | 显示全部楼层
顶老金

使用道具 举报

回复
论坛徽章:
1088
金色在线徽章
日期:2007-04-25 04:02:08金色在线徽章
日期:2007-06-29 04:02:43金色在线徽章
日期:2007-03-11 04:02:02在线时间
日期:2007-04-11 04:01:02在线时间
日期:2007-04-12 04:01:02在线时间
日期:2007-03-07 04:01:022008版在线时间
日期:2010-05-01 00:01:152008版在线时间
日期:2011-05-01 00:01:342008版在线时间
日期:2008-06-03 11:59:43ITPUB年度最佳技术原创精华奖
日期:2013-03-22 13:18:30
发表于 2012-3-1 15:36 | 显示全部楼层
cow,学习

使用道具 举报

回复
论坛徽章:
25
ITPUB伯乐
日期:2012-05-22 15:05:35懒羊羊
日期:2015-04-08 11:34:24喜羊羊
日期:2015-05-14 12:15:30美羊羊
日期:2015-07-02 22:22:59秀才
日期:2015-08-24 09:51:48天枰座
日期:2015-11-05 16:53:35双鱼座
日期:2015-12-05 19:22:56巨蟹座
日期:2015-12-20 18:46:10摩羯座
日期:2016-05-19 09:54:17ITPUB15周年纪念
日期:2016-10-13 13:15:34
发表于 2012-3-1 15:40 | 显示全部楼层
我问个问题,Mysql安装在Linux等操作系统中,有些时候需要编译源码进行安装。而且我也稍微看了下姜老师的书,里面有用到很多的编码。那么是否意味着不懂那些编码就不能学好Mysql。这是我最大的疑问。
对于mysql的发展前景,觉得相当不错。

使用道具 举报

回复
认证徽章
论坛徽章:
175
现任管理团队成员
日期:2011-05-07 01:45:08版主7段
日期:2012-07-05 02:21:03ITPUB长老会成员
日期:2015-05-07 15:11:10ITPUB年度最佳版主
日期:2011-04-08 18:37:09ITPUB年度最佳版主
日期:2011-12-28 15:24:18ITPUB牛人
日期:2010-10-25 12:41:322010数据库技术大会纪念徽章
日期:2015-04-23 10:33:192011数据库大会纪念章
日期:2015-04-23 10:33:192012数据库大会纪念章
日期:2015-04-23 10:33:192013数据库大会纪念章
日期:2015-04-23 10:33:19
发表于 2012-3-1 15:48 | 显示全部楼层
学习,高级mysql dba稀缺物种啊 赞个

使用道具 举报

回复
论坛徽章:
25
ITPUB伯乐
日期:2012-05-22 15:05:35懒羊羊
日期:2015-04-08 11:34:24喜羊羊
日期:2015-05-14 12:15:30美羊羊
日期:2015-07-02 22:22:59秀才
日期:2015-08-24 09:51:48天枰座
日期:2015-11-05 16:53:35双鱼座
日期:2015-12-05 19:22:56巨蟹座
日期:2015-12-20 18:46:10摩羯座
日期:2016-05-19 09:54:17ITPUB15周年纪念
日期:2016-10-13 13:15:34
发表于 2012-3-1 15:49 | 显示全部楼层
本帖最后由 hwtong 于 2012-3-1 15:54 编辑

另外 对于新手学习Mysql,是否有什么好的建议?特别是不喜欢Linux等环境的

使用道具 举报

回复
认证徽章
论坛徽章:
9605
土豪章
日期:2013-12-31 14:11:39土豪章
日期:2013-12-31 14:11:39土豪章
日期:2013-12-31 14:11:39阿森纳
日期:2013-06-03 17:00:31阿森纳
日期:2013-10-11 09:27:58林肯
日期:2013-12-27 15:19:09法拉利
日期:2013-12-27 15:20:30法拉利
日期:2013-12-27 15:20:30法拉利
日期:2013-12-27 15:20:30法拉利
日期:2013-12-27 15:20:30
发表于 2012-3-1 15:56 | 显示全部楼层

使用道具 举报

回复
认证徽章
论坛徽章:
27
ITPUB季度 技术新星
日期:2012-08-15 14:50:13优秀写手
日期:2013-12-18 09:29:09嫦娥
日期:2013-03-04 09:47:05数据库板块每日发贴之星
日期:2011-09-11 01:01:01数据库板块每日发贴之星
日期:2011-09-09 01:01:01数据库板块每日发贴之星
日期:2011-09-08 01:01:01数据库板块每日发贴之星
日期:2011-09-10 01:01:02ITPUB十周年纪念徽章
日期:2011-11-01 16:26:59ITPUB 11周年纪念徽章
日期:2012-09-28 17:34:422013年新春福章
日期:2013-03-04 09:50:49
发表于 2012-3-1 16:17 | 显示全部楼层
dingjun123 发表于 2012-3-1 15:36
cow,学习

兔子哥,你认识金兄弟?

使用道具 举报

回复
论坛徽章:
171
ITPUB社区OCM联盟徽章
日期:2013-07-30 11:25:46最佳人气徽章
日期:2013-03-19 17:13:45ITPUB年度最佳技术原创精华奖
日期:2013-03-22 13:18:30ITPUB季度 技术新星
日期:2012-05-22 15:10:11BLOG每日发帖之星
日期:2012-02-15 16:43:07生肖徽章2007版:马
日期:2012-03-07 10:13:26蓝锆石
日期:2012-02-24 10:13:15萤石
日期:2012-02-24 10:13:15海蓝宝石
日期:2012-02-24 10:13:15紫水晶
日期:2012-03-01 21:28:36
发表于 2012-3-1 18:09 | 显示全部楼层
mysql的人才是少啊,支持

使用道具 举报

回复
论坛徽章:
19
授权会员
日期:2007-10-19 09:45:022013年新春福章
日期:2013-02-25 14:51:24奥运会纪念徽章:体操
日期:2012-10-09 16:13:522012新春纪念徽章
日期:2012-01-04 11:50:44SQL数据库编程大师
日期:2011-04-13 12:09:01SQL大赛参与纪念
日期:2011-04-13 12:08:172011新春纪念徽章
日期:2011-02-18 11:43:342009日食纪念
日期:2009-07-22 09:30:00奥运会纪念徽章:网球
日期:2008-07-01 09:01:50ITPUB新首页上线纪念徽章
日期:2007-10-20 08:38:44
发表于 2012-3-1 18:33 | 显示全部楼层
b2b抵制mysql,然后被你转变观念了?!

这个NB

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则

TOP技术积分榜 社区积分榜 徽章 电子杂志 团队 统计 虎吧 老博客 知识索引树 读书频道 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档 | IT博客
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛 | SAP ERP系统
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 网站律师 隐私政策 知识产权声明
京ICP备16024965号 北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表