楼主: pipihappy8888

【大话IT】小米双11:海量推送业务如何应对高并发负载?

[复制链接]
论坛徽章:
1
ITPUB社区OCM联盟徽章
日期:2014-11-17 13:33:27
21#
发表于 2014-11-18 17:51 | 只看该作者
每分钟事务数,至少是67W,如果应用复杂的话,可能更高...
如果是正常跑,也算是比较高的了,至少要求8U10核.
如果全在内存中跑,那就不算什么了,8U10核,oracle的tpc-c测试,是505W
http://www.tpc.org/tpcc/results/ ... il.asp?id=112032701
小米的数据,会内存放不下么?
那就不清楚了

使用道具 举报

回复
论坛徽章:
0
22#
发表于 2014-11-18 22:20 | 只看该作者
平均每分钟发送67万条,190TPS,有什么值得说得

使用道具 举报

回复
论坛徽章:
0
23#
发表于 2014-11-18 22:24 | 只看该作者
pure_lotus 发表于 2014-11-18 10:32
就是订单挤一点嘛,支付一般都可以延迟一天的。
纯粹的订单数据,就是个产品代号、数量加上一些用户编号。

算错了,1万TPS才对

使用道具 举报

回复
求职 : 数据库管理员
论坛徽章:
21
ITPUB十周年纪念徽章
日期:2013-06-18 22:48:19马上有房
日期:2014-02-18 16:42:022014年新春福章
日期:2014-02-18 16:42:02优秀写手
日期:2013-12-18 09:29:12林肯
日期:2013-10-31 18:06:48奥迪
日期:2013-09-12 15:57:04ITPUB社区12周年站庆徽章
日期:2013-08-20 11:30:11蛋疼蛋
日期:2013-06-17 14:35:03ITPUB社区千里马徽章
日期:2013-06-09 10:15:342013年新春福章
日期:2013-05-27 10:23:00
24#
发表于 2014-11-19 08:59 | 只看该作者
1.小米推送服务的服务器端在数据存储上用到了哪些数据库?
     核心数据库肯定是关系数据库RDBMS了,例如支付业务要求强一致性的地方必须用RDBMS,边缘应用,如推送服务等估计用NOSQL类的效率来得高。

2.面对双十一大促,小米的推送消息量剧增,那小米推送(MiPush)服务到底是如何应对这种高并发负载的呢?稳定性又是如何保证的呢?采取了哪些应对方法?比如扩容、异步排队?
     感觉推送的话,不是什么大的问题,MQ产品现在都比较稳定,都能最短时间推送,因为没有数据交互,推送肯定比较平稳和快速的的

3.小米推送服务的软件系统经历了两次重构,一是将开发语言从Erlang转为了Java,请问这有什么好处?而是对调用频繁的业务添加Cache,请发挥您的想象谈谈Cache的实际应用。
        缓存能够快速将内存里的信息发送给客户端,而不是从磁盘去取数据,这样避免了IO和CPU等性能损失,提高了效率,至于缓存算法,根据不同的业务进行不同的规划。
       现在的中间件,WEB应用,还是DB基本上都有缓存,每层都有缓存,缓存让性能提升了不少,但是缓存还是会带来一些其他问题,如脏数据等。。。

4.安全性也是小米推送服务重点考虑的一个因素,小米在推送服务中是如何确保安全新的呢?
         安卓这块不太懂,web的话,小米也没有走https协议,估计是其它安全保证把,求分享


使用道具 举报

回复
论坛徽章:
27
优秀写手
日期:2013-12-18 09:29:09ITPUB季度 技术新星
日期:2012-08-15 14:50:13嫦娥
日期:2013-03-04 09:47:05数据库板块每日发贴之星
日期:2011-09-08 01:01:01数据库板块每日发贴之星
日期:2011-09-11 01:01:01数据库板块每日发贴之星
日期:2011-09-10 01:01:02数据库板块每日发贴之星
日期:2011-09-09 01:01:01ITPUB十周年纪念徽章
日期:2011-11-01 16:26:59ITPUB 11周年纪念徽章
日期:2012-09-28 17:34:422013年新春福章
日期:2013-03-04 09:50:49
25#
发表于 2014-11-19 11:29 | 只看该作者
aio_o_ 发表于 2014-11-18 18:51
每分钟事务数,至少是67W,如果应用复杂的话,可能更高...
如果是正常跑,也算是比较高的了,至少要求8U10 ...

小米肯定不会用oracle的。

使用道具 举报

回复
论坛徽章:
27
优秀写手
日期:2013-12-18 09:29:09ITPUB季度 技术新星
日期:2012-08-15 14:50:13嫦娥
日期:2013-03-04 09:47:05数据库板块每日发贴之星
日期:2011-09-08 01:01:01数据库板块每日发贴之星
日期:2011-09-11 01:01:01数据库板块每日发贴之星
日期:2011-09-10 01:01:02数据库板块每日发贴之星
日期:2011-09-09 01:01:01ITPUB十周年纪念徽章
日期:2011-11-01 16:26:59ITPUB 11周年纪念徽章
日期:2012-09-28 17:34:422013年新春福章
日期:2013-03-04 09:50:49
26#
发表于 2014-11-19 13:59 | 只看该作者
assembly 发表于 2014-11-18 23:20
平均每分钟发送67万条,190TPS,有什么值得说得

TPS不是190而是11170啊。

使用道具 举报

回复
论坛徽章:
0
27#
发表于 2014-11-19 14:54 | 只看该作者

使用道具 举报

回复
论坛徽章:
127
茶鸡蛋
日期:2012-01-16 14:24:41鲜花蛋
日期:2012-06-06 14:48:18双黄蛋
日期:2013-01-07 21:07:482013年新春福章
日期:2013-02-25 14:51:24优秀写手
日期:2013-12-18 09:29:082014年新春福章
日期:2014-02-18 16:44:08马上有对象
日期:2014-02-18 16:44:08马上加薪
日期:2014-03-18 09:57:11马上有车
日期:2014-03-20 16:13:24马上有房
日期:2014-03-20 16:14:11
28#
 楼主| 发表于 2014-11-19 16:13 | 只看该作者
jieforest 发表于 2014-11-17 22:57
聊聊吧。

1.小米推送服务的服务器端在数据存储上用到了哪些数据库?

一般是基于XMPP实现消息推送。集群、负载均衡这些技术是少不了的。这个能否延展下啊?

使用道具 举报

回复
论坛徽章:
127
茶鸡蛋
日期:2012-01-16 14:24:41鲜花蛋
日期:2012-06-06 14:48:18双黄蛋
日期:2013-01-07 21:07:482013年新春福章
日期:2013-02-25 14:51:24优秀写手
日期:2013-12-18 09:29:082014年新春福章
日期:2014-02-18 16:44:08马上有对象
日期:2014-02-18 16:44:08马上加薪
日期:2014-03-18 09:57:11马上有车
日期:2014-03-20 16:13:24马上有房
日期:2014-03-20 16:14:11
29#
 楼主| 发表于 2014-11-19 16:31 | 只看该作者
mchdba 发表于 2014-11-18 17:08
1.小米推送服务的服务器端在数据存储上用到了哪些数据库?
   我觉得也应该是MongoDB或者Redis的。

数据存储,这里采用了小米的统一HBase存储,同时还使用MySQL来保存一些量不大,但需要复杂过滤条件的数据(topic等),并且为了降低对HBase的压力,中间还加了一层Redis作为缓存。

使用道具 举报

回复
论坛徽章:
127
茶鸡蛋
日期:2012-01-16 14:24:41鲜花蛋
日期:2012-06-06 14:48:18双黄蛋
日期:2013-01-07 21:07:482013年新春福章
日期:2013-02-25 14:51:24优秀写手
日期:2013-12-18 09:29:082014年新春福章
日期:2014-02-18 16:44:08马上有对象
日期:2014-02-18 16:44:08马上加薪
日期:2014-03-18 09:57:11马上有车
日期:2014-03-20 16:13:24马上有房
日期:2014-03-20 16:14:11
30#
 楼主| 发表于 2014-11-19 16:32 | 只看该作者
diashad 发表于 2014-11-19 08:18
1.小米推送服务的服务器端在数据存储上用到了哪些数据库?     关系型数据库在互联网上没有其优势,在关系型 ...

安全性也是小米推送服务重点考虑的一个因素。数据传输过程中,得益于推送服务采用的双层协议方案,消息会采取双重加密,第一重是XMPP传输层,保证数据在网络传输的过程中不会被篡改、监听。第二重是在Thrift二进制层,用以保证消息到达Service之后,通过broadcast发送给App进程的过程中不会被截获和伪造。第二重加密往往会被其它第三方推送服务忽略,但其风险同样很大。

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表