楼主: arron刘

【话题讨论】NewSQL:引发SQL回归 融合NoSQL优势

[复制链接]
论坛徽章:
0
41#
发表于 2013-12-30 11:01 | 只看该作者
mark,暂不评论

使用道具 举报

回复
招聘 : 数据库管理员
论坛徽章:
10
奥运会纪念徽章:花样游泳
日期:2012-08-31 14:52:33马上加薪
日期:2014-02-18 16:48:492014年新春福章
日期:2014-02-18 16:48:49技术图书徽章
日期:2014-01-26 14:10:14技术图书徽章
日期:2014-01-24 10:24:36技术图书徽章
日期:2014-01-24 10:22:00优秀写手
日期:2013-12-18 09:29:09奥运会纪念徽章:击剑
日期:2012-08-17 10:42:57奥运会纪念徽章:击剑
日期:2012-07-27 14:58:55马上有房
日期:2014-03-25 09:38:43
42#
发表于 2013-12-30 11:31 | 只看该作者
谈一谈NewSQL, 说来汗颜了,一开始以为我们作的项目是一个伪NOSQL,没想到是NEWSQL。
大概说说我们项目,是一个交通车辆实时通信监控的项目,在某大省会城市几乎所有装有摄像头的路口或路段都会进行拍照和监控,大致的作用
是能在第一时间找到被通缉的车辆,和查找到在路上的每一辆车的通行轨迹。
原来使用ORACLE 在通行量不大时,加上数据只需保持3个月,压力还是可以勉强承受的,但是随着现在车辆高速增长,无法满足需求,
  我们开始把这一部分迁到大数据平台,上,使用HBASE记录数据,使用HDFS存储 图片 ,
   一开始简单的功能 实现没有问题 ,使用 SPRINGDATA的 框架对于 JAVA开发人员 来说 不是 很难。但是到了大数据量上一侧,发现没有做索引的HBASE 比ORACLE 还要慢,于是找索引方案 ,
    两种选择要么 使用自建 索引算法,像华为这样的大公司一样,自己做索引算法,同收下的码农一说
        都不高兴,平时除了敲些重复性的代码以外,多少年没有做算法了,
    另外一种方法,是使用hbase的coprocessor机制进行 查询的并行化和做些类似的索引的东西,这个总体说还行,总感觉每加一个字段都要该代码,代价太大了。
   
    后来我们开始尝试JDBC的方案 ,使用比较给力的SALEFORCE的一个 phoenix框架,还真管用,前端的代码无需大改,后端只需要更新JAR包就可,最主要封装了索引功能,索引数据几乎要占、1/3的region Server,不过只要性能上去了,就OK,非常好使,基本上可以满足需求,但是有个问题就是 开源,有BUG 得向 github上提 issue,还好该项目很活跃,几乎每天都有更新 。
   
   不知道我说的这些东西是不是 NEWSQL,
   但是基本上可以肯定,整个架构下来,可以利用SQL的特性与原有框架集成(不能进行复杂的JOIN和 一些嵌套查询),又可以利用hadoop计算平台。

  但是有几个问题我们也在思考(纯属个人瞎掰,不要当真)
   1.这样的架构是否同  CAP理论,相违背?
      我觉得不是,在使用的过程了确实有无法查询到最新数据的情况,但是这个对我们业务影响不大,只要最终一致性即可。CAP并不是绝对的,可以根据业务来确定,C 占多少%,P 又占多少。
   
    2.在做JDBC的SQL 解析,到NOSQL API的映射的消耗,
    这个相对于整个QUREY的消耗来说,真是微乎其微,还有些淘宝的哥们,在做分布式的类似NEWSQL,比较酷,不知道在生产上到了那一步。

   3. 觉得讨论NOSQL,SQL 相比讨论 NEWSQL 没有多少意义,在业务上的需求和团队的类型,自然而然的事,至于有多少理论基础,可以说一点也没有,所有大规模 吹嘘NEWSQL的人, 都是炒作罢了,不要当真!

使用道具 举报

回复
招聘 : 数据库管理员
论坛徽章:
99
技术图书徽章
日期:2014-03-27 09:30:56秀才
日期:2018-04-08 14:48:31
43#
发表于 2013-12-30 12:07 | 只看该作者
为什么首页要给重复显示????????

使用道具 举报

回复
论坛徽章:
24
技术图书徽章
日期:2013-08-16 14:31:52问答徽章
日期:2013-11-04 08:53:14目光如炬
日期:2013-12-23 06:00:11目光如炬
日期:2013-12-30 06:00:11明星写手
日期:2014-02-22 06:00:12马上有钱
日期:2014-03-31 14:09:05沸羊羊
日期:2015-05-20 12:42:59秀才
日期:2015-06-24 13:05:36秀才
日期:2015-07-13 09:48:14
44#
 楼主| 发表于 2013-12-30 12:48 | 只看该作者
szxiaocong 发表于 2013-12-30 12:07
为什么首页要给重复显示????????

发布的时候卡住了,出来了两个。嘿嘿

使用道具 举报

回复
论坛徽章:
24
技术图书徽章
日期:2013-08-16 14:31:52问答徽章
日期:2013-11-04 08:53:14目光如炬
日期:2013-12-23 06:00:11目光如炬
日期:2013-12-30 06:00:11明星写手
日期:2014-02-22 06:00:12马上有钱
日期:2014-03-31 14:09:05沸羊羊
日期:2015-05-20 12:42:59秀才
日期:2015-06-24 13:05:36秀才
日期:2015-07-13 09:48:14
45#
 楼主| 发表于 2013-12-30 12:49 | 只看该作者
jerry_xing8 发表于 2013-12-30 11:31
谈一谈NewSQL, 说来汗颜了,一开始以为我们作的项目是一个伪NOSQL,没想到是NEWSQL。
大概说说我们项目, ...

厉害     

使用道具 举报

回复
招聘 : 数据库管理员
论坛徽章:
99
技术图书徽章
日期:2014-03-27 09:30:56秀才
日期:2018-04-08 14:48:31
46#
发表于 2013-12-30 12:51 | 只看该作者
arron刘 发表于 2013-12-30 12:48
发布的时候卡住了,出来了两个。嘿嘿

是否程序考虑验证???
解决了比较好,呵呵

使用道具 举报

回复
论坛徽章:
4
2011新春纪念徽章
日期:2011-02-18 11:42:48奥迪
日期:2013-12-07 17:06:42优秀写手
日期:2013-12-18 09:29:09日产
日期:2014-01-15 14:18:32
47#
发表于 2013-12-30 13:27 | 只看该作者
arron刘 发表于 2013-12-26 13:00
恩。最大的可能是创造一个新的数据库系统。然后被ORACLE收购,重命名为oracle。。。

看来你对oracle情有独钟啊

使用道具 举报

回复
招聘 : 数据库管理员
论坛徽章:
10
奥运会纪念徽章:花样游泳
日期:2012-08-31 14:52:33马上加薪
日期:2014-02-18 16:48:492014年新春福章
日期:2014-02-18 16:48:49技术图书徽章
日期:2014-01-26 14:10:14技术图书徽章
日期:2014-01-24 10:24:36技术图书徽章
日期:2014-01-24 10:22:00优秀写手
日期:2013-12-18 09:29:09奥运会纪念徽章:击剑
日期:2012-08-17 10:42:57奥运会纪念徽章:击剑
日期:2012-07-27 14:58:55马上有房
日期:2014-03-25 09:38:43
48#
发表于 2013-12-30 13:58 | 只看该作者
arron刘 发表于 2013-12-30 12:49
厉害

关于 坛子中的,什么GOOGLE的 F1,什么到底是什么东西,NEWSQL 是什么东西,在理论上有什么创新?
就像原来关系数据库 规范化, 然后又倡导 反规范化,其实本质上没有变化,希望楼主们,可否把这些分析清楚?

使用道具 举报

回复
论坛徽章:
24
技术图书徽章
日期:2013-08-16 14:31:52问答徽章
日期:2013-11-04 08:53:14目光如炬
日期:2013-12-23 06:00:11目光如炬
日期:2013-12-30 06:00:11明星写手
日期:2014-02-22 06:00:12马上有钱
日期:2014-03-31 14:09:05沸羊羊
日期:2015-05-20 12:42:59秀才
日期:2015-06-24 13:05:36秀才
日期:2015-07-13 09:48:14
49#
 楼主| 发表于 2013-12-30 16:26 | 只看该作者
szxiaocong 发表于 2013-12-30 12:51
是否程序考虑验证???
解决了比较好,呵呵

其实就是一个很简单的发布系统。顿卡的时候点击两次就会出现这种情况。要是加入验证的话,就太麻烦啦。

使用道具 举报

回复
论坛徽章:
24
技术图书徽章
日期:2013-08-16 14:31:52问答徽章
日期:2013-11-04 08:53:14目光如炬
日期:2013-12-23 06:00:11目光如炬
日期:2013-12-30 06:00:11明星写手
日期:2014-02-22 06:00:12马上有钱
日期:2014-03-31 14:09:05沸羊羊
日期:2015-05-20 12:42:59秀才
日期:2015-06-24 13:05:36秀才
日期:2015-07-13 09:48:14
50#
 楼主| 发表于 2013-12-30 16:26 | 只看该作者
dajun539 发表于 2013-12-30 13:27
看来你对oracle情有独钟啊

哈哈。还是比较喜欢大一统啊

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表