12
返回列表 发新帖
楼主: 超级野人

偷偷问一个自己想不明白的问题(关于number类型的存储机制)

[复制链接]
论坛徽章:
0
11#
发表于 2008-5-27 12:39 | 只看该作者
两种类型的区别的确很惊人,谢谢晶晶小妹的示例

使用道具 举报

回复
论坛徽章:
1
会员2006贡献徽章
日期:2006-04-17 13:46:34
12#
 楼主| 发表于 2008-7-13 11:18 | 只看该作者
这段时间自己查了一些资料,得出一个解释:oracle之所以不按照2进制来存储,是因为对于整数来说,使用2进制来存储一点问题都没有,但是对于小书来说,就存在问题了,比如说0.6,如果使用2进制来存储的话,是无穷无尽循环的数,在有限的空间里是无法准确地表示这个数的。因此说,为了准确地表示数字,必须要按照10进制的方式来存储!

使用道具 举报

回复
论坛徽章:
47
蒙奇·D·路飞
日期:2017-03-27 08:04:23马上有车
日期:2014-02-18 16:41:112014年新春福章
日期:2014-02-18 16:41:11一汽
日期:2013-09-01 20:46:27复活蛋
日期:2013-03-13 07:55:232013年新春福章
日期:2013-02-25 14:51:24ITPUB 11周年纪念徽章
日期:2012-10-09 18:03:322012新春纪念徽章
日期:2012-02-13 15:13:202012新春纪念徽章
日期:2012-02-13 15:13:202012新春纪念徽章
日期:2012-02-13 15:13:20
13#
发表于 2008-7-13 21:47 | 只看该作者
原帖由 超级野人 于 2008-7-12 21:18 发表
这段时间自己查了一些资料,得出一个解释:oracle之所以不按照2进制来存储,是因为对于整数来说,使用2进制来存储一点问题都没有,但是对于小书来说,就存在问题了,比如说0.6,如果使用2进制来存储的话,是无穷无尽循环的数,在有限的空间里是无法准确地表示这个数的。因此说,为了准确地表示数字,必须要按照10进制的方式来存储!


Can you show us the reference to support this? Thanks.

Yong Huang

使用道具 举报

回复
论坛徽章:
1
会员2006贡献徽章
日期:2006-04-17 13:46:34
14#
 楼主| 发表于 2008-7-14 20:16 | 只看该作者
0.6的2进制表示为0.10011001100110011001100110011。。。。。。。。。。。。。。。。无限循环,无穷无尽!!!!!!

使用道具 举报

回复
论坛徽章:
14
2009新春纪念徽章
日期:2009-01-04 14:52:28沸羊羊
日期:2015-03-04 14:51:52优秀写手
日期:2014-03-14 06:00:13马上有房
日期:2014-02-18 16:42:022014年新春福章
日期:2014-02-18 16:42:022013年新春福章
日期:2013-02-25 14:51:24ITPUB 11周年纪念徽章
日期:2012-10-09 18:08:15蜘蛛蛋
日期:2012-06-27 21:08:142012新春纪念徽章
日期:2012-01-04 11:53:29ITPUB十周年纪念徽章
日期:2011-11-01 16:23:26
15#
发表于 2008-7-31 11:57 | 只看该作者
原帖由 Yong Huang 于 2008-5-10 01:29 发表
晶晶小妹, do you have performance comparison between number and binary_float, binary_double? Thanks.

Yong Huang

ORACLE内部是压缩十进制类型,做财会方面精度高。如果在内存完全用十进制,速度的确非常慢。
如果到内存对应成整形、浮点,速度就不慢了,(四舍五入)精度也没了。
对应整形还存在一个问题,数值范围可能溢出。

使用道具 举报

回复
论坛徽章:
2
祖国60周年纪念徽章
日期:2009-10-09 08:28:00秀才
日期:2016-11-09 14:46:36
16#
发表于 2008-11-13 20:31 | 只看该作者
学习!学习!

使用道具 举报

回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

TOP技术积分榜 社区积分榜 徽章 团队 统计 知识索引树 积分竞拍 文本模式 帮助
  ITPUB首页 | ITPUB论坛 | 数据库技术 | 企业信息化 | 开发技术 | 微软技术 | 软件工程与项目管理 | IBM技术园地 | 行业纵向讨论 | IT招聘 | IT文档
  ChinaUnix | ChinaUnix博客 | ChinaUnix论坛
CopyRight 1999-2011 itpub.net All Right Reserved. 北京盛拓优讯信息技术有限公司版权所有 联系我们 未成年人举报专区 
京ICP备16024965号-8  北京市公安局海淀分局网监中心备案编号:11010802021510 广播电视节目制作经营许可证:编号(京)字第1149号
  
快速回复 返回顶部 返回列表