再说oracle的float类型

noeye

以前记得遇到过类似的问题。即ORACLE建立了float字段，后来出了莫名其妙的错误。



这次又遇到了，雷人的。我被害惨了，以后谁要在ORACLE里用float类型，我就跟他拼命。



把原理写在这里，供以后查询,我专门在ORACLE里做了个实验，把脚本贴在这里。



Oracle Online Help 说：
FLOAT(b) specifies a floating-point number with binary precision b. The precision b can range from 1 to 126. To convert from binary to decimal precision, multiply b by 0.30103.  

意思是说oracle 的float类型，是按二进制来算的精度,其中精度范围为二进制的1到126,在转化为我们常说的进十进制是，需要Ｘ以0.30103



注意它说的是binary pricision而不是decimal precision
你指定3，按照换算公式 INT(3*0.30103)=0，所以小数点后精度为0。
如果需要精度为3，b = CEIL(3 / 0.30103) = 10。

另外。根据我实际测试，ORACLE说的这个精度，还是包含了整数的。

示例脚本：


drop table testdatatype;
--verify the  floating-point number with binary precision
create table testdatatype(
id number(4),
a float(3),  --1/0.30103
b float(4),
c float(6),  --2/0.30103
d float(7),
e float(9),  --3/0.30103
f float(10),
g float(14),  --4/0.30103
h float (15),   --5/0.30103
i float(16),    --6/0.30103
j float(24),    --7/0.30103
k float(27)     --8/0.30103
);
insert into testdatatype values(
1,
999.999
,999.999
,999.999
,999.999
,999.999
,999.999
,999.999
,999.999
,999.999
,999.999
,999.999
);
insert into testdatatype values(
2,
999.555
,999.555
,999.555
,999.555
,999.555
,999.555
,999.555
,999.555
,999.555
,999.555
,999.555
);
insert into testdatatype values(
3,
999.455
,999.455
,999.455
,999.455
,999.455
,999.455
,999.455
,999.455
,999.455
,999.455
,999.455
);
insert into testdatatype values(
4,
999.444
,999.444
,999.444
,999.444
,999.444
,999.444
,999.444
,999.444
,999.444
,999.444
,999.444
);
insert into testdatatype values(
5,
999.111
,999.111
,999.111
,999.111
,999.111
,999.111
,999.111
,999.111
,999.111
,999.111
,999.111
);
insert into testdatatype values(
6,
1942070
,1942070
,1942070
,1942070
,1942070
,1942070
,1942070
,1942070
,1942070
,1942070
,1942070
);

commit;

来看结果。
    ID A B C D E F G H I J K
1 1 1000 1000 1000 1000 1000 1000 1000 1000 1000 999.999 999.999
2 2 1000 1000 1000 1000 1000 999.6 999.56 999.56 999.56 999.555 999.555
3 3 1000 1000 1000 999 999 999.5 999.46 999.46 999.46 999.455 999.455
4 4 1000 1000 1000 999 999 999.4 999.44 999.44 999.44 999.444 999.444
5 5 1000 1000 1000 999 999 999.1 999.11 999.11 999.11 999.111 999.111
6 6 2000000 1900000 1900000 1940000 1940000 1942000 1942100 1942100 1942100 1942070 1942070

注意到最后一排，就算你写的整数。在做INSERT时，也会因为精度问题给你自动四舍五入了。

newkid

这就是牺牲精度来换取速度了。
TOM KYTE的9I & 10G编程艺术：

12.4.2 BINARY_FLOAT/BINARY_DOUBLE 类型的语法和用法
Oracle 10g 引入了两种新的数值类型来存储数据；在Oracle 10g 之前的所有版本中都没有这两种类
型。它们就是许多程序员过去常用的IEEE 标准浮点数。要全面地了解这些数值类型是怎样的，以及它们如
何实现，建议你阅读http://en.wikipedia.org/wiki/Floating-point。需要指出，在这个参考文档中对
于浮点数的基本定义有以下描述（请注意我着重强调的部分）：
浮点数是一个有理数子集中一个数的数字表示，通常用于在计算机上近似一个任意的实数。特别是，
它表示一个整数或浮点数（有效数，或正式地说法是尾数）乘以一个底数（在计算机中通常是2）的某个
整数次幂（指数）。底数为2 时，这就是二进制的科学计数法（通常的科学计数法底数为12.）。
浮点数用于近似数值；它们没有前面所述的内置Oracle NUMBER 类型那么精确。浮点数常用在科学计
算中，由于允许在硬件（CPU、芯片）上执行运算，而不是在Oracle 子例程中运算，所以在多种不同类型
的应用中都很有用。因此，如果在一个科学计算应用中执行实数处理，算术运算的速度会快得多，不过你
可能不希望使用浮点数来存储金融信息。

〇〇

不知道int64和BINARY_DOUBLE 哪个有效数字多，效率高

yfb8530

占座

realshibo

不错，精