一个简单程序的疑惑

davis_zhou

最初由 老虎借猪 发布
[B]

基本搞清楚了，看来小数运算还是用BigDecimal比较好 [/B]

i is: 1
result is: 10.1
average is 10.1
===========================
i is: 2
result is: 60.3
average is 30.15
===========================
i is: 3
result is: 70.6
average is 23.534    错了吧[/COLOR]
===========================
i is: 4
result is: 81.0
average is 20.25
===========================
i is: 5
result is: 91.0
average is 18.2
===========================

deathmaster

average = result.divide(new BigDecimal(i),[B]3[/B],BigDecimal.ROUND_CEILING);
精度取三位，楼上的去看看BigDecimal.divide方法说明

davis_zhou

不应该是23.533吗。

davis_zhou

http://gceclub.sun.com.cn/Java_D ... h/RoundingMode.html

<table border>
<caption top><h3>不同舍入模式下的舍入操作汇总</h3></caption>
<tr><th></th><th colspan=8>根据给定的舍入模式将输入数字舍入为一位数的结果</th>
<tr valign=top>
<th>输入数字</th>    <th><tt>UP</tt></th>
                                           <th><tt>DOWN</tt></th>
                                                        <th><tt>CEILING</tt></th>
                                                                       <th><tt>FLOOR</tt></th>
                                                                                    <th><tt>HALF_UP</tt></th>
                                                                                                   <th><tt>HALF_DOWN</tt></th>
                                                                                                                    <th><tt>HALF_EVEN</tt></th>
                                                                                                                                     <th><tt>UNNECESSARY</tt></th>
   
<tr align=right><td>5.5</td>     <td>6</td>  <td>5</td>    <td>6</td>    <td>5</td>  <td>6</td>      <td>5</td>       <td>6</td>       <td>抛出 <tt>ArithmeticException</tt></td>
<tr align=right><td>2.5</td>     <td>3</td>  <td>2</td>    <td>3</td>    <td>2</td>  <td>3</td>      <td>2</td>       <td>2</td>       <td>抛出 <tt>ArithmeticException</tt></td>
<tr align=right><td>1.6</td>     <td>2</td>  <td>1</td>    <td>2</td>    <td>1</td>  <td>2</td>      <td>2</td>       <td>2</td>       <td>抛出 <tt>ArithmeticException</tt></td>
<tr align=right><td>1.1</td>     <td>2</td>  <td>1</td>    <td>2</td>    <td>1</td>  <td>1</td>      <td>1</td>       <td>1</td>       <td>抛出 <tt>ArithmeticException</tt></td>
<tr align=right><td>1.0</td>    <td>1</td>  <td>1</td>    <td>1</td>    <td>1</td>  <td>1</td>      <td>1</td>       <td>1</td>       <td>1</td>                                
<tr align=right><td>-1.0</td> <td>-1</td> <td>-1</td>   <td>-1</td>     <td>-1</td> <td>-1</td>     <td>-1</td>      <td>-1</td>      <td>-1</td>                              
<tr align=right><td>-1.1</td> <td>-2</td> <td>-1</td>   <td>-1</td>      <td>-2</td> <td>-1</td>     <td>-1</td>      <td>-1</td>      <td>抛出 <tt>ArithmeticException</tt></td>
<tr align=right><td>-1.6</td> <td>-2</td> <td>-1</td>   <td>-1</td>      <td>-2</td> <td>-2</td>     <td>-2</td>      <td>-2</td>      <td>抛出 <tt>ArithmeticException</tt></td>
<tr align=right><td>-2.5</td> <td>-3</td> <td>-2</td>   <td>-2</td>      <td>-3</td> <td>-3</td>     <td>-2</td>      <td>-2</td>      <td>抛出 <tt>ArithmeticException</tt></td>
<tr align=right><td>-5.5</td> <td>-6</td> <td>-5</td>   <td>-5</td>      <td>-6</td> <td>-6</td>     <td>-5</td>      <td>-6</td>      <td>抛出 <tt>ArithmeticException</tt></td>
</table>

davis_zhou

不应该是HALF_UP吗

hubmygirl

import java.text.NumberFormat;
import java.text.Format;
public class Average {
        public static void main(String args[]) {

                float nums[] = { 10.1f, 50.2f, 10.3f, 10.4f, 10.0f };
                float result = 0.0f;
                NumberFormat nf=  NumberFormat.getNumberInstance();
                StringBuffer sb = new StringBuffer ();
                for (int i = 1; i < 6; i++) {

                        result = result + nums[i - 1];
                        float average = result / i;
                        System.out.println("result is: " + nf.format(result) );
                        System.out.println("average is " + nf.format( average ));
                }

        }
}

sid056

应该进度上有问题，{10.1,50.2,10.3,10.4,10.0};加起来等于91.00000000000001，不知道这是为什么？