首页 > 编程知识 正文

c++输出浮点数精度,printf输出浮点数的格式控制符

时间:2023-05-04 07:37:01 阅读:232539 作者:4613

相信学过C语言的人对printf这个函数再熟悉不过了,但是有些问题估计很多人不一定说得清楚。最近看《数值分析》,使得我对数值精度问题有了新的认识,还是那句话数学才是最直截了当的武器,没有数学依据只能停留在表面,难以知其所以然!

让我们看看下面几个案例:

float f = 0.3;printf("%f",f);

没错这里可以输出:0.300000
这是C语言的默认输出6位,%f的输出让你觉得完全没问题,等等,似乎不太对,不是说计算机不能精确表示浮点数吗?这里怎么能精确表示呢?稍等,请看下面的代码段。

float f = 0.3;printf("%.8f",f);

这里输出的是:0.30000001
终于露出了马脚,果然还是不精确啊,可是为什么是这个结果呢? 接着往下看

double f = 0.3;printf("%.8lf",f);

这里输出的是:0.30000000
好奇怪,这里把float换成了double为什么又是正确的呢?输出更多的位看看呢?

double f = 0.3;printf("%.18lf",f);

这里输出的是:0.299999999999999990
这下又回到了不精确的值了,这是为什么呢?

下面就来讲讲这个问题:

我们不妨先把0.3转换成二进制看看是什么样子的,推荐一个可以实现多种进制转换的网站:http://www.sojson.com/hexconvert.html

0.3的二进制结果为:0.0100110011001100110011001100110011001100110011001101
当然远不止这么多位,准确的讲应该是一个无限小数。根据 IEEE754标准 ,对于单精度浮点数来讲,尾数是23位,因此截取23位二进制,当然是从左到右第一个不为0的数字开始,

因此0.3的float 的尾数为:0.010011001100110011001101

注意看这里的最后一位是1,而不是0, 而原始二进制串中是0, 这里就采用了四舍五入的原则,回忆一下,在10进制中比如0.57四舍五入保留一位小数的结果是0.6,那就是因为第2位小数是7,超过了5所以进1位, 在二进制中就看下一位是1还是0,如果是1就进位。原始二进制串中的第24位为1,因此进位到23位,因此23位变为1.

那么我们接下来吧 0.3的float 的尾数即0.010011001100110011001101 转换为10进制看看。

结果是:0.300000011920928955078125

这就是为什么

printf("%f",f); //可以得到 0.300000printf("%.8f",f); //可以得到 0.30000001

可以再多输出一些位数:

printf("%.15f",f); //可以得到 0.300000011920929

其实可以看到,这里输出也有四舍五入将 0.300000011920928955078125 保留15位小数得到 0.300000011920929

至于第4个双精度输出为什么结果是小于0.3,那是因为它的尾数有52位,因此在截取二进制位的时候,因为53位是0,所以52位数字保持不变,实际上比原来的数要小一些,因为53位之后的数位依然有很多1存在。

那么还有一个疑问,为什么

double f = 0.3;printf("%.8lf",f);

输出的是:0.30000000
而不是:0.29999999

这里是因为C语言在输出处理的时候,再次使用了四舍五入。这也是为什么我们用%f输出0.3能看到0.30000的原因。

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。