打印输出精度问题

oyangningtao · 发表于 2022-1-22 12:43:49

一、printf控制小数点后精度

printf("%.df",a);

d表示控制小数点后的位数

二、使用cout标准输出控制小数点后位数

#include <iostream>

#include <iomanip>

using namespace std;

int main()

{

　　const double value = 12.3456789;

　　cout << value << endl; // 默认以6精度，所以输出为 12.3457

　　cout << setprecision(4) << value << endl; // 改成4精度，所以输出为12.35

　　cout << setprecision(8) << value << endl; // 改成8精度，所以输出为12.345679

　　cout << fixed << setprecision(4) << value << endl; // 加了fixed意味着是固定点方式显示，所以这里的精度指的是小数位，输出为12.3457

　　cout << value << endl; // fixed和setprecision的作用还在，依然显示12.3457

　　cout.unsetf( ios::fixed ); // 去掉了fixed，所以精度恢复成整个数值的有效位数，显示为12.35

　　cout << value << endl;

　　cout.precision( 6 ); // 恢复成原来的样子，输出为12.3457

　　cout << value << endl;

}

3、float与double的范围和精度

【范围】

float和double的范围是由指数的位数来决定的。

float的指数位有8位，而double的指数位有11位，分布如下：

float：

1bit（符号位） 8bits（指数位） 23bits（尾数位）

double：

1bit（符号位） 11bits（指数位） 52bits（尾数位）

于是，float的指数范围为-127~+128，而double的指数范围为-1023~+1024，并且指数位是按补码的形式来划分的。

其中负指数决定了浮点数所能表达的绝对值最小的非零数；而正指数决定了浮点数所能表达的绝对值最大的数，也即决定了浮点数的取值范围。

float的范围为-2^128 ~ +2^128，也即-3.40E+38 ~ +3.40E+38；double的范围为-2^1024 ~ +2^1024，也即-1.79E+308 ~ +1.79E+308。

【精度】

float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。

float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字；

double：2^52 = 4503599627370496，一共16位，同理，double的精度为15~16位。