天气预报 > 其他 >双精度运算是什么

双精度运算是什么

更新时间: 2020-09-23 00:00:00

双精度计算方法:

1、浮点类型的数用4个字节32位二进制表示。这样表示的数大约有7位十进制有效数字。

2、双精度类型的数用8个字节64位二进制表示,双精度数大约有16位十进制有效数字。

3、长双精度类型的数用10个字节80位二进制表示,大约有19位十进制有效数字。

标签:精度运算什么