计算机基础: 17、二进制---定点数和浮点数1、定点数的表示方法2、浮点数的表示方法2.1、浮点数的表示形式2.2、浮点数的表示范围2.2、尾数的获取范围2.3、浮点数的归一化3、定点数和浮点数的对比
1、点数表示方法
什么是定点数?
小数点所在位置固定的数量称为固定点数
下面两张照片显示了纯整数和纯小数的定点数表现
如果既不是纯小数也不是纯整数,则必须将比例因子相乘以满足常量点保存格式,如下所示:
10.02表示为0.1002*10^2
2、浮点数的表示方法2.1、浮点数的表示方法数学中的科学表示法
科学计数法要求尾数在1和10之间,尾数大于或小于10都是违法的
计算机中浮点数的表示形式:
计算机表示浮点数时,也和科学计数法一样,有尾数、基数、阶码的概念。
对于任意浮点数n,可以用公式N=S * r^J表示,如下图所示。
2.2、浮点数显示范围浮点数范围主要考虑步码和尾数值;
2.2.1、二维码取值范围假设二维码数值为m位,尾数数值为n位。
步骤代码和尾数的数值如下图所示
2.2.2、尾数的取值范围
浮点数溢出:浮点数太大,无法显示
浮点数下溢:浮点数太小,小得无法表达浮点数
单精度浮点数(float ) :以4字节、32位表示的浮点数
双精度浮点数(double )以8字节、64位表示的浮点数
2.3、浮点数对归一化浮点数尾数的要求:
尾数有使用纯小数的义务
尾数的最高位必须是1
3、定点与浮点数对比定点与浮点数位数相同时,浮点数的表达范围更广,浮点数的尾数为归一化数时,浮点数精度更高的浮点数运算包括阶码和尾数,浮点运算包括更复杂的浮点数表达范围、精度、溢出处理、 在编程等方面优于固定点数浮点数的运算规则、运算速度、硬件成本方面
定点数一般用于成本较低的芯片上