首页 > 编程知识 正文

计算机基础十进制,计算机二进制计算方式

时间:2023-05-05 04:47:56 阅读:26753 作者:3462

计算机基础: 17、二进制---定点数和浮点数1、定点数的表示方法2、浮点数的表示方法2.1、浮点数的表示形式2.2、浮点数的表示范围2.2、尾数的获取范围2.3、浮点数的归一化3、定点数和浮点数的对比

1、点数表示方法

什么是定点数?

小数点所在位置固定的数量称为固定点数

下面两张照片显示了纯整数和纯小数的定点数表现

如果既不是纯小数也不是纯整数,则必须将比例因子相乘以满足常量点保存格式,如下所示:

10.02表示为0.1002*10^2

2、浮点数的表示方法2.1、浮点数的表示方法数学中的科学表示法

科学计数法要求尾数在1和10之间,尾数大于或小于10都是违法的

计算机中浮点数的表示形式:

计算机表示浮点数时,也和科学计数法一样,有尾数、基数、阶码的概念。

对于任意浮点数n,可以用公式N=S * r^J表示,如下图所示。

2.2、浮点数显示范围浮点数范围主要考虑步码和尾数值;

2.2.1、二维码取值范围假设二维码数值为m位,尾数数值为n位。

步骤代码和尾数的数值如下图所示

2.2.2、尾数的取值范围

浮点数溢出:浮点数太大,无法显示

浮点数下溢:浮点数太小,小得无法表达浮点数

单精度浮点数(float ) :以4字节、32位表示的浮点数

双精度浮点数(double )以8字节、64位表示的浮点数

2.3、浮点数对归一化浮点数尾数的要求:

尾数有使用纯小数的义务

尾数的最高位必须是1

3、定点与浮点数对比定点与浮点数位数相同时,浮点数的表达范围更广,浮点数的尾数为归一化数时,浮点数精度更高的浮点数运算包括阶码和尾数,浮点运算包括更复杂的浮点数表达范围、精度、溢出处理、 在编程等方面优于固定点数浮点数的运算规则、运算速度、硬件成本方面

定点数一般用于成本较低的芯片上

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。