首页 > 编程知识 正文

乘法有效数字的修约规则(数值修约的进舍规则有哪些)

时间:2023-05-03 10:55:18 阅读:103936 作者:826

对于某个数字,根据预留位数的要求,按照一定的规则选择额外位数,这就是所谓的数字舍入。

通常的修订规则是:以保留数字的最后一位为单位。如果最后一位数字后的数字大于0.5,则最后一位数字将输入1;如果最后一个数字小于0.5,则最后一个数字保持不变(即最后一个数字之后的数字被丢弃);最后一位数字后的数字刚好是0.5,使得最后一位数字为偶数(即最后一位数字为奇数时,最后一位数字为1;当最后一位是偶数时,最后一位保持不变)。我们可以简单地写为‘四栋房子,六个条目,每五对夫妇’。

在报告测量不确定度时,根据一般规则对:的一个示例进行了修订。

L=0.658m,应写成l=0.69m或L=0.7m

L=0.561m,应写成L=0.56m

U=10.5nm,应该写成U=10nm;

U=10.5001nm毫米;应该写成u=11nm;

U=11.5 * 10 (-5)应写成U=12 * 10(-5);

有效数字应写成u=1 * 10(-4);

U=12345687A,取一个有效数字,应该写成U=1 * 10 6 a=1A。

修改合同注意事项:合同不能连续修改,比如把7.691499修改为4个有效数字,一次修改为7.691。取7.6914997.69157.692是错误的。

为了安全起见,也可以在保留的不确定性的最后一个数字之后携带所有数字,而不是丢弃它。

比如l=10.27mm,取报告中的两个显著数字,按照一般修订规则l=10mm,但保险以l=11mm为佳。

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。