首页 > 编程知识 正文

shell取绝对值得函数,oracle取绝对值得函数

时间:2023-05-03 14:27:19 阅读:240937 作者:1832

在解题中,遇到使用Math.abs(int n)时,一定要考虑变量越界的问题,比如Math.abs(-2147483648)由于变量越界其结果仍为-2147483648。

1、越界现象:
Math.abs源码:

    public static int abs(int a) {
        return (a < 0) ? -a : a;
    }

-2147483648的绝对值应该是2147483648,但是int类型最大值就为2147483647,在模系统中最大值再加一会变成最小值,是一个首尾相接的循环.

总结:
1、java中使用10亿以上数字时请使用long类型,可以有效避免整数溢出。
2、对Integer.MIN_VALUE取绝对值仍为Integer.MIN_VALUE,(0x80000000按照补码取负规则还是0x80000000)。
————————————————
版权声明:本文为CSDN博主「Code-Coke」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/j572864517/article/details/106938237/

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。