使用二进制计算的时候会出现溢出现象,是因为计算机都有它的上限和下限,太大的数值和太小的数值都是无法显示出来的。
计算机中用补码来表示和存储数值,而在进行数值的算术运算时由于机器字长的限制往往会出现补码溢出,导致计算结果错误。
针对这个问题,提出了一种根据溢出结果得到正确结果的计算方法:
两个正数相加溢出时,将错误解加上2~(n+1)即为正确解
两个负数相加溢出时,将错误解减去2~(n+1)即为正确解。
原创 | 2022-12-04 15:20:46 |浏览:1.6万
使用二进制计算的时候会出现溢出现象,是因为计算机都有它的上限和下限,太大的数值和太小的数值都是无法显示出来的。
计算机中用补码来表示和存储数值,而在进行数值的算术运算时由于机器字长的限制往往会出现补码溢出,导致计算结果错误。
针对这个问题,提出了一种根据溢出结果得到正确结果的计算方法:
两个正数相加溢出时,将错误解加上2~(n+1)即为正确解
两个负数相加溢出时,将错误解减去2~(n+1)即为正确解。
Copyright 2005-2020 www.kxting.com 版权所有 | 湘ICP备2023022655号
声明: 本站所有内容均只可用于学习参考,信息与图片素材来源于互联网,如内容侵权与违规,请与本站联系,将在三个工作日内处理,联系邮箱:47085,1089@qq.com