我用matlab计算 10^(-5) 减去 0.00001为什么不是0 呢?

2024年12月04日 05:11
有2个网友回答
网友(1):

matlab算出来就是有误差的,你可以在主界面中输入eps,会显示matlab所能识别的最小的数,你得到的结果比eps还小,所以对于matlab来说,就是0了

网友(2):

一般程序语言在设置数据类型时都有特定的规则,所以在跟0比较时很容易出错。通常的做法是设定一个误差限例如1e-5等。在matlab里面有规定误差限eps,在跟零判断时可以选择是否在误差限之内 例如 10^(-5)-0.00001 == eps 作为判断的条件