A=[1,2,3;4,5,6;7,8,9] 用matlab计算det(A)=6.6613e-016不等于0,为什么?

我只想知道,这是为什么?这个数字咋出来的?
2024年11月17日 02:44
有3个网友回答
网友(1):

因为matlab做的是数值计算,所以计算结果和解析的结果是不一样的,但这个数和零是没什么区别的

网友(2):

可能是由于你的 把参数设为整型 就可以解决这问题了

网友(3):

matlab不是精确计算,可以减小有效数字位数试试,你用format short 之后再计算试试