自学内容网 自学内容网

计算机的错误计算(一百六十八)

摘要  算式“(5^25*(1/25)^(1/5)*3^25+(1/25)^(1/5)*5^25*3^(25+1/5)-(9/25)^(1/5)*3^25*5^25-(1/25)^(1/5)*3^25*5.0^25*(1+3^(1/5)-3^(2/5.0)))”的值为0。但是,在 MATLAB 中计算它,则输出含有15位整数。

例1.  计算

       直接贴图吧:

这样,MATLAB 输出了错误结果。

参考文献

[1] Richardson, D. Zero tests for constants in simple scientific computation. Mathematics in Computer Science, 2007, 1(1):21-37


原文地址:https://blog.csdn.net/zaim1/article/details/143522639

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!