计算机的错误计算(一百四十九)
摘要 探讨 MATLAB 中 的计算精度问题。当 为含有小数的大数或整数附近数时,输出会有错误数字。
例1. 已知
计算
直接贴图吧:
另外,16位的正确值分别为 0.6374239897486897e0、-0.6613118653236519e0、0.3769911184298822e-5 与 0.7382742735935343e-6(ISRealsoft 提供)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有6位、7位、7位及8位错误数字;有效数字的错误率分别为 6/16 = 37.5% , 7/16 = 43.75% , 7/16 = 43.75% , 8/16 = 50% .
注:可参考计算机的错误计算(五十七)、(一百四十一)及(一百四十二)。
原文地址:https://blog.csdn.net/zaim1/article/details/142983243
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!