计算机的错误计算（一百零六）
摘要 探讨含有变元负的整数次方的多项式的计算精度问题。
计算机的错误计算（一百零五）给出了一个传统多项式的错误计算案例；本节探讨含有变元负的整数次方的多项式的计算精度问题。
例1. 已知
计算
若在Python下计算，则有：
这样，输出为含有17位整数的大数。
若在LibreOffice的电子表格中计算，则输出几乎一模一样：
然而，事实上，正确值只含有7位整数：-0.1578611430470016...e7（ISRealsoft 提供）。二者的输出均是错误结果。
原文地址：https://blog.csdn.net/zaim1/article/details/142124182
免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！