计算机进行数值计算的高精确度主要取决于(计算机进行数值计算时的高精确度主要决定于)
2023-05-18 22:17:54
导读 大家好,小东方来为大家解答以上的问题。计算机进行数值计算的高精确度主要取决于,计算机进行数值计算时的高精确度主要决定于这个很多人还
大家好,小东方来为大家解答以上的问题。计算机进行数值计算的高精确度主要取决于,计算机进行数值计算时的高精确度主要决定于这个很多人还不知道,现在让我们一起来看看吧!
1、主要决定于基本字长。
2、基本字长影响计算精度、指令功能。
3、基本字长越长,计算精度越高。
4、比如,基本字长是8位,那么它可以表示最小的正数是0.0000001;而如果基本字长是16位,则可以表示0.000000000000001。
5、显然,后者的精度更高。
6、扩展资料: 数值计算具有以下5个重要特征:数值计算的结果是离散的,并且一定有误差,这是数值计算方法区别与解析法的主要特征。
7、2、注重计算的稳定性。
8、控制误差的增长势头,保证计算过程稳定是数值计算方法的核心任务之一。
9、3、注重快捷的计算速度和高计算精度是数值计算的重要特征。
10、4、注重构造性证明。
11、5、数值计算主要是运用有限逼近的的思想来进行误差运算。
本文到此分享完毕,希望对大家有所帮助。
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
猜你喜欢
- 11-01
- 11-01
- 11-01
- 11-01
- 11-01
- 11-01
- 11-01
- 11-01
最新文章
- 02-11
- 02-11
- 02-11
- 02-11
- 02-11
- 02-11
- 02-11
- 02-11