在matlab中，怎样对数值的有效位数进行设置?

Uqzalq · 发表于 2020-5-6 13:37

您需要登录才可以下载或查看，没有帐号？注册

x

NingW · 发表于 2020-5-6 14:03

一般用format改变精度，format short是单精度；format long是双精度。
也可以用digits。例如：
digits(5)
vpa(pi)
digits(10)
vpa(pi)

ExxNEN · 发表于 2020-5-6 14:07

其实不是那个样子的，只是显示在命令窗口中的是四位，但是MATLAB在计算过程中是有很高的精度的，根据你的设置来定。这样的积累误差也是很小的。
可以用二楼的方法来设置。或者：

yin123 · 发表于 2020-5-6 16:18

如楼上所述，那只是matlab对数据的显示方式，其实不管显示的有效位数是多少，都不影响实际的计算结果，也不会有多大的累计误差。有效位数是4或8位，其计算结果的误差是一样的。在命令窗口中输入eps，就能看看matlab默认的零值是多少了：2.2204e-016！够小了吧？

SsaaM7 · 发表于 2020-5-6 16:49

来看看，学习学习

NNNei256 · 发表于 2020-5-7 17:21

来看看，学习学习

CCxiaom · 发表于 2020-5-7 17:22

2楼和3楼的方法都试了一遍，哈哈哈

regngfpcb · 发表于 2020-5-8 13:26

学习啦

pcbwenrou · 发表于 2020-5-8 14:19

看问题也是有收获的

CCxiaom · 发表于 2020-5-9 14:44

原来问题也有精华可以学到啊

youOK · 发表于 2020-5-11 15:26

三人行必有我师

tutututut · 发表于 2020-5-12 11:21

来学习学习，看神仙打架

帐号		自动登录	找回密码
密码			注册

推荐内容 /1