递归火山软件开发平台

标题: 余弦值怎么就不对呢 [打印本页]

作者: 李先森 时间: 2023-4-8 20:26
标题: 余弦值怎么就不对呢
怎么感觉求得值不对呢

(, 下载次数: 13)

作者: 创世魂 时间: 2023-4-8 21:49
6.123233995736766e-17
哪里不对了？https://www.23bei.com/tool/66.html?ivk_sa=1024320u

(, 下载次数: 12)

作者: 李先森 时间: 2023-4-8 23:07
本帖最后由李先森于 2023-4-8 23:10 编辑

创世魂发表于 2023-4-8 21:49
6.123233995736766e-17
哪里不对了？https://www.23bei.com/tool/66.html?ivk_sa=1024320u

我用计算器算出来COS（90）=0，是怎么算的

作者: Xelloss0618 时间: 2023-4-8 23:36
本帖最后由 Xelloss0618 于 2023-4-8 23:42 编辑

这是对的，其实还是小数的精度损失导致的。计算机表现小数只能是近似值，比如圆周率这种无限不循环小数，你用多少内存都不可能保存下来，只能是取近似值。

另外 6.123233995736766e-17 这个值是非常小的，小数点后17位，这基本就是近似于0。
火山里有个方法可以判断，
小数是否为零 (文本到小数 ("6.123233995736766e-17")) // 结果是真

作者: 创世魂 时间: 2023-4-9 10:18

李先森发表于 2023-4-8 23:07
我用计算器算出来COS（90）=0，是怎么算的

计算器的问题。。精度丢失。

欢迎光临递归火山软件开发平台 (https://bbs.voldp.com/)