余弦值怎么就不对呢

李先森

怎么感觉求得值不对呢

创世魂

6.123233995736766e-17
哪里不对了？https://www.23bei.com/tool/66.html?ivk_sa=1024320u

李先森

创世魂 发表于 2023-4-8 21:49
6.123233995736766e-17
哪里不对了？https://www.23bei.com/tool/66.html?ivk_sa=1024320u

我用计算器算出来COS（90）=0，是怎么算的

Xelloss0618

这是对的，其实还是小数的精度损失导致的。计算机表现小数只能是近似值，比如圆周率这种无限不循环小数，你用多少内存都不可能保存下来，只能是取近似值。

另外 6.123233995736766e-17 这个值是非常小的，小数点后17位，这基本就是近似于0。
火山里有个方法可以判断，
小数是否为零 (文本到小数 ("6.123233995736766e-17"))  // 结果是真

创世魂

李先森 发表于 2023-4-8 23:07
我用计算器算出来COS（90）=0，是怎么算的

计算器的问题。。精度丢失。