余弦值怎么就不对呢
怎么感觉求得值不对呢6.123233995736766e-17
哪里不对了？https://www.23bei.com/tool/66.html?ivk_sa=1024320u
本帖最后由 李先森 于 2023-4-8 23:10 编辑
创世魂 发表于 2023-4-8 21:49
6.123233995736766e-17
哪里不对了？https://www.23bei.com/tool/66.html?ivk_sa=1024320u
我用计算器算出来COS（90）=0，是怎么算的 本帖最后由 Xelloss0618 于 2023-4-8 23:42 编辑
这是对的，其实还是小数的精度损失导致的。计算机表现小数只能是近似值，比如圆周率这种无限不循环小数，你用多少内存都不可能保存下来，只能是取近似值。
另外 6.123233995736766e-17 这个值是非常小的，小数点后17位，这基本就是近似于0。
火山里有个方法可以判断，
小数是否为零 (文本到小数 ("6.123233995736766e-17"))// 结果是真
李先森 发表于 2023-4-8 23:07
我用计算器算出来COS（90）=0，是怎么算的
计算器的问题。。精度丢失。
页:
[1]