递归火山软件开发平台»论坛 › 递归火山软件开发平台 › 火山平台俱乐部 › 余弦值怎么就不对呢

余弦值怎么就不对呢

查看数: 4658 | 评论数: 4 | 收藏 0

关灯 | 提示：支持键盘翻页<-左右->

帖子模式

李先森

发布时间: 2023-4-8 20:26

正文摘要:

怎么感觉求得值不对呢

创世魂 发表于 2023-4-9 10:18:21

李先森发表于 2023-4-8 23:07
我用计算器算出来COS（90）=0，是怎么算的

计算器的问题。。精度丢失。

Xelloss0618 发表于 2023-4-8 23:36:56

本帖最后由 Xelloss0618 于 2023-4-8 23:42 编辑

这是对的，其实还是小数的精度损失导致的。计算机表现小数只能是近似值，比如圆周率这种无限不循环小数，你用多少内存都不可能保存下来，只能是取近似值。

另外 6.123233995736766e-17 这个值是非常小的，小数点后17位，这基本就是近似于0。
火山里有个方法可以判断，
小数是否为零 (文本到小数 ("6.123233995736766e-17")) // 结果是真

创世魂 发表于 2023-4-8 21:49:09

6.123233995736766e-17
哪里不对了？https://www.23bei.com/tool/66.html?ivk_sa=1024320u

|Archiver|手机版|小黑屋|递归火山软件开发平台 ( 鄂ICP备18029190号 )

GMT+8, 2024-11-16 10:18 , Processed in 0.085742 second(s), 22 queries .

		自动登录	找回密码
密码			立即注册

余弦值怎么就不对呢

正文摘要:

回复