火山pc小数错误?? 是代码问题还是严重BUG????

查看数: 6995 | 评论数: 17 | 收藏 0

关灯 | 提示：支持键盘翻页<-左右->

发布时间: 2022-8-11 14:50

本帖最后由 sunye88888 于 2022-8-11 14:58 编辑问题有2个,这个不知道是我代码问题,还是存在 BUG? 如果有这样的BUG,对于软件来说数据计算转换应该是最基础的东西,这个BUG 是不是太严重了呢? 图片中 1. &nb ...

sunye88888 发表于 2022-8-13 16:37:10

飞扬工作室发表于 2022-8-12 15:17
这个有现成封装好的命令: "小数是否为零", "小数是否相等"

谢谢是我基础知识太差感谢大家的帮助

飞扬工作室 发表于 2022-8-12 15:17:18

这个有现成封装好的命令: "小数是否为零", "小数是否相等"

sunye88888 发表于 2022-8-12 14:43:34

福寿发表于 2022-8-11 17:22
火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就 ...

感谢指点问题已经解决了谢谢

福寿 发表于 2022-8-11 17:22:00

本帖最后由福寿于 2022-8-11 17:23 编辑

火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就已经很精确了，完全不用去研究这个，就算是圆周率也只计算到3.14就足够了

QQ图片20220811171557.png (9.79 KB, 下载次数: 53)

sunye88888 发表于 2022-8-11 16:31:16

创世魂发表于 2022-8-11 16:15
把 (整数)局部_数据3 强制转换为整数在和0比较。

谢谢已经解决了 ,感谢

创世魂 发表于 2022-8-11 16:15:14

把 (整数)局部_数据3 强制转换为整数在和0比较。

edu 发表于 2022-8-11 15:57:48

把变量强转至整数就好了吧

sunye88888 发表于 2022-8-11 15:40:34

zhqyong 发表于 2022-8-11 15:31
结果是正确的啊！！！！！！！！！
如果（x0.000000000000001）//判断不等于0
如果（x>=-0.00000000000000 ...

等于0的时候数值到格式文本就不用了直接指定0好了谢谢您

sunye88888 发表于 2022-8-11 15:36:08

zhqyong 发表于 2022-8-11 15:31
结果是正确的啊！！！！！！！！！
如果（x0.000000000000001）//判断不等于0
如果（x>=-0.00000000000000 ...

感谢，请问数值到格式文本那里怎样解决呢？

这些知识太专业，小白不知道哇

		自动登录	找回密码
密码			立即注册

火山pc小数错误?? 是代码问题 还是 严重BUG????