火山pc小数错误?? 是代码问题还是严重BUG????

sunye88888 · 发表于 2022-8-11 15:40:34

zhqyong 发表于 2022-8-11 15:31
结果是正确的啊！！！！！！！！！
如果（x0.000000000000001）//判断不等于0
如果（x>=-0.00000000000000 ...

等于0的时候数值到格式文本就不用了直接指定0好了谢谢您

edu · 发表于 2022-8-11 15:57:48

把变量强转至整数就好了吧

创世魂 · 发表于 2022-8-11 16:15:14

把 (整数)局部_数据3 强制转换为整数在和0比较。

sunye88888 · 发表于 2022-8-11 16:31:16

创世魂发表于 2022-8-11 16:15
把 (整数)局部_数据3 强制转换为整数在和0比较。

谢谢已经解决了 ,感谢

福寿 · 发表于 2022-8-11 17:22:00

本帖最后由福寿于 2022-8-11 17:23 编辑

火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就已经很精确了，完全不用去研究这个，就算是圆周率也只计算到3.14就足够了

sunye88888 · 发表于 2022-8-12 14:43:34

福寿发表于 2022-8-11 17:22
火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就 ...

感谢指点问题已经解决了谢谢

飞扬工作室 · 发表于 2022-8-12 15:17:18

这个有现成封装好的命令: "小数是否为零", "小数是否相等"

sunye88888 · 发表于 2022-8-13 16:37:10

飞扬工作室发表于 2022-8-12 15:17
这个有现成封装好的命令: "小数是否为零", "小数是否相等"

谢谢是我基础知识太差感谢大家的帮助

		自动登录	找回密码
密码			立即注册

[视窗] 火山pc小数错误?? 是代码问题 还是 严重BUG????