sunye88888 发表于 2022-8-11 15:40:34

zhqyong 发表于 2022-8-11 15:31
结果是正确的啊！！！！！！！！！
如果（x0.000000000000001）//判断不等于0
如果（x>=-0.00000000000000 ...

等于0的时候 数值到格式文本就不用了 直接指定0好了 谢谢您

edu 发表于 2022-8-11 15:57:48

把变量强转至整数就好了吧

创世魂 发表于 2022-8-11 16:15:14

把(整数)局部_数据3强制转换为整数在和0比较。

sunye88888 发表于 2022-8-11 16:31:16

创世魂 发表于 2022-8-11 16:15
把(整数)局部_数据3强制转换为整数在和0比较。

谢谢 已经解决了,感谢

福寿 发表于 2022-8-11 17:22:00

本帖最后由 福寿 于 2022-8-11 17:23 编辑

火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就已经很精确了，完全不用去研究这个，就算是圆周率也只计算到3.14就足够了

sunye88888 发表于 2022-8-12 14:43:34

福寿 发表于 2022-8-11 17:22
火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就 ...

感谢指点 问题已经解决了 谢谢

飞扬工作室 发表于 2022-8-12 15:17:18

这个有现成封装好的命令: "小数是否为零", "小数是否相等"

sunye88888 发表于 2022-8-13 16:37:10

飞扬工作室 发表于 2022-8-12 15:17
这个有现成封装好的命令: "小数是否为零", "小数是否相等"

谢谢 是我基础知识太差 感谢大家的帮助
页: 1 [2]
查看完整版本: 火山pc小数错误?? 是代码问题 还是 严重BUG????