火山pc小数错误?? 是代码问题还是严重BUG????

sunye88888 · 发表于 2022-8-11 14:50:34

本帖最后由 sunye88888 于 2022-8-11 14:58 编辑

问题有2个,这个不知道是我代码问题,还是存在 BUG? 如果有这样的BUG,对于软件来说数据计算转换应该是最基础的东西,这个BUG 是不是太严重了呢?
图片中
1. 调试输出是0 ,结果执行了不为0 的如果语句
2. 数值到格式文本输出的结果问题

sunye88888 · 发表于 2022-8-13 16:37:10

飞扬工作室发表于 2022-8-12 15:17
这个有现成封装好的命令: "小数是否为零", "小数是否相等"

谢谢是我基础知识太差感谢大家的帮助

飞扬工作室 · 发表于 2022-8-12 15:17:18

这个有现成封装好的命令: "小数是否为零", "小数是否相等"

sunye88888 · 发表于 2022-8-12 14:43:34

福寿发表于 2022-8-11 17:22
火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就 ...

感谢指点问题已经解决了谢谢

福寿 · 发表于 2022-8-11 17:22:00

本帖最后由福寿于 2022-8-11 17:23 编辑

火山的小数是双浮点，双浮点精度为15位，而这个余数在第16位才有值，不是搞导/弹研究的话实际上用到第2位就已经很精确了，完全不用去研究这个，就算是圆周率也只计算到3.14就足够了

sunye88888 · 发表于 2022-8-11 16:31:16

创世魂发表于 2022-8-11 16:15
把 (整数)局部_数据3 强制转换为整数在和0比较。

谢谢已经解决了 ,感谢

创世魂 · 发表于 2022-8-11 16:15:14

把 (整数)局部_数据3 强制转换为整数在和0比较。

edu · 发表于 2022-8-11 15:57:48

把变量强转至整数就好了吧

sunye88888 · 发表于 2022-8-11 15:40:34

zhqyong 发表于 2022-8-11 15:31
结果是正确的啊！！！！！！！！！
如果（x0.000000000000001）//判断不等于0
如果（x>=-0.00000000000000 ...

等于0的时候数值到格式文本就不用了直接指定0好了谢谢您

sunye88888 · 发表于 2022-8-11 15:36:08

zhqyong 发表于 2022-8-11 15:31
结果是正确的啊！！！！！！！！！
如果（x0.000000000000001）//判断不等于0
如果（x>=-0.00000000000000 ...

感谢，请问数值到格式文本那里怎样解决呢？

这些知识太专业，小白不知道哇

		自动登录	找回密码
密码			立即注册

[视窗] 火山pc小数错误?? 是代码问题 还是 严重BUG????

[视窗] 火山pc小数错误?? 是代码问题还是严重BUG????