递归火山软件开发平台's Archiver
论坛
›
火山平台俱乐部
› 除法问题 警告:立即数表达式计算过程中发现数值精度丢...
hzbtxz
发表于 2019-2-1 20:43:39
除法问题 警告:立即数表达式计算过程中发现数值精度丢...
本帖最后由 hzbtxz 于 2019-2-1 21:14 编辑
例如
1 / 123
结果=0.0
怎么计算出来完整的数值(0.0081300813)
已解决 要这样除 1.0 / 123.0
页:
[1]
查看完整版本:
除法问题 警告:立即数表达式计算过程中发现数值精度丢...