递归火山软件开发平台
标题:
除法问题 警告:立即数表达式计算过程中发现数值精度丢...
[打印本页]
作者:
hzbtxz
时间:
2019-2-1 20:43
标题:
除法问题 警告:立即数表达式计算过程中发现数值精度丢...
本帖最后由 hzbtxz 于 2019-2-1 21:14 编辑
例如
1 / 123
结果=0.0
怎么计算出来完整的数值(0.0081300813)
已解决 要这样除 1.0 / 123.0
欢迎光临 递归火山软件开发平台 (https://bbs.voldp.com/)
Powered by Discuz! X3.4