除法问题警告：立即数表达式计算过程中发现数值精度丢...

3 主题	8 帖子	60 积分

Rank: 2

电梯直达

楼主

发表于 2019-2-1 20:43:39 来自手机 | 只看该作者 |只看大图回帖奖励

本帖最后由 hzbtxz 于 2019-2-1 21:14 编辑

例如
1 / 123
结果=0.0

怎么计算出来完整的数值（0.0081300813）
已解决要这样除 1.0 / 123.0

分享到: QQ好友和群

GMT+8, 2024-11-26 06:17 , Processed in 0.092019 second(s), 21 queries .

		自动登录	找回密码
密码			立即注册

除法问题 警告：立即数表达式计算过程中发现数值精度丢...