火山软件开发平台

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 火山 源码 类库
楼主: sunye88888
打印 上一主题 下一主题

[视窗] 火山pc小数错误?? 是代码问题 还是 严重BUG????

[复制链接]

14

主题

460

帖子

2740

积分

核心用户

Rank: 9Rank: 9Rank: 9

积分
2740
楼主
发表于 2022-8-11 17:22:00 | 显示全部楼层
本帖最后由 福寿 于 2022-8-11 17:23 编辑

火山的小数是双浮点,双浮点精度为15位,而这个余数在第16位才有值,不是搞导/弹研究的话实际上用到第2位就已经很精确了,完全不用去研究这个,就算是圆周率也只计算到3.14就足够了

QQ图片20220811171557.png (9.79 KB, 下载次数: 20)

QQ图片20220811171557.png
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|火山软件开发平台 ( 鄂ICP备18029190号 )

GMT+8, 2024-5-18 05:40 , Processed in 0.086304 second(s), 20 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表