火山软件开发平台

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 火山 源码 类库
查看: 393|回复: 4
打印 上一主题 下一主题

[其它] 发现一个有趣的【式子】带来的灵异事件。

[复制链接]

26

主题

1500

帖子

5635

积分

核心用户

Rank: 9Rank: 9Rank: 9

积分
5635
楼主
发表于 2024-4-25 21:59:00 | 显示全部楼层
二进制存储小数有精度损失,只能是近似值,所以小数的等于比较很难得出预期的效果。
比如火山就有封装「小数是否相等」,通过比较两个小数的差值是否在一定的范围内(一个很小的数),来判断两个小数是否相等。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|火山软件开发平台 ( 鄂ICP备18029190号 )

GMT+8, 2024-5-18 18:04 , Processed in 0.092979 second(s), 17 queries .

Powered by Discuz! X3.4

© 2001-2017 Comsenz Inc.

快速回复 返回顶部 返回列表