小数计算精度的重大bug | 附：15位高精度的小数到文本()

山梦 · 发表于 2024-10-2 07:47:34

我看看，学学

叶枯藤 · 发表于 2024-10-5 15:38:30

确实有这个问题!

仰望 · 发表于 2024-10-9 13:34:48

路过顶一个

山梦 · 发表于 2024-10-28 15:44:02

计算：0.0000001267 * 20.2 * 20.2，还是等于0。

Xelloss0618 · 发表于 2024-10-28 15:51:12

山梦发表于 2024-10-28 15:44
计算：0.0000001267 * 20.2 * 20.2，还是等于0。

你这个只能用变量保存后再用变量计算了。
火山编译时的计算公式，将小于 0.000001 的数值视为0。

pugying · 发表于 2024-11-5 17:40:44

看看！！！！！

折戟沉沙 · 发表于 2024-12-3 18:30:37

a4029537 · 发表于 2024-12-3 21:05:51

学习！！！！！！！！

wu5492579 · 发表于 2024-12-4 16:32:46

学习

888888 · 发表于 2024-12-4 22:43:45

谢谢分享

		自动登录	找回密码
密码			立即注册

[视窗] 小数计算精度的重大bug | 附：15位高精度的小数到文本()