论坛 › 火山平台俱乐部 › 小数计算精度的重大bug | 附：15位高精度的小数到文本()

山梦 发表于 2024-10-2 07:47:34

我看看，学学

叶枯藤 发表于 2024-10-5 15:38:30

确实有这个问题!

仰望 发表于 2024-10-9 13:34:48

路过顶一个

山梦 发表于 2024-10-28 15:44:02

计算：0.0000001267 * 20.2 * 20.2，还是等于0。

Xelloss0618 发表于 2024-10-28 15:51:12

山梦 发表于 2024-10-28 15:44
计算：0.0000001267 * 20.2 * 20.2，还是等于0。

你这个只能用变量保存后再用变量计算了。
火山编译时的计算公式，将小于 0.000001 的数值视为0。

pugying 发表于 2024-11-5 17:40:44

看看！！！！！

折戟沉沙 发表于 2024-12-3 18:30:37

:):)

a4029537 发表于 2024-12-3 21:05:51

学习！！！！！！！！

wu5492579 发表于 2024-12-4 16:32:46

学习                                 

888888 发表于 2024-12-4 22:43:45

谢谢分享

查看完整版本: 小数计算精度的重大bug | 附：15位高精度的小数到文本()