小数计算精度的重大bug | 附：15位高精度的小数到文本()

shuimiao · 发表于 2024-9-29 22:16:45

本帖最后由 shuimiao 于 2024-9-30 17:32 编辑

一、0.01 / 10000.0 * 200.0 == 0

X大说这是吴总自己对表达式做了改变，导致丢失精度，只要把计算数都改成变量就没事，但是这说不过去了吧，老老实实翻译人家的表达式不好吗，徒增麻烦

二、变量a（值是0.01） / 变量b（值是10000.0） == 变量c（值是0.000001）

这时如果你将变量c到文本，竟然转换为"0"。当你想计算用户给出文本中出现的多联计算表达式时，比如"0.01 / 10000.0 * 200.0"，那必然就会分成两个步骤，第一步"0.01 / 10000.0"计算出结果转换到文本就是"0"，然后第二步 "0 * 200.0"还是0。

请求吴总修复bug

第二点问题，取格式文本()方法会出现固定小数位6精度，不足位自动补0的问题，不行。所以我问ai写了个小数到文本的方法，好用，特来贡献。

游客，如果您要查看本帖隐藏内容请回复

yb1984724 · 发表于 2026-4-30 18:36:02

看看是怎么弄的

chenwing · 发表于 2026-1-11 13:36:02

谢谢分享

wsnd1478 · 发表于 2026-1-6 09:28:32

学习一下

000 · 发表于 2025-12-13 20:40:34

000 · 发表于 2025-12-13 20:40:15

cdmmye · 发表于 2025-10-30 13:24:37

15位高精度的小数到文本()

苹果2014 · 发表于 2025-10-11 23:38:59

数计算精度的重大bug | 附：15位高精度的小数到文本()

a759077146 · 发表于 2025-10-9 12:55:05

11111111111

kca · 发表于 2025-9-16 10:06:37

我看看，学学

		自动登录	找回密码
密码			立即注册

[视窗] 小数计算精度的重大bug | 附：15位高精度的小数到文本()