火山的数值计算是不是有问题？

cdmmye · 发表于 2024-7-11 17:13:30

100000000 * 50 结果居然等于 705032704 求解

hcwanz · 发表于 2024-7-11 17:28:55

你用字节可以发现更神奇的事情， 100+100都会算错

cdmmye · 发表于 2024-7-11 17:36:40

hcwanz 发表于 2024-7-11 17:28
你用字节可以发现更神奇的事情， 100+100都会算错

嗯嗯火山真的很神奇，我用长正数变量，计算就正常了，真的很神奇

tmf19901124 · 发表于 2024-7-11 18:14:09

你自己的问题，你乘出的结果已经超出了有符号整数的最大值21亿了，肯定会出错

uuyyhhjj · 发表于 2024-7-11 18:14:10

这东西多少要理解点内存基础的，一个字节8位，整数是4个字节，其中10进制最大4294967295，但火山没有无符号整数所以能计算的最大值是2147483647，减少了一半，另一半是给负数用的，长整数是8个字节的，能放的数值更大，你用打开计算器调到二进制试试多少就能理解了，

xo37 · 发表于 2024-7-12 15:03:19

火山，沿袭易语言的这个没有无符号，是基于什么的考量，好奇……

山梦 · 发表于 2024-7-15 10:22:43

(这锅火山不背

		自动登录	找回密码
密码			立即注册

[视窗] 火山的数值计算是不是有问题？