cdmmye 发表于 2024-7-11 17:13:30

火山的数值计算是不是有问题？

100000000 * 50 结果居然等于 705032704 求解

hcwanz 发表于 2024-7-11 17:28:55

你用字节可以发现更神奇的事情， 100+100都会算错

cdmmye 发表于 2024-7-11 17:36:40

hcwanz 发表于 2024-7-11 17:28
你用字节可以发现更神奇的事情， 100+100都会算错

嗯嗯火山真的很神奇，我用长正数变量，计算就正常了，真的很神奇

tmf19901124 发表于 2024-7-11 18:14:09

你自己的问题，你乘出的结果已经超出了有符号整数的最大值21亿了，肯定会出错

uuyyhhjj 发表于 2024-7-11 18:14:10

这东西多少要理解点内存基础的，一个字节8位，整数是4个字节，其中10进制最大4294967295，但火山没有无符号整数所以能计算的最大值是2147483647，减少了一半，另一半是给负数用的，长整数是8个字节的，能放的数值更大，你用打开计算器调到二进制试试多少就能理解了，

xo37 发表于 2024-7-12 15:03:19

火山，沿袭易语言的这个没有无符号，是基于什么的考量，好奇……

山梦 发表于 2024-7-15 10:22:43

:D(这 锅 火山不背
页: [1]
查看完整版本: 火山的数值计算是不是有问题？