科学计算器对超小数的支持问题【mfp吧】

mfp吧关注：778贴子：4,986

目前的智慧计算器最小数只能算到10^-47这个量级，再小就会归零。这样的话某些需要用到普朗克常数的公式代入数值后就会无法计算。希望编者大大能够拓展一下智慧计算器数值数量级的下限，能像卡西欧一样到10^-99或者更小，谢谢编者大大

送TA礼物

IP属地:江苏

1楼2021-03-01 19:07回复

主要是精度和准确性之间很难取舍。比如你用JAVA计算1/2.0-1/3.0-1/6.0，你会得到一个很小的数，比如10的负多少次方。这时候是该把它当作0还是不是0，真的很难处理。

IP属地:澳大利亚

2楼2021-03-01 19:49

这门编程语言是少数几个能0.1+0.2==0.3的，已经够精确了

3楼2021-03-31 23:57

下载贴吧APP
看高清直播、视频！

贴吧热议榜

发表回复

内容:

使用签名档查看全部

发表

保存至快速回贴