求助fx991cnx

在数学输入数学输出时按20➗19-1输出的形式不是分数，按转换键也没用

这是为什么

调成数I小O模式了。

sm11 数学模式。

除号换成分数

999CNCW的23位精度就没这个问题

用除法能显示分数，是因为算出小数结果后再尝试化成分数。某些情况下会化不出来，或者化成错误的（比如不带π的结果化出来个π）

精度問題

20÷19循环节高达18位，超过了内部运算精度，小数化分数就可能化不出来

用除号的时候存储的是浮点数，用分数线的时候存储的就是对应的原式，自然算出来不一样，可以看看@喜羊羊第x代的那篇PDF

可以理解成math输出下除号的结果是计算器尝试用分数接近浮点数，分数线直接输出结果

得力nb

恭喜楼主找到了15位精度机型的bug，在12位或23位精度的机型下没有这问题

下载贴吧APP
看高清直播、视频！

分享到: