多语言展示
当前在线:1789今日阅读:84今日分享:32

如何进行高精度数值计算

有时我们需要进行高精度的数值计算,比如在除法运算中需要精确到小数点后 1000 万位。但普通的计算器充其量也就几十位的精度,根本达不到要求。怎样进行超高精度的数值计算呢?下面就向大家介绍。
工具/原料

Linux 系统

方法/步骤
1

启动 Linux 系统,登陆帐户,并打开终端。

2

在终端中输入 bc,回车。

3

用 scale 命令设置要保留到的小数点后的位数。例如,要精确到小数点后 1000万位,则输入scale=10000000,回车。

4

输入要进行的计算式,然后回车。我们以计算 12 除以 17 为例,保留到小数点后 1000 万位。

5

整个计算的过程相当快,也就不到一秒钟的功夫,精确到小数点后 1000 万的结果开始在屏幕上滚动输出。但因为数位多,输出结果的过程可能需要好些秒。

6

注意:每行最后的反斜杠表示下一行是紧连在前一行后面的。

注意事项

此方法不能保留无限位的精确度。

推荐信息