根据相对误差限估算有效数字位举例例:求501/2的近似解,要求相对误差不超过10-4,问应当精保留多少为有效数字?确到小数点后第几位?
解:501/2的首位数字为7,由

可解得p=4.
由于501/2的近似解得小数点左边有一位,所以应当精确到小数点后第三位。
提示:如果是考试作这种类型的题,切不要先取对数后取整。事实上,由
10-p≤1.6·10-4
立即可得p=4.
注释:对于求实际来说,我们不必这样精确计算。简单地说,如果要求相对误差不超过10-n,那么简单地保留n+1位有效数字即可。如果使用计算机计算,当然可以在程序中控制相对误差。