丸め誤差を理解する:コンピューター数値計算における落とし穴
の「丸め誤差の種類」では、コンピューターで発生する丸め誤差のさまざまな分類について説明しています。丸め誤差は一般的に、切り捨て誤差、切り上げ誤差、四捨五入誤差の3つに分類されます。
* 切り捨て誤差は、小数部分をすべて切り捨てて丸めることで発生します。例えば、0.34を小数点以下1桁で切り捨てると0.3になります。
* 切り上げ誤差は、小数部分をすべて切り上げて丸めることで発生します。例えば、0.34を小数点以下1桁で切り上げると0.4になります。
* 四捨五入誤差は、小数点以下のある桁まで丸めることで発生します。例えば、0.34を小数点以下1桁で四捨五入すると0.3になります。