渡部 善隆: 数値計算と誤差の話〜浮動小数点演算はどれくらい信用できるか〜, 九州大学大型計算機センター広報, Vol.27, No.5 (1994), pp.556-580.
数値計算と精度との関係を随筆風にまとめたものです。 浮動小数点演算の結果がおかしくなる例をいくつか紹介しています。25ページ。
〔ひとつ戻る〕 〔メインメニューに戻る〕