[
Previous:
浮動小数点型と数値計算(その1)
] [
Up:
浮動小数点型と数値計算(その1)
] [
Next:
2 C言語での数の表現
]
1
本日の学習内容
本日は教科書 [
1
]の第8章である.その中でも倍精度実数型 (
double
)の誤差について学習する.C言語の
double
で宣言された変数は,64ビッ トで表現される.この有限のビット数で表現されるため,どうしても誤差は避けられない. 本日は,これに起因する以下の誤差について学習する.
丸め誤差
情報落ち
打ち切り誤差
ホームページ:
Yamamoto's laboratory
著者:
山本昌志
Yamamoto Masashi
2006-02-06