負の数の四捨五入（1990東工大後期）

東工大の問題
負の数の四捨五入の定義
解答はどう変わるか

昔の東工大の問題を眺めていたら「負の場合はやばい」みたいなことが書いてあったので調べました。

東工大の問題

$(x+1)(x-2)$ の小数第 1 位を四捨五入したものが $1+5x$ と等しくなるような実数 $x$ を求めよ。

普通に解く分にはなんの問題もありません。
負の数の四捨五入も整数部分と小数部分にわければ簡単です。

$-1.1=-2+0.9\fallingdotseq -1$

$-1.9=-2+0.1\fallingdotseq -2$

$-1.5=-2+0.5\fallingdotseq -1$

では，いったい何がやばいのでしょうか？

負の数の四捨五入の定義

負の数の四捨五入の定義を調べてみましょう。まずは wikipedia から。

$0.5$ を足して切り捨てるという、単純なアルゴリズムで得られる。なお、負の数に対して正常な結果を得ようとすれば、切り捨ては負の無限大への丸めである必要がある（0 への丸めだと、たとえば $-2$ が $-1$ に丸められてしまう）。ただし、 $0.5$ を足して負への無限大へ丸めると、端数が $0.5$ の場合に絶対値が減る（たとえば、 $-1.5$ は $-1$ へと丸められる）。一方、JIS Z 8401では、負の数は絶対値として丸める（ $-1.5$ は $-2$ へと丸められる）。実際に、コンピュータで負の数に「0.5を足して切り捨て」た場合どうなるかは、負の数と切り捨ての実装による。
端数が $0.5$ のとき常に増える方向に丸められるため、わずかに正のバイアスがある。
http://ja.wikipedia.org/wiki/端数処理
 http://en.wikipedia.org/wiki/Rounding

前段の「丸め」の説明をカットしたのでわかりにくいかもしれませんが，「実装による」がまずそうなのはわかると思います。英語版 wikipedia には実装の例が載っていて，round down / round up / round toward zero / round away from zero / round to nearest で使う関数がすべて違います。

次は JIS Z8401:1999 です。