x + 0.25 - 0.25 = xが成り立たないxとは何か｜Rui Ueyama

スタンフォードのコンピュータサイエンスの授業で、ときどきこれは良問と思う問題がテストで出ることがある。僕の印象に残っているのは「xをfloatとするとき、x + 0.25 - 0.25 = xが成り立たないxを求めよ」というものだ。浮動小数点数を理解していないと、両辺が同じにならないケースがあるほうが不自然に思えるだろうから、この問題は浮動小数点数の奇妙さを結構うまく突いていると思う。この問題を元に浮動小数点数についてちょっと説明してみよう。 まずコンピュータ上での数について少し考えてみよう。コンピュータにおける数と、数学の整数や実数は、よく考えてみると全然違う。コンピュータは有限の記憶領域しか持っていないので、無数にある数を表すことが根本的にできない。つまりコンピュータ上の数は「本物の数になるべく似せた別の何か」だ。現実的には、例えば32ビットの数なら2^32パターンしか表せないので、そ

[Vorspiel]

解法はすぐ思いつくけど、floatの仮数部と指数部のビット数なんて覚えてない…

[tanakh]

実数部がちょうど丸められる数でしょって思ったけど紙で解かせるのこれ(´･_･`)

[shikiarai]

一体NaNなんだ……

[dekaino]

これは悪い問題。どの言語のfloatだかわからないし、C/C++では実装依存でしょう。fortranのREALも実装依存のはず。たとえばIEEE754の単精度浮動小数点という風に定義しないと解けない問題だ。

[tiisanaoppai]

そう、COBOLならね。

[kotetsu306]

解答例は絶対値が大きすぎて0.25が桁落ちする例。逆に絶対値が小さすぎて、0.25を足すと元のxが桁落ちして消える場合もある。0.25を引くとxが残らず0になる。

[practicalscheme]

元ネタになった問題の全解(たぶん)は http://blog.practical-scheme.net/shiro/20160513-flonum-question / id:sbedit1234 広く使われてるコンパイラはデフォルトで安全側に倒すかと。例:gcc,clangは-ffast-mathをつけない限りO3でも律儀に0.25の加減算

[KoshianX]

コンピュータで小数点なんてできるだけ使わないで済ませたいものだねえ……。いやしかしこれホントにちゃんと理解してないと回答できないな……。

[deep_one]

オーバーフローかと思ったら違った。（浮動小数だから、桁がでかい数じゃないとオーバーフローしないのね。）／floatの少数は常にやばいので可能ならdecimalとか使いたくなるよね。／答えはfloatのビット数に依存するな。

[hasegawatomoki]

MSXのSCREEN8がRGB=3bit, 3bit 2bit の8bit256色だったのだけど、その説明に使われていた。 | 「人間の場合、青を知覚する細胞はかなり数が少なくて、青の解像度は他の色に比べてかなり低い。」

[yumainaura]

コンピュータは足し算引き算が苦手。

[massa142]

“現実世界の計測値などを考えると、大きな値には大きな誤差が、小さな値には小さな誤差があるのが普通だから、大きな数をそこまで精密に表せなくても実用上困らない、と考えることができる”

[rasterson]

このまま出題されていたなら良問ではない。いろいろ前提が抜けている。BCD演算できる処理系なら簡単には桁あふれしない。富士通のFMシリーズのBIOSにはBCD演算のソフト割込みがあったな～

[Windymelt]

IDを表現するときにJavascriptが数値を丸めてしまいひどい目にあったことがある。JSではIDは文字列で扱うべきだ

[rck10]

知っておくべき知識としては同意だが、処理系を意識してる時点で高級言語およびコンパイラ側の敗北感は拭えない。

[kebisu]

わかるわかる

[ttskch]

やっと読んだけどとても分かりやすくて面白い

[ys0000]

答えを見る前に解いてみたが間違った。残念。符号bitが指数側と勘違いして倍の答えに。仮数bitが23bitなのだね。

[pmint]

これがガチャのSSレア排出率にも関わっているわけです。

[otihateten3510]

こういうのがあるから、厳密な数値が必要な仕事には近づかないほうが吉だ（と若い頃に思った）　つまり逃げてる

[qtamaki]

基本情報技術者持ってればわかるはず

[dgen]

適当にクッキークリッカーのようなゲームを作ろうとしたら、32bit double型でも１５桁くらいで１桁の加算が丸められた。文字の可変長（Unicode）より数値の可変長が必要でしょ。

[ikahonokaho]

門外漢の自分にも(なんとなく)理解できるように書いているのは凄い❗

[manjirou99]

おもろ

[momontyo]

NaNかと思ったら違った。理屈はわかっても試行錯誤じゃなく計算で解くのは難しい。

[kitaj]

それNaNだろ的なやつかと思ったら違った

[yoshi-na]

いつも為になる記事

[ystt]

“実際のテストだと、試験対策をしてきているとはいってもこれを5分くらいで考えて解かないといけないので結構大変だ。” / 確かに大変だ。

[aya_momo]

タイトルだけ見て、小さい数を考えたわ。

[suzukiMY]

浮動小数点数

[shozzy]

こういうことを防ぐために基本BigDecimalで処理してたな(Java)。そして、doubleで処理してたプロジェクトが案の定この現象で不具合起こしてた。

[yabu_kyu]

「計算機が計算できないって何なの」って思われそうだよねえ。

[kojette]

ためになる

[homarara]

プログラムの話だったら、そのコード自体成り立ってないけどな！ふん！（負け惜しみ）

[xenon_abe]

COBOL...じゃなくても、きょうび困ったらdecimal使やあいいのよ。そしてJavaのBigDecimal...orz

[macj_jp]

予想通り浮動小数点数の話だった。ダイナミックレンジの大きな対象を扱うとこう言う話になる。

[harumomo2006]

VBで小数点を含む100桁の四則演算がしたくて文字列同士を演算する関数作ったことあるわ。適当に作ったので割り算の結果が出るまで1日かかった

[fb001870]

分からん