ページをブックマークして共有する

COMMENTコメントで知る

記事へみんなの感想が集まる

megumin1 「decimal型は全ての実数を正確に表現できる」といっている人なんて見たことないです。これは架空の藁人形を相手にした記事にしか思えないです。 2024/06/09
Kanasansoft decimalって十進とか小数って意味なので、1/3*3で誤差が出るのは当たり前では? programming 2024/06/08
umaemong ちょっと言葉が強い気はするが、こう言いたくなる気持ちは分かる。あの手の記事って書いてる方の知識が十分でないなと思うことが多い。浮動かどうかは無関係で、割り切れなければ誤差がでるのは当然。 2024/06/08
kaiton COBOLの時も計算順は考えていた記憶がある、途中経過でまるめや桁溢れを起こさないように 2024/06/09
kagehiens そこまで夢を見てしまうイタい奴とかいるもんなの? 基本、社会通念上の小数の扱いと一致させやすいというメリット以外を推してこられる事なんかないでしょ。逆に言うと2進小数は科学計算以外、常に扱いに注意が必要。 2024/06/08