“「/」演算子を使用した場合の、間違っている計算結果” この表現に超絶違和感。これ、定義されている誤差の範囲内の浮動小数点数なので、間違ってないよ。「間違っている」のは書いた人。

tsekinetsekine のブックマーク 2017/08/02 02:19

その他

このブックマークにはスターがありません。
最初のスターをつけてみよう!

Python3で巨大な浮動小数計算の結果が変だったので理由を調べてみた - paiza times

    Photo by Jacob Munk-Stander 秋山です。 タイトルのとおり、Python3で巨大な浮動小数計算をした時の計算結果についての話です。 例えば、 11 × ÷ 10 という計算式があったとしましょう。 普通に人力で単純に計算...

    \ コメントが サクサク読める アプリです /

    • App Storeからダウンロード
    • Google Playで手に入れよう