記事へのコメント97

    • 注目コメント
    • 新着コメント
    junnishikaw
    junnishikaw MSXはちゃんと1になるMath-Packという演算ルーチンを標準でOS上に持っているのが強みでした。

    2021/12/03 リンク

    その他
    ku__ra__ge
    ku__ra__ge 10進数の0.01は有限の桁数の2進数では表現できないからね。三分の一を3つ足したときに有限の桁数で計算したら1にならないって文句いってるようなもんだよ。

    2018/11/21 リンク

    その他
    mas-higa
    mas-higa IEEE754

    2018/11/21 リンク

    その他
    naga_sawa
    naga_sawa 大抵の実装はIEEE規格に沿ってるからそりゃそうだろうと/30年前といっても1980年代だから規格は既にあったわけで

    2018/11/21 リンク

    その他
    amsoat
    amsoat なるほどなー。雰囲気だけ理解した。笑

    2018/11/20 リンク

    その他
    ks1234_1234
    ks1234_1234 floatだからねえ といってもdoubleの結果とかしらんが。

    2018/11/20 リンク

    その他
    rryu
    rryu どの環境で計算しても同じ誤差になるように努力した結果として同じ誤差が出ているという。

    2018/11/20 リンク

    その他
    obaratch
    obaratch 参考: ブラウザコンソールで Array(10000).fill(0.01).reduce((sum,n)=>(sum+n), 0) とすると手元のMacでは 100.00000000001425 となった。

    2018/11/20 リンク

    その他
    tribird
    tribird じゃあ、100になる計算法は?(読んでない)

    2018/11/20 リンク

    その他
    shinagaki
    shinagaki "横からすみませんが明朝体でコーディングしてるの初めて見ました…!"

    2018/11/20 リンク

    その他
    ka-ka_xyz
    ka-ka_xyz 昔々居た会社が仕入れていたソフトで「帳票処理にも使える!」ってうたい文句だったのに内部ではdouble型で数値扱ってたのがあって、しかもそれ指摘したら「javaの仕様だから」みたいなアホな返答が返ってきてBigDecimalェ

    2018/11/20 リンク

    その他
    kkobayashi
    kkobayashi ふるいPCだから精度が低いわけではないw

    2018/11/20 リンク

    その他
    Chishow
    Chishow これは、プログラマと非プログラマで驚くところが違う案件w

    2018/11/20 リンク

    その他
    satomi_hanten
    satomi_hanten 明朝体ツッコミワロタ

    2018/11/20 リンク

    その他
    sds-page
    sds-page 「Decimal使え」で終わる話では

    2018/11/20 リンク

    その他
    digo
    digo こんぴゅーたの中はわれわれの日常とは異なる次元の世界なのだ

    2018/11/20 リンク

    その他
    hayashikousun
    hayashikousun ハードウェアやOSをバージョンアップしただけで今まで正常に動いていたプログラムの挙動変わったら困るじゃん。再現性は必須。

    2018/11/20 リンク

    その他
    masayoshinym
    masayoshinym そこでCOBOLですよ。

    2018/11/20 リンク

    その他
    mongrelP
    mongrelP まあ今だとちゃんと計算するなら有理数使えばいい

    2018/11/20 リンク

    その他
    aroechan
    aroechan 浮動小数点の話なんだから当たり前やろ/古典カオスとかも関係している

    2018/11/20 リンク

    その他
    KariumNitrate
    KariumNitrate COBOL最強という話?▼そういえば今の人生ではMSXから入ったので、98使い始めてからこの現象に出会ったんだよなあ。固定小数点の再発明をしようとしてたし(3時間坊主)。

    2018/11/20 リンク

    その他
    otihateten3510
    otihateten3510 こういう事があるからやべーよってよく教科書に書いてるけど、それが影響するプロジェクトに当たらなかったのは幸運なのか。もう大分脳の片隅に追いやられている。

    2018/11/20 リンク

    その他
    blueboy
    blueboy 理由: 0.1 のような値は十進法では有限桁で表記可能だが、二進法では無限桁の循環小数となる。このため、一般的な二進法の浮動小数点数演算では 0.1 の表現に丸め誤差がある   http://j.mp/2zkCSok 参考 http://j.mp/2zhjvwB

    2018/11/20 リンク

    その他
    slkby
    slkby 30年経った違う処理系でも挙動が変わってない良い仕様

    2018/11/20 リンク

    その他
    delphinus35
    delphinus35 「なぜ違う結果になると思った!??」と思いながら開いたが……まあそんなもんだよな……

    2018/11/20 リンク

    その他
    atoh
    atoh それが伝統というものです。(ウソっぱち)

    2018/11/20 リンク

    その他
    naqtn
    naqtn 参考:各種言語の 1+2 の比較サイト https://0.30000000000000004.com/ (ドメインが洒落てる)

    2018/11/20 リンク

    その他
    hunyoki
    hunyoki 足りない分は切り捨てられてんの?全自動資本主義?

    2018/11/20 リンク

    その他
    p_tan
    p_tan やっぱり二進浮動小数点数は人類が使いこなせないものの一つ。あと言語標準で最大サイズの整数型をロスなく格納できる浮動小数点数型用意してくださいお願いします。

    2018/11/20 リンク

    その他
    mohno
    mohno 「変わったら困る」w だから小数第2位で四捨五入とか気軽に言うなと。今ではdecimalが使える言語も多いが、C/C++は数値の内部表現までを規格で決めているわけじゃないからなあ。

    2018/11/20 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック!
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話 - Togetter

    mはげ @Tw_Mhage 30年前の名著「数値計算の常識」を読んでたらBASICで0.01を10000回足したら100.003に...

    ブックマークしたユーザー

    • techtech05212024/02/21 techtech0521
    • junnishikaw2021/12/03 junnishikaw
    • akiu-ksg2019/09/16 akiu-ksg
    • htutu2018/12/02 htutu
    • sawarabi01302018/11/23 sawarabi0130
    • ug_idol2018/11/22 ug_idol
    • ku__ra__ge2018/11/21 ku__ra__ge
    • mas-higa2018/11/21 mas-higa
    • htmikan2018/11/21 htmikan
    • naga_sawa2018/11/21 naga_sawa
    • a-hamahama2018/11/21 a-hamahama
    • maidcure2018/11/21 maidcure
    • amsoat2018/11/20 amsoat
    • ks1234_12342018/11/20 ks1234_1234
    • rryu2018/11/20 rryu
    • mjtai2018/11/20 mjtai
    • obaratch2018/11/20 obaratch
    • tribird2018/11/20 tribird
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事