記事へのコメント31

    • 注目コメント
    • 新着コメント
    otihateten3510
    固定小数点が気軽に使えないところも結構あると思うんだけど

    その他
    progrhyme
    Python

    その他
    okamotoy
     「アタリマエ」と思って深く考えていませんでした. 「顧客に寄り添ってない」と反省しています.

    その他
    PrivateIntMain
    内部表現の知見。繰り返し足しこむと誤差分が積み上がる。それで困る有効桁数を保証するなら固定小数を採用する。逆に100とか1000とか気にしなくていいでかい数扱うなら浮動小数でいいかも。

    その他
    lalupin4
    割り算の可能性のある列は迷わず decimal 型にしてしまいます。非効率はお詫びします。精度を優先します。

    その他
    kkobayashi
    float=浮動小数点数、と意識して使ってる人あまりいないと思う、上手いこと良きに計らってくれてるんですね

    その他
    macj_jp
    確かになんでだろと思ってたけど、調べたことなかった/BCDと小数点は独立した概念。BCDの浮動小数点数もあるわけで。

    その他
    linusvp
    linusvp 言葉の正確さにこだわるなら、有効桁数内の固定小数点数でも算術なしに誤差が出る型はあり得ます。誤差の有無は、固定か浮動かではなく、実数の符号化方法によって決まります。

    2020/01/22 リンク

    その他
    sisya
    sisya 浮動小数点は一度勉強して理解することそのものに意味があると思うので、無駄ではないと思うのだが、トップコメントの「すぐ忘れる」に同意の気持ちしかわかず、ギャップで笑ってしまった。

    2020/01/22 リンク

    その他
    chimerast
    固定小数点に対しても思考停止している人はいて、固定小数点だから計算誤差は生まれない!(キリッ)とか言う人がたまーにいて困る。誤差を仕様に落とし込めるだけで、誤差は出るから。

    その他
    nabe1121sir
    どことは言わないが、テーブルの「単価」フィールドがdoubleだったときは衝撃を受けたことがあるな。

    その他
    misomico
    こわい

    その他
    gogatsu26
    “浮動小数点の式に当てはめると……、コンピュータ上で0.1は 0.10000000000000000555111512312578270211815834045410156250.1000000000000000055511151231257827021181583404541015625 として扱われていることがわかります。”

    その他
    shikiarai
    やんちゃだ……

    その他
    ryuichi1208
    リンク先のツール良さそう

    その他
    b4takashi
    なるほど…?(半分くらい分かっていない)

    その他
    crevice
    crevice 正直なことを申し上げると、小数点の扱いは勉強して理解してもすぐに忘れる…

    2020/01/22 リンク

    その他
    humid
    humid “例えば0.1を3回足したときに0.3ぴったりにならない” 思っていたより結構影響が大きかった。

    2020/01/22 リンク

    その他
    mohno
    「Python 3.1 からは、ほとんどの場面で 0.1 のような最も短い桁数の10進数の値を選ぶ」←そうなのか。「Python以外の言語」←C/C++は決められた有効桁数で表示してるだけだぞ。リンク先のツールは興味深い。

    その他
    renovicxtan
    なるほど

    その他
    kotetsu306
    kotetsu306 固定小数点でも、二進数表現なら0.1は正確に表現できないと思うけど。必要なのはBCDでは

    2020/01/22 リンク

    その他
    eru01
    eru01 計算機イプシロンの話をすれば終わると思うんだが。知らんやつおらんやろ

    2020/01/22 リンク

    その他
    deep_one
    厳密さを要求されるシステムだと、少数が浮動小数で保存されるとも限らなかったような。

    その他
    khwarizmi
    すごい。この方法考えた人賢い

    その他
    yarumato
    “浮動小数点はここではIEEE 754 倍精度(double, 64bit)。 printしたときに0.1と表示されるのはなぜかはPython3.7公式ページに答え。0.1に非常に近い数であれば0.1と表示”

    その他
    Palantir
    Palantir 1=0.999999...(無限に続く) っていう感じ?

    2020/01/22 リンク

    その他
    knok
    浮動小数点数内部表現シミュレーターいいなあ

    その他
    UDONCHAN
    へー

    その他
    junglejungle
    junglejungle 固定小数点で済むところを小数点だからと思考停止してdouble使う人、勘弁してほしい。/BCDとか言ってる人は固定小数点を理解してない。

    2020/01/22 リンク

    その他
    lorenz_sys
    lorenz_sys そもそも浮動小数点を分かってないPGもそれなりに確実にいる。実装を分かっていないがために用途も分かっていない残念な層。例えば消費税計算とかお金に関わる処理を浮動小数点型で書いては絶対にダメだよ?

    2020/01/22 リンク

    その他

    注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

    アプリのスクリーンショット
    いまの話題をアプリでチェック!
    • バナー広告なし
    • ミュート機能あり
    • ダークモード搭載
    アプリをダウンロード

    関連記事

    0.1は浮動小数点数で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita

    Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure y...

    ブックマークしたユーザー

    • techtech05212024/03/20 techtech0521
    • santhiagoman2023/07/16 santhiagoman
    • cu392021/02/13 cu39
    • udzura2021/02/12 udzura
    • thotentry_hatebu1972020/12/11 thotentry_hatebu197
    • somathor2020/03/16 somathor
    • hush_in2020/02/01 hush_in
    • akishin9992020/01/29 akishin999
    • Wacky2020/01/25 Wacky
    • nosoosso2020/01/24 nosoosso
    • mjtai2020/01/24 mjtai
    • otihateten35102020/01/24 otihateten3510
    • DustOfHuman2020/01/24 DustOfHuman
    • yogasa2020/01/24 yogasa
    • takc9232020/01/24 takc923
    • t8river2020/01/23 t8river
    • ymm1x2020/01/23 ymm1x
    • yad-EL2020/01/23 yad-EL
    すべてのユーザーの
    詳細を表示します

    同じサイトの新着

    同じサイトの新着をもっと読む

    いま人気の記事

    いま人気の記事をもっと読む

    いま人気の記事 - テクノロジー

    いま人気の記事 - テクノロジーをもっと読む

    新着記事 - テクノロジー

    新着記事 - テクノロジーをもっと読む

    同時期にブックマークされた記事

    いま人気の記事 - 企業メディア

    企業メディアをもっと読む