サクサク読めて、アプリ限定の機能も多数!
再掲: 実数での数値計算をしたいなら「差がある程度の誤差より小さければ同じ数」以外にもいろんな注意点があるし、桁数が限られる十進小数を扱いたいんならdecimalがいい。「0.1+0.2≠0.3」では前者には見えないのよね。
matarillo のブックマーク 2024/02/26 11:28
浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記再掲: 実数での数値計算をしたいなら「差がある程度の誤差より小さければ同じ数」以外にもいろんな注意点があるし、桁数が限られる十進小数を扱いたいんならdecimalがいい。「0.1+0.2≠0.3」では前者には見えないのよね。2024/02/26 11:28
このブックマークにはスターがありません。 最初のスターをつけてみよう!
rsk0315.hatenablog.com2024/02/25
お近づきになりたい人向けシリーズです。 いろいろなトピックを詰め込みましたが、「これら全部を知らないといけない」のようなつもりではなく、いろいろなことを知るきっかけになったらいいなという気持ちなので...
281 人がブックマーク・18 件のコメント
\ コメントが サクサク読める アプリです /
再掲: 実数での数値計算をしたいなら「差がある程度の誤差より小さければ同じ数」以外にもいろんな注意点があるし、桁数が限られる十進小数を扱いたいんならdecimalがいい。「0.1+0.2≠0.3」では前者には見えないのよね。
このブックマークにはスターがありません。
最初のスターをつけてみよう!
浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記
お近づきになりたい人向けシリーズです。 いろいろなトピックを詰め込みましたが、「これら全部を知らないといけない」のようなつもりではなく、いろいろなことを知るきっかけになったらいいなという気持ちなので...
281 人がブックマーク・18 件のコメント
\ コメントが サクサク読める アプリです /