やっぱり二進浮動小数点数は人類が使いこなせないものの一つ。あと言語標準で最大サイズの整数型をロスなく格納できる浮動小数点数型用意してくださいお願いします。

p_tan のブックマーク 2018/11/20 07:55

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/374249555/comment/p_tan" data-user-id="p_tan" data-entry-url="https://b.hatena.ne.jp/entry/s/togetter.com/li/1289806" data-original-href="https://togetter.com/li/1289806" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Ftogetter.com%2Fli%2F1289806" data-user-icon="/users/p_tan/profile.png">30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話 - Togetter</a><br><p style="clear: left">やっぱり二進浮動小数点数は人類が使いこなせないものの一つ。あと言語標準で最大サイズの整数型をロスなく格納できる浮動小数点数型用意してくださいお願いします。</p><a class="datetime" href="https://b.hatena.ne.jp/p_tan/20181120#bookmark-374249555"><span class="datetime-body">2018/11/20 07:55</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話 - Togetter

togetter.com2018/11/19

ｍはげ @Tw_Mhage 30年前の名著「数値計算の常識」を読んでたらBASICで0.01を10000回足したら100.003になるとか書いてあった。まあ昔のPCなんてそんなものかなと思いながら、Visual Studio 2017で試してみたら同...

287 人がブックマーク・98 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話 - Togetter

はてなブックマーク

公式Twitter

はてなのサービス