サクサク読めて、アプリ限定の機能も多数!
「変わったら困る」w だから小数第2位で四捨五入とか気軽に言うなと。今ではdecimalが使える言語も多いが、C/C++は数値の内部表現までを規格で決めているわけじゃないからなあ。
mohno のブックマーク 2018/11/20 07:46
30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話 - Togetter[togetter][開発][数][Visual Studio][C言語][C++]「変わったら困る」w だから小数第2位で四捨五入とか気軽に言うなと。今ではdecimalが使える言語も多いが、C/C++は数値の内部表現までを規格で決めているわけじゃないからなあ。2018/11/20 07:46
このブックマークにはスターがありません。 最初のスターをつけてみよう!
togetter.com2018/11/19
mはげ @Tw_Mhage 30年前の名著「数値計算の常識」を読んでたらBASICで0.01を10000回足したら100.003になるとか書いてあった。まあ昔のPCなんてそんなものかなと思いながら、Visual Studio 2017で試してみたら同...
288 人がブックマーク・97 件のコメント
\ コメントが サクサク読める アプリです /
「変わったら困る」w だから小数第2位で四捨五入とか気軽に言うなと。今ではdecimalが使える言語も多いが、C/C++は数値の内部表現までを規格で決めているわけじゃないからなあ。
このブックマークにはスターがありません。
最初のスターをつけてみよう!
30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話 - Togetter
mはげ @Tw_Mhage 30年前の名著「数値計算の常識」を読んでたらBASICで0.01を10000回足したら100.003になるとか書いてあった。まあ昔のPCなんてそんなものかなと思いながら、Visual Studio 2017で試してみたら同...
288 人がブックマーク・97 件のコメント
\ コメントが サクサク読める アプリです /