当たり前だけど忘れちゃいけないプログラミング基礎 - ぴよぴよ.py

231っていくつくらい？って聞かれて (ﾟ-ﾟ;)(;ﾟ-ﾟ)(ﾟ-ﾟ;)(;ﾟ-ﾟ)ってしてたら、プログラマ名乗れない(´；ω；｀) 最近お勉強して、いろんなところで役立ちそうなプログラミングの基礎知識をめも。 intの範囲 intは32bitなので 2-31 <=int < 231 231は21億くらい。 float(C++)の精度 単精度だと 符号部1bit 指数部8bit 仮数部23bit 2-8以上28未満の桁の数字を 223 + 1の精度で表現できる。 223 + 1は、大体10進数で7桁分くらい floatってせいぜい7桁分くらいしか小数以下を正確に表せないのかーと思うとしょぼい感じする。 C++のdoubleやPythonのfloatは倍精度なので、 符号部1bit 指数部11bit 仮数部52bit 15桁分くらいの精度。 250はどれくらいの数か 210は1024。 だ

[cocodrips]

かいた