タグ

プログラミングと絶対誤差に関するXenosのブックマーク (1)

  • -- 基礎から学ぶコンピュータ -- 《第五十九号》

    ┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓ ┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛ -- 基礎から学ぶコンピュータ -- 《第五十九号》 ┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓┏┓ ┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗┛┗ ┳━━━━━━━━━━┳━━━━━━━━━━━━━━━━━━━━━━━ ┃コンピュータとデータ┃ ┻━━━━━━━━━━┻ ∈≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡∋ 実数(13) ∈≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡≡∋ ■ ulp と機械イプシロン ■ ある桁で丸めた時に発生する誤差を「丸め誤差」と言います。10進数の有限 小数を2進数で表すと、そのほとんどが循環小数に

  • 1