タグ

関連タグで絞り込む (0)

  • 関連タグはありません

タグの絞り込みを解除

応用情報技術試験に関するtanosikeizaigakuのブックマーク (1)

  • 浮動小数点って何? - Qiita

    件のまとめでは「今の時代になって…」という意見も出てたりしますが、浮動小数点が何か知ってる人にはアタリマエの知識であっても、そうでないと単なる小数データとしか見えなくて、下手すると「計算でズレが出るなんてケシカラン!」という印象を抱くことも少なくないようです。 …来であれば、(大抵の言語に標準で備わっているデータの種類なので)入門書等で知識を身に着けておくものかと思いますが、ちゃんと説明があるか?というとあまり無いようにも思いますので、ざっくり記事にすることにしました。 固定小数点と浮動小数点 一言で言えば、浮動小数点というのは一般の人が想像するような小数ではなく、計算で誤差が発生することを前提とした数値データのことです。 逆に言えば、浮動小数点を使う時は常に近似計算であることを意識し、結果の精度を考えろということでもあります。 それだけだと、何でそんなイケてないことするの? と疑問に思

    浮動小数点って何? - Qiita
    tanosikeizaigaku
    tanosikeizaigaku 2020/06/16
    "浮動小数点というのは一般の人が想像するような少数ではなく、計算で誤差が発生することを前提とした数値データ""浮動小数点を使う意図機は常に近似計算であることを意識し、結果の精度を考えろ"
  • 1