タグ

2023年12月5日のブックマーク (2件)

  • 小数 - Wikipedia

    のように表現する(なお、日では小数点としてピリオドを用いることがほとんどである)。小数点より左を整数部(分)と呼んで、右から一の位、十の位の数を記述する。小数点より右は小数部(分)と呼んで、1 より小さい位として、左から十分の一の位、百分の一の位の数を順に記述する。上に挙げた数の場合には、十の位は「1」、一の位は「4」、十分の一の位は「2」、百分の一の位は「5」となる。より小さい数を表現する場合には、この後に「千分の一の位」や「一万分の一の位」と順に位を増やすことで対応することができる。 小数部分の位は、小数第一位は「十分の一の位」、小数第二位は「百分の一の位」となるが、単に「小数第一位」「小数第二位」というように序数で呼ぶ例も多い。「小数点以下第 P 位」と呼ぶこともあるが、この場合の「以下」は小数点自体は含まずに数えることになっているので、「小数第 P 位」と同じである。10進数以外

    matarillo
    matarillo 2023/12/05
    「絶対値が0より大きく1より小さい数」を小数と呼ぶこともあるが、より一般には小数点を含む表記法のこと。英語にするとdecimal(十進表記)のように基数を示して呼ぶしかないのが興味深い。
  • 「0.1+0.2≠0.3」を説明できないエンジニアがいるらしい - Qiita

    この記事はNuco Advent Calendar 2023の4日目の記事です。 弊社では、経験の有無を問わず、社員やインターン生の採用を行っています。 興味のある方はこちらをご覧ください。 はじめに 後輩に 「なぜ0.1+0.2≠0.3になるんですか?」 と聞かれて答えられますか? コンピュータの計算では「0.1+0.2」は「0.3」になりません。 これを理解していないと予期せぬ重大なバグを生み出す可能性があります。 分からない方、どうぞ安心してください。 この記事を読んだ全員が「0.1+0.2≠0.3」を理解できるように分かりやすく説明していきます。 コンピュータが計算を間違う理由 まず、そもそも「0.1+0.2=0.3」で正しい!「0.1+0.2≠0.3」なんてあり得ない! という方のために、プログラミング言語のフォーマット処理を経ない、コンピュータの計算結果を見てみます。

    「0.1+0.2≠0.3」を説明できないエンジニアがいるらしい - Qiita
    matarillo
    matarillo 2023/12/05
    浮動小数点演算について計算機科学者は何を知っておくべきか (David Goldberg) それはそれとして10進(decimal)使う方が良さそうよ