サクサク読めて、アプリ限定の機能も多数!
前提条件を聞く。コンピューター上のはなしか?10進数か?どういう言語仕様なのか?など。必ずしも成立しない訳じゃないよね?
hryord のブックマーク 2024/05/26 12:43
面接官「0.1 + 0.2 == 0.3 が成立しない理由を説明せよ」 - Qiita前提条件を聞く。コンピューター上のはなしか?10進数か?どういう言語仕様なのか?など。必ずしも成立しない訳じゃないよね?2024/05/26 12:43
このブックマークにはスターがありません。 最初のスターをつけてみよう!
qiita.com/mlab2024/05/23
なぜか これは、計算機が浮動小数点数を2進数で表現する際に、特定の小数は正確に表現できず、誤差が発生するためです。10進数の0.1や0.2は、2進数では無限に続く循環小数となるため、これらの数値を正確に表現す...
72 人がブックマーク・28 件のコメント
\ コメントが サクサク読める アプリです /
前提条件を聞く。コンピューター上のはなしか?10進数か?どういう言語仕様なのか?など。必ずしも成立しない訳じゃないよね?
このブックマークにはスターがありません。
最初のスターをつけてみよう!
面接官「0.1 + 0.2 == 0.3 が成立しない理由を説明せよ」 - Qiita
なぜか これは、計算機が浮動小数点数を2進数で表現する際に、特定の小数は正確に表現できず、誤差が発生するためです。10進数の0.1や0.2は、2進数では無限に続く循環小数となるため、これらの数値を正確に表現す...
72 人がブックマーク・28 件のコメント
\ コメントが サクサク読める アプリです /