MSXのBASICは浮動小数点の仮数部がBCDだったよね

dickbruna のブックマーク 2024/05/26 20:44

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4753854235619733824/comment/dickbruna" data-user-id="dickbruna" data-entry-url="https://b.hatena.ne.jp/entry/s/qiita.com/mlab/items/647ac3416e2bdcbe3163" data-original-href="https://qiita.com/mlab/items/647ac3416e2bdcbe3163" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fqiita.com%2Fmlab%2Fitems%2F647ac3416e2bdcbe3163" data-user-icon="/users/dickbruna/profile.png">面接官「0.1 + 0.2 == 0.3 が成立しない理由を説明せよ」 - Qiita</a><br><p style="clear: left">MSXのBASICは浮動小数点の仮数部がBCDだったよね</p><a class="datetime" href="https://b.hatena.ne.jp/dickbruna/20240526#bookmark-4753854235619733824"><span class="datetime-body">2024/05/26 20:44</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！

面接官「0.1 + 0.2 == 0.3 が成立しない理由を説明せよ」 - Qiita

qiita.com/mlab2024/05/23

なぜかこれは、計算機が浮動小数点数を2進数で表現する際に、特定の小数は正確に表現できず、誤差が発生するためです。10進数の0.1や0.2は、2進数では無限に続く循環小数となるため、これらの数値を正確に表現す...

73 人がブックマーク・27 件のコメント

他のコメントを読む

＼コメントがサクサク読めるアプリです／

はてなブックマーク

面接官「0.1 + 0.2 == 0.3 が成立しない理由を説明せよ」 - Qiita

はてなブックマーク

公式Twitter

はてなのサービス