これくらいは数値計算をやる人なら当然知っておいてほしいところではあるけれど（2次方程式の場合、「b*b」と「4ac」で桁数の差が大きすぎて引算するには“有効桁数”が全然足りてない）

mohno のブックマーク 2019/12/26 00:24

<blockquote class="hatena-bookmark-comment"><a class="comment-info" href="https://b.hatena.ne.jp/entry/4679140155174786242/comment/mohno" data-user-id="mohno" data-entry-url="https://b.hatena.ne.jp/entry/s/qiita.com/2754github/items/26a18fe01c8ad221f0ba" data-original-href="https://qiita.com/2754github/items/26a18fe01c8ad221f0ba" data-entry-favicon="https://cdn-ak2.favicon.st-hatena.com/64?url=https%3A%2F%2Fqiita.com%2F2754github%2Fitems%2F26a18fe01c8ad221f0ba" data-user-icon="/users/mohno/profile.png">数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる - Qiita</a><ul class="comment-tag" style="list-style: none; margin: 0px;"><li style="float: left">[<a href="https://b.hatena.ne.jp/q/Qiita">Qiita</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/2754github">2754github</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E8%A8%88%E7%AE%97">計算</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E9%96%8B%E7%99%BA">開発</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9F%E3%83%B3%E3%82%B0">プログラミング</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E8%AA%A4%E5%B7%AE">誤差</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E6%8A%80%E8%A1%93">技術</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/%E7%A0%94%E7%A9%B6">研究</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/MATLAB">MATLAB</a>]</li><li style="float: left">[<a href="https://b.hatena.ne.jp/q/Python">Python</a>]</li></ul><br><p style="clear: left">これくらいは数値計算をやる人なら当然知っておいてほしいところではあるけれど（2次方程式の場合、「b*b」と「4ac」で桁数の差が大きすぎて引算するには“有効桁数”が全然足りてない）</p><a class="datetime" href="https://b.hatena.ne.jp/mohno/20191226#bookmark-4679140155174786242"><span class="datetime-body">2019/12/26 00:24</span></a></blockquote><script src="https://b.st-hatena.com/js/comment-widget.js" charset="utf-8" async></script>

このブックマークにはスターがありません。
最初のスターをつけてみよう！