エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
実数の表示方法によって精度が足りないように見えることがある - ::Eldesh a b = LEFT a | RIGHT b
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
実数の表示方法によって精度が足りないように見えることがある - ::Eldesh a b = LEFT a | RIGHT b
プログラマのための数学#2を眺めていました。途中から(あまりにもメジャーな処理系である)SML#とNJを... プログラマのための数学#2を眺めていました。途中から(あまりにもメジャーな処理系である)SML#とNJをいじり始めて聞いてませんでしたけど…。 で、いきなりバグ見つけて混乱したり。 序 で、本題です。SMLの実数型であるReal.realがIEEE754準拠であることが要求されますが*1精度は指定されてません。SML/NJ,SML#,MLtonにはどれも倍精度で提供されています。(RealもOptionalで入ってる) 上の講義資料のpythonと同じようにreplに打ち込むと桁数が足りないように見えます。 # 1.0+1e~12; val it = 1.000000000001 : real # 1.0+1e~13; val it = 1.0 : realこれはreplでReal.toString(fmt (StringCvt.GEN NONE))が呼ばれて12桁以降は捨てられてるからで