Excelの精度 | imaicの日記 | スラドExcel で浮動小数点演算の結果が正しくない場合がある http://support.microsoft.com/kb/78113/ja に依ると >Excel の場合、格納できる最大値は 1.79769313486232E+308、格納できる正の最小値は 2.2250738585072E-308 です。 とのことなのでIEEE754倍精度のように思えるが、計算精度は単精度のようだ。 ExcelのA1セルに「10」、A2セルに「=(10^(1/2^A1))^(2^A1)」の式を入れる。 得られる値は「10」であることを確認する。 ※この式はA1に何を入れても10になる。 A1の値を20,30と増やしていくと、40あたりから怪しくなってくる。 1.0E+38までとすれば、どうやら単精度のように思える。
Advanced Microsoft Excel Consultancy and Solution Development -Decision Models
