タグ

2009年7月7日のブックマーク (1件)

  • Tips for the Numerical Computation using GNU/Linux

    この上限の値を超過すると数値計算上は無限大と扱われてInfとなります. (上記の記述はSun Forte Developerのマニュアルの「数値計算ガイド」を参考にしました.) (発生場所の特定方法) InfやNaNが発生する場所を特定したい. 演算の結果が上記のInfやNaNとなる時の検出のために SigFPE(Floating Point Exception, 日語では演算例外もしくは浮動小数点例外) というシグナルがあるのですが,数値計算を行う上では不合理なことに, デフォルトでは演算例外が起こってもSigFPEを発生せずに計算が続行されます. そのため,InfやNanの発生場所の特定のためには, 演算例外でこのSigFPEが発生するようにすればよいことになります. (すると,Kernel側でシグナルを検出してプログラムが停止します.) しかし,デバッグのためにプログラムをわざわざ