タグ

2013年9月19日のブックマーク (1件)

  • 第2回:浮動小数点数・極限・微分 - プログラマの為の数学勉強会

    プログラマの為の 数学勉強会 第2回 (於)ワークスアプリケーションズ 中村晃一 2013年9月19日 謝辞 この会の企画・会場設備の提供をして頂きました ㈱ ワークスアプリケーションズ様 にこの場をお借りして御礼申し上げます。 この資料について http://nineties.github.com/math-seminar に置いてあります。 SVGに対応したブラウザで見て下さい。主要なブラウザで古いバージョンでなければ大丈夫だと思います。 内容の誤り、プログラムのバグは@9_tiesかkoichi.nakamur AT gmail.comまでご連絡下さい。 サンプルプログラムはPythonで記述しています。 浮動小数点数と誤差 浮動小数点数と誤差 浮動小数点数を利用した計算結果には誤差が含まれます。 複雑な計算をしたり多数のデータを扱う場合にはその影響が目に見えて現れますので, 最初に

    pipehead
    pipehead 2013/09/19
    > オーバーフロー・アンダーフローは巨大な数・微小な数の乗除累乗算などによって発生します。典型的な回避方法は対数を利用する事です。