[B! 数値計算] koma_gのブックマーク

koma_g id:koma_g

数値計算に関するkoma_gのブックマーク (3)

ÉâÆ°¾®¿ôÅÀ±é»»¤Ë¤Ä¤¤¤Æ
ÉÕÏ¿ D ÉâÆ°¾®¿ôÅÀ±é»»¤Ë¤Ä¤¤¤Æ Ãí - ¤³¤ÎÉÕÏ¿¤Ï¡¢1991 Ç¯ 3 ·îÈ¯¹Ô¤Î "Computing Surveys" ¤Ë·ÇºÜ¤µ¤ì¤¿ "Every Computer Scientist Should Know About Floating-Point Arithmetic" ¹Æ (David GoldbergÃø) ¤òºÆÊÔ½¸¤·¡¢Ãøºî¸¢¤òÍ¤¹¤ë Association for Computing Machinery ¼Ò (Copyright 1991) ¤Îµö²Ä¤Î¤â¤È¤Ë¡¢°õºþ¤·¤Ê¤ª¤·¤¿¤â¤Î¤Ç¤¹¡£ ³µÍ× ÉâÆ°¾®¿ôÅÀ±é»»¤Ï¡¢³µ¤·¤ÆÆñ²ò¤ÊÌäÂê¤È¤·¤Æ¼õ¤±¼è¤é¤ì¤ë¤³¤È¤¬¤¢¤ê¤Þ¤¹¡£¥³¥ó¥Ô¥å¡¼¥
koma_g 2018/06/17
数値計算

数値

型

浮動小数点数

考え方
リンク
数値計算の常識 - 共立出版
第1章　数の表現と誤差第2章　桁落ちに気をつけよう(その1) 第3章　桁落ちに気をつけよう(その2) 第4章　たった1回だけの計算なんて… 第5章　逆行列よさようなら第6章　単位と次元第7章　数値積分法―台形則を使いこなすには第8章　数値微分法―打切り誤差と丸め誤差の闘い第9章　Newton法第10章　複素数の計算第11章　代数方程式第12章　常微分方程式の初期値問題第13章　数値計算の手間の理論と実際第14章　数値計算の中の非数値計算第15章　補間(内挿) 第16章　雲形定規とスプライン―続補間第17章　刻みは細かければ良いというものではない―偏微分方程式I（拡散方程式）第18章　偏微分方程式II（楕円形方程式）第19章　数列の収束の速度第20章　数列の収束の加速第21章　中間変数の活用第22章　固有値の計算第23章　モンテ・カルロ法数値計算関係学
koma_g 2018/06/17
数値計算

数値

型

book
リンク
金融系メインフレームはなぜCOBOLをつかうのか
くまぎ @kumagi 「COBOLじゃないとお金の計算は狂うからCOBOLにしか金融系は任せれない」というの、例えばPythonで金融の計算をすると具体的にどういう狂い方するんでしょう？ Miura Hideki @miura1729 @kumagi 1円以下を扱うと、普通は浮動小数点数になるからそこで誤差が生じるけど、COBOLは10進演算で行うことと言語仕様で決まっているから大丈夫という話だと思います。固定小数点とかでライブラリ書けばいいんでしょうが、それも手間だし。
koma_g 2014/12/30
cobol

数値計算

金融

型

数値
リンク
1