JavaScriptにおける、丸め誤差の掛け算テスト
JavaScriptにおける、丸め誤差の掛け算テスト 単価： 数量： ※計算ボタンを押してみてください。 どんな結果が出てくるでしょうか？ 結果： 四捨五入： ※とてもカンタンな計算なのに、こんなになってしまいます(; ;)。 【原因】 計算機における丸め誤差が原因です。 通常の数値計算ルーチンは数値はすべて２進数扱いにするが、 ２進数では１０進数の小数を表現しきれないためにこういう現象がおこる。 ２進数の桁は２の累乗扱いになるわけだが、小数だと、２の-1乗（つまり1/2)、 ２の-2乗(1/4)という単位になる。 したがって、２のマイナス何乗かの数値の合成でうまく表現できない。 数値は無限小数になって、最後の桁を切り捨てした部分の誤差ができてしまう。 補正後 ※いったん1000倍してから積を求め、積を1000で割った後四捨五入
妖精現実
[ 遊びの数論 ] [ 数学・プログラミング ] [ チラ裏（雑記） ] [ 天文・暦 ] [ シリア語・Unicode・詩 ] [ ジョーク ] [ 漫画・アニメ ] [ 字幕 ] [ 哲学・ファンタジー ] [ 主な新着コンテンツ ] 2025-11-04 x3 + y3 = 2z3 虫食いパズル パズル《3個の3乗を足して3》 三つの空欄に当てはまる整数（等しいとは限らない）は？ (□/4)3 + (□/6)3 + (□/12)3 = 3 よくある「四つの 4 で～を作れ」と同種の、数字の遊戯。 □ に当てはまる数はおおむね1桁、最大でも10台なので、ブルートフォース（全パターンを試すこと）で答えを見つけることは易しい。とある錯覚に陥らなければ… 「フェルマーの最終定理の拡張」には、こんな娯楽パズルのようなものも含め、いろんな話題がある。前回、 x3 + y3 = 3z3 には（x
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
http://www.interq.or.jp/japan/satoshi0/sample/syosu/index.htm