タグ

計算に関するMyLifeのブックマーク (1)

  • Visual Basicサンプル - 任意精度の計算(多バイト計算:円周率π)

    mp.NET.zip (VB.Netバージョン) 基数は256。FFTはNUMERICAL RECIPESのfour1による。 mp4g.NET.zip (VB.Netバージョン) 基数は256。FFTは大浦氏のfft4g_hによる。 mp4g10.NET.zip (VB.Netバージョン) 基数は10進数、デフォルトで10000。FFTは大浦氏のfft4g_hによる。 以下の機能を備えたVB.Netのモジュールです。ここで「桁」とは基数でまとめて数えるものとします。基数が256の場合「1桁」と「1バイト」は同じになります。基数が10000の場合「1桁」は10進数では4桁になります。詳しくはzipファイルに含まれているドキュメントをご覧ください。 加減算:m桁同士の符号なし整数の加減算。 負数:m桁の符号なし整数に対して、2の補数表現の負数を返す。 乗算:m桁とn桁の符号なし

  • 1