タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

pythonとmathに関するincepのブックマーク (2)

  • 【Python】有効桁数を指定して丸める方法

    decimalライブラリを使う decimalライブラリを用いるのが正攻法。decimal.getcontext().precで計算精度を変更することができる。正直get~()で代入するのは汚く感じて好みではないがクイックスタートに載ってるから仕方ない。 import decimal # 有効数字4桁指定 decimal.getcontext().prec = 4 a = decimal.Decimal(1) b = decimal.Decimal(3) print(a / b) # >> 0.3333 ただし、注意点としてはDecimalクラスの演算に限った話であるということ。 c = decimal.Decimal(1.2345678) print(c) # >> 1.2345677999999999929769955997471697628498077392578125 上のように初

    【Python】有効桁数を指定して丸める方法
    incep
    incep 2022/11/27
    有効数字の扱い方に難儀することがあるけど,この方法で解決しやすくなりそう
  • 【シリーズ】「python,OpenCVを用いたCVプログラミング」... | DERiVE コンピュータビジョン ブログ

    このサイトについて DERiVEはコンピュータビジョン、画像認識が専門のMasaki Hayashiがお送りしている、コンピュータビジョン(Computer Vision)を中心としたITエンジニア、研究向けのブログです。※「DERiVE メルマガ別館」は2015/9月で廃刊致しました、 シリーズ、「python,OpenCVを用いたCVプログラミング」の第2回です。 前回は第1回ということで、まず導入として「今回の連載でなぜpython/OpenCVをとりあげることにしたか」についての背景説明を行いました。今回から数回を用いてpythonopencvでコンピュータビジョンや科学技術計算一般のプログラムをつくるための環境を整えていきます。その中で、インストールしたopencv以外のモジュール(spyder,ipython,scipy/numpy,matlplotlib/pyQwtなど)の

    incep
    incep 2017/01/13
    でIPythonなど弄って計算などする際に有用そうな科学技術系pythonライブラリパッケージ
  • 1