タグ

decimalに関するkiyo_hikoのブックマーク (3)

  • Railsで小数を扱ってハマったところ - Qiita

    株式の財務分析をするアプリを作ってます。 ROICとかWACCとかTerminal Value 割合を計算して、その割合で何か別の数字を割る。 ような計算がたくさんあります。割り切れない数同士で割り算をして桁の多い小数になったり、分母がゼロになって無限大が返ってきたり、分母も分子も0になって数字が返ってこなかったりといろいろ苦労しました。 (データベースはPostgresqlを使いました。) で、以下いろいろメモ create_tableのあとt.floatかt.decimalかt.integerか どれでもいーじゃん・・・そう思っていた時期が俺にもありました・・・・・ どうもFloatだと割合を計算させた時に「(小数の)桁が足ンねーぞオラ」とエラーが出ることがありました。 で、データ型の解説を読むと integer => -2147483648から+2147483647の整数 decim

    Railsで小数を扱ってハマったところ - Qiita
  • Railsマイグレーションでdecimal型の精度(桁数)を指定

    — 環境 — rails 4.1.6 activerecord 4.1.6 decimal 型指定では precision, scale のオプションを指定可 migration で decimal のデータ型を指定する場合、「precision – 全体の桁数(精度)」と「scale – 小数点以下の桁数」のオプションを指定できる。以下の例では、geocodes テーブルとそのカラム latitude, longitude などを作成しています。 class CreateGeocodes < ActiveRecord::Migration def self.up create_table :geocodes do |t| t.string :address, null: false, default: "" t.decimal :latitude, precision: 11, scal

    Railsマイグレーションでdecimal型の精度(桁数)を指定
    kiyo_hiko
    kiyo_hiko 2016/03/22
    precision, scale
  • Security Akademeia【セキュリティアカデメイア】

    当サイトの一部ページには、アフィリエイト・アドセンス・アソシエイト・プロモーション広告を掲載しています。 Amazonのアソシエイトとして、Security Akademeiaは適格販売により収入を得ています。 広告配信等の詳細については、プライバシーポリシーページに掲載しています。 消費者庁が、2023年10月1日から施行する景品表示法の規制対象(通称:ステマ規制)にならないよう、配慮して記事を作成しています。もし問題の表現がありましたら、問い合わせページよりご連絡ください。 参考:令和5年10月1日からステルスマーケティングは景品表示法違反となります。 | 消費者庁

    Security Akademeia【セキュリティアカデメイア】
    kiyo_hiko
    kiyo_hiko 2015/02/26
    BCDコードは0000(2)~1001(2)で各桁を表し、桁数分のバイト長が要る。ゾーン10進は各桁に0011がつき、これはJISコードそのものである。EBCDICは汎用コンピューティングで使われるが1111が付く
  • 1