BigDecimalの検索結果1 - 2 件 / 2件

• あとで読む

  freee の API では BigDecimal をどう扱うべきなのか？ - freee Developers Hub

  • 3 users
  • developers.freee.co.jp
  • テクノロジー
  • 2021/12/25

  この記事は freee Developers Advent Calendar 2021 の最終日の記事です🎄 普段は freee会計 や freee人事労務 といった、freee におけるコアサービスの開発の面倒を見る、プロダクトコア開発本部の本部長をしています id:yo_waka です。 前回書いたときは Webpack でビルドしていましたが、昨日も Webpack でビルドしていました。 今回何を書こうかなーと悩んでいたのですが、最近 BigDecimal の扱いについて社内で議論する機会があったので共有してみます。 あらまし Rubyのバージョンアップをするぞ 依存ライブラリを新しいRubyバージョンに対応したものに上げていくぞ jbuilder 並びに JSON gem のバージョンを上げていくぞ <= 今日はここの話題です freee では、Rails で API レスポン

  • エンジニア
  • API
  • Rails
  • development

  
• あとで読む

  Rubyで計算がずれてしまう理由と対策を教えてください。

  • 1 user
  • ja.stackoverflow.com
  • テクノロジー
  • 2020/01/28

  小数点を含む割り算の計算結果が思い通りになりません。 例えば、 670 ÷ 0.67 としたとき 1000 になってほしいのですが、 999.9999999999999 となってしまいます。 $ ruby -v ruby 2.6.3p62 (2019-04-16 revision 67580) [x86_64-darwin18] $ irb irb(main):001:0> 670 / 0.67 => 999.9999999999999 Node.jsでも同じでした。 $ node Welcome to Node.js v12.1.0. Type ".help" for more information. > 670 / 0.67 999.9999999999999 割り切れる数値だけ扱うプログラムなのですがうまく作れずに困っています。 こんな簡単な計算で躓くと思っていなかったので、小数を

  • ruby
  • 技術