並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 5 件 / 5件

新着順 人気順

BigDecimalの検索結果1 - 5 件 / 5件

  • それでも10進小数をデフォルトにすることは意味がある - kmizuの日記

    改めて(?)か昔からあるのか不明ですが、10進小数を言語のデフォルトにすべきかどうかという議論が一部で行われています。私自身、特にプログラミング教育を最近やっている立ち場もあって、10進小数を言語のデフォルトにすることに賛成の立ち場です。ただ、正直言ってこれに大して「反対する」側は何が焦点になっているかについて「ずれている」と思わざるをえないです。まずは、直近で見かけたWindyMeltさんのブログ記事より。 blog.3qe.us ちなみにこれはCOBOLかそうではないか、という軸が問題になっているのではなく、浮動小数点型を利用するか、それともBigDecimalのような十進演算のために用意された型を利用するか、という軸の問題であって、しかもそれも正確な軸の取りかたではない。 というのも、BigDecimalでカバーされない問題があるのだ。例えば、BigDecimal型を利用しても(1

      それでも10進小数をデフォルトにすることは意味がある - kmizuの日記
    • JDKバージョンとBigDecimalの挙動について - RAKUS Developers Blog | ラクス エンジニアブログ

      BigDecimalの値保持について BigDecimalから値の抽出 誤った表記変換方法 正しい文字列を取得する方法 まとめ お金の計算など正確にJavaで計算をするうえで欠かせないBigDecimalですが、 一部JDKバージョンで挙動に変更が入っていました。 この改修により問題に直面してしまったため備忘録がてら挙動をまとめることにしました。 BigDecimalの値保持について まず、本題に入る前にBigDecimalはどのように値を保持しているかを見てみましょう。 BigDecimalは以下の要素を保持しています。 intCompact 数値の仮数部を保持する intVal BigDecimalのスケーリングされていない値 precision 保持している仮数部の桁数 scale 少数のスケール では実際に見てみましょう。 BigDecimal bigDecimal1 = new

        JDKバージョンとBigDecimalの挙動について - RAKUS Developers Blog | ラクス エンジニアブログ
      • Ruby 3.3.3にアップグレードするとbundle installでnet-popがインストールできない|TechRacho by BPS株式会社

        2024.06.17 Ruby 3.3.3にアップグレードするとbundle installでnet-popがインストールできない Ruby 3.3.3がリリースされました Ruby 3.3.3がリリースされたので、自分のRailsアプリのRubyを3.3.3にアップグレードしようとしたところ、ローカルのDockerコンテナではRailsアプリを正常に実行できたにもかかわらず、Herokuにデプロイするとbundle installの部分で以下が発生してデプロイできませんでした。 ... Downloading net-pop-0.1.2 revealed dependencies not in the API or the lockfile (net-protocol (>= 0)). Running `bundle update net-pop` should fix the prob

          Ruby 3.3.3にアップグレードするとbundle installでnet-popがインストールできない|TechRacho by BPS株式会社
        • [Java]NULL値を許容する整数型カラムを扱うTypeHandlerでハマる - Qiita

          結論 java.sql.ResultSet の動作をちゃんと押さえておきましょう。 うっかりハマった実装 NULL値 を許容する整数型カラム(JdbcType=INTEGER)を扱うTypeHandler を作成していて、NULL値 で insert したレコードを select した結果が 0 になってしまう事象に悩まされること小一時間。 public class HogeTypeHandler extends BaseTypeHandler<String> { @Override public void setNonNullParameter(PreparedStatement ps, int i, String parameter, JdbcType jdbcType) throws SQLException { ps.setInt(i, toInteger(parameter));

            [Java]NULL値を許容する整数型カラムを扱うTypeHandlerでハマる - Qiita
          • 「なぜ金融系では未だにCOBOL」や「メインフレームCOBOLの10進は高精度で高速」議論の製品系出典まとめ - らびっとブログ

            X(Twitter)での話題は出典なき極論も多いので、HW/SW製品系の出典を並べて見ました (最終更新 2024/6/18) 1.主な論点 2.結論 ①精度の問題 ②速度の問題 ③メインフレームCOBOLが良いのか? 3.出典 ①メインフレームCOBOL, PL/I  対 Intel 32/64 ②IBM System/360 ③IBM z10 ④IBM Power ⑤富士通 SPARC64 X ⑥RISC-V ⑦メインフレーム用の C, Java ⑧AIX用の C ⑨IBM i の C 4.その他 1.主な論点 今回の発端は以下のポスト。 Q:なぜ金融系では未だにCOBOLが使われるんですか? A:お手元にExcelがありましたら任意のセルに「=4.8-4.7-0.1」って入れてみてください。 — 遊撃部長F/S&RWAs (@fstora) 2024年6月6日 そこから以下の話が展開

              「なぜ金融系では未だにCOBOL」や「メインフレームCOBOLの10進は高精度で高速」議論の製品系出典まとめ - らびっとブログ
            1