並び順

ブックマーク数

期間指定

  • から
  • まで

1 - 3 件 / 3件

新着順 人気順

有効数字2桁の検索結果1 - 3 件 / 3件

  • 浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記

    お近づきになりたい人向けシリーズです。 いろいろなトピックを詰め込みましたが、「これら全部を知らないといけない」のようなつもりではなく、いろいろなことを知るきっかけになったらいいなという気持ちなので、あまり身構えずにちょっとずつ読んでもらえたらうれしい気がします。 まえがき 予備知識 規格 用語 精度という語について 記法 表現について 有限値の表現について エンコードについて 丸めについて よくある誤差や勘違いの例 0.1 = 1 / 10? 0.1 + 0.2 = 0.3? 整数の誤差 Rump’s Example 基本的な誤差評価 用語に関して 実数の丸め 有理数の丸め 基本演算の丸め 差について 複数回の演算 補題たち 桁落ちについて Re: Rump’s example 融合積和 数学関数に関する式の計算 誤差の削減に関して 総和計算 数学関数の精度について 比較演算について 雑

      浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記
    • 【アップデート】「新型コロナウイルス 世界の感染状況」/「人口比」表示モードの追加など - mlog

      「新型コロナウイルス 世界の感染状況」サイトに以下の3つの表示モードを追加しました。 人口比 (%) 検査数比 (%) 感染者(累計)比 (%) 今回は、追加した表示モードについて、簡単に紹介します。 「新型コロナウイルス 世界の感染状況」サイトは以下のページをご覧ください。 その他の「新型コロナウイルス 世界の感染状況」の機能紹介記事は、以下のページをご参照ください。 目次 主な更新内容 表示モードの追加 「人口比 (%)」表示モード 「検査数比 (%)」表示モード 「感染者(累計)比 (%)」表示モード まとめ 主な更新内容 表示モードの追加 以下の3つの表示モードを追加しました。 人口比 (%) 検査数比 (%) 感染者(累計)比 (%) いずれも、一部の値を除いて単位は「%」で表示しています。 また、有効数字は2桁までとしています。 ※ 有効数字2桁以降の値は四捨五入しているため、

        【アップデート】「新型コロナウイルス 世界の感染状況」/「人口比」表示モードの追加など - mlog
      • 福島第一原子力発電所 多核種除去設備等処理水の二次処理性能確認試験結果(終報)

        福島第⼀原⼦⼒発電所 多核種除去設備等処理⽔の⼆次処理性能確認試験結果(終報)  2020年9⽉15⽇より、トリチウムを除く告⽰濃度⽐総和※1が100以上のタンク群のうちJ1-C群(主要7 核種の告⽰濃度⽐総和︔3,791 (J1-C1))及びJ1-G群(主要7核種の告⽰濃度⽐総和︔153(J1-G1)) につ いて、各々約1,000m3処理(合計約2,000m3)を実施しています。 <2020年9⽉10⽇ お知らせ済み>  各タンク群については、⼆次処理前後でサンプリングした⽔のニッケル63・カドミウム113m以外の除 去対象核種(60核種)+炭素14及びトリチウムの分析が完了し、⼆次処理前(多核種除去設備(以下、 「ALPS」)装置⼊⼝)に⽐べて、⼆次処理後(サンプルタンク)では放射性物質の濃度が低減されているこ とを確認しました。 <2020年11⽉16⽇ お知らせ済み(J1-C

        1