サクサク読めて、アプリ限定の機能も多数!
トップへ戻る
アメリカ大統領選
math-koshimizu.hatenablog.jp
小清水 (@curekoshimizu) です。 昨日は 数学カフェ に初めて参加させていただき、 機械学習について刺激を受けました! connpass.com その中で、 コイン投げは確率界の Hello World というフレーズを聞いて なるほどなるほど!と感じました。 そして、 そういえば 丸め誤差界の Hello World はなんだろう? と思い記事を書いてみました。 そもそも、 丸め誤差界 は業界というには狭すぎて、 そもそも 丸め誤差に関する定理を聞く人も多いのでは?とも思います。 また、丸め誤差に関する本も少ないことなどから、 このセレクトがなるほど!となるかもわかりませんが、 私の主観で選択しました。 私的に思う、 丸め誤差界の Hello World はこちらになります! 「Sterbenzの定理」 この Sterbenz の定理、ゴールドバーグ先生の what ev
小清水です。 前回の記事では 浮動小数点数による計算のため に、 計算が はちゃめちゃ・わやくちゃ になる例を紹介しました。 math-koshimizu.hatenablog.jp Abstract 今回は そんな浮動小数点数 に もう少し踏み込んだ話をするための準備記事になります。 実数を浮動小数点に近似する 丸め について詳しく踏み込んでみます。 4つの代表的な丸めを定義して考察を加えていきます。 四捨五入のような考え方がイケてない理由なども登場します。 浮動小数点数のざっくりした理解 2進p桁の浮動小数点数とは 次のように表現できる数: になります。ただし、 例えば、2進3桁の浮動小数点の分布は次のようになります。 注意. ここでざっくりと書いたのは、 ここでは e の区間を整数全体としているものの、 本来は特定の数の間で限定されていたり、 非正規化数の話が抜けているためです。 い
小清水 (@curekoshimizu) です。 本日は FMA についてお話したいと思います。 FMA とは? FMA とは Fused Multiply-Add ことで の演算のことです。 ここで は の丸めを表しました。 本当にただこれだけの内容なのですが、 今回の記事は、この FMA について熱く書いてみたいと思います。 FMA について書くモチベーションなのですが、 本ブログは 精度に関する話題 を多く取り上げてきました。 その中で FMA と関係する話題が非常に多く登場し、 これからも登場予定 です。 そのたびに、 FMA について補足すべきことが多く、 ここでまとめておこうと思い立ちました。 例えばこの記事で FMA 命令と丸め誤差の話がすでに登場しています: math-koshimizu.hatenablog.jp この記事を読むと 1. FMA の凄さがわかる 精度や高速
小清水 (@curekoshimizu) です。 久しぶりの投稿になります。 長期にわたり転職活動をしており、 かなり投稿に時間が空いてしまいました。 今回の記事は に関する内容です! 逆数の近似から精度を高めたい!!! の近似値 が与えられたときに 精度を高めたいということありませんでしょうか? このモチベーションは色んな場面で登場します。 それはなぜか? これは、 ハードウェア が 逆数の近似を行う命令 を持っていることが多く、 それを利用したいためです。 例えばこちらのブログでは qiita.com AVX-512 の vrcp28pd 命令 を使って の近似値 を得た際のお話が書かれています。 AVX-512 サポートしていれば vrcp28pd命令・vrcp14命令 などの逆数近似命令をサポートしています。 AVX-512 をサポートしているプロセッサはかなり限られていますが、
小清水 (@curekoshimizu) です。 この記事は 日曜数学 Advent Calendar 2016 の 15日目の記事になります。 日曜数学 ということばを各所で聞いて、 僕も数学科時代の わくわく数学 を社会人になっても 感じたい・伝えたい! そう思うようになりました! 現在はプログラマとして仕事をしており、 「コンピューターの世界と数学の世界」の間を埋めて 面白さを伝えたい! と思い始め、 本当につい最近、 重い腰を上げてこのブログを立ち上げました。 誰かの役に、または、面白く思って頂ければ幸いです。 Abstract 今回の 「コンピューターの世界と数学の世界」 をつなぐお話は Newton法 です。 非常にメジャーなテーマです。 Newton法 を 「除算」計算に使うとどうなるのか? 紹介したい話としては 実数空間だけじゃなく modulo (余り) の世界でも 活き
このページを最初にブックマークしてみませんか?
『小清水さんとコンピューター数学』の新着エントリーを見る
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く