タグ検索の該当結果が少ないため、タイトル検索結果を表示しています。
お近づきになりたい人向けシリーズです。 いろいろなトピックを詰め込みましたが、「これら全部を知らないといけない」のようなつもりではなく、いろいろなことを知るきっかけになったらいいなという気持ちなので、あまり身構えずにちょっとずつ読んでもらえたらうれしい気がします。 まえがき 予備知識 規格 用語 精度という語について 記法 表現について 有限値の表現について エンコードについて 丸めについて よくある誤差や勘違いの例 0.1 = 1 / 10? 0.1 + 0.2 = 0.3? 整数の誤差 Rump’s Example 基本的な誤差評価 用語に関して 実数の丸め 有理数の丸め 基本演算の丸め 差について 複数回の演算 補題たち 桁落ちについて Re: Rump’s example 融合積和 数学関数に関する式の計算 誤差の削減に関して 総和計算 数学関数の精度について 比較演算について 雑
[解説]「Windowsの設定がフランス語だとゲームが起動しない」開発者がXで公開した小数点表記に関するバグの詳細をレポート
[解説]「Windowsの設定がフランス語だとゲームが起動しない」開発者がXで公開した小数点表記に関するバグの詳細をレポート by せきやdn · 公開済み 2023年8月12日 · 更新済み 2023年8月17日 [UPDATE 2023/08/17] TryParse()系の例外をキャッチして処理するコードを省略していましたが、表記があったほうがいいというコメントをいただいたため、追記を行いました。 ゲーム開発を含むプログラミングにおいては、意外なところに落とし穴がたくさんあります。今回紹介するのは「フランス語のローカライズ対応における小数点問題」です。 発端となったポスト 今回の記事は、筆者（せきやdn）がX（旧Twitter）にポストした次のツイートが発端です。 今回の「ファミレスを享受せよ」 Windowsがフランス語だと立ち上がらない不具合。 お恥ずかしい話なのですが、 同じミ
![[解説]「Windowsの設定がフランス語だとゲームが起動しない」開発者がXで公開した小数点表記に関するバグの詳細をレポート](https://cdn-ak-scissors.b.st-hatena.com/image/square/ed4f603f189fc2193777337a58cb12924a39580e/height=288;version=1;width=512/https%3A%2F%2Findiegamesjp.dev%2Fwp-content%2Fuploads%2F2023%2F08%2FfloatParse.png)
ArmにあるというJavaScript専用命令とは何か、あるいは浮動小数点数を整数に変換する方法について - Qiita
元の値の絶対値が大きすぎる場合や、無限大、NaNの場合は、 6.3.1.4: 表現できない場合はundefined behavior。 Annex F.4: 表現できない場合はinvalid例外が発生して、値はunspecified。 とされています。 これ以外の浮動小数点数→整数型の変換方法には (l)lrint や (l)lround 関数などがあります。 Java 基本的に0方向への丸め（切り捨て）で計算されますが、コーナーケースについても言語仕様で定めています。 NaN：0を返す 結果が表現できないもしくは無限大の場合：符号に応じて最大値または最小値が返る。 参照： 5.1.3. Narrowing Primitive Conversion - Chapter 5. Conversions and Contexts JavaScript JavaScriptではビット演算やいくつか
Merpay Advent Calendar 2020 の3日目です。 メルペイでバックエンドエンジニアをしている iwata です。 メルペイスマート払いの開発をしている Credit Design というチームに所属しています。 私は2019年の入社以来、「メルペイスマート払い（定額払い）」（以下、定額払い）の開発を担当しており、今年の７月にようやくリリースすることができました。 この定額払いの手数料計算のために、「1万分の1を1とする単位」であるベーシスポイントを扱うGo言語のパッケージ go.mercari.io/go-bps を作成しました。 ちょうど1年前に、 mercari.go #12 で「料率計算における小数の扱いについて」として発表しましたが、当時はオープンソースとして公開していませんでした。 今回オープンソースとして公開しましたので、改めてパッケージを紹介します。 料
panko@変態ホイホイ 2/11 Linkin Park @panpan10969 ※エロ垢ではありません🌹ワンオク愛が半端ない✨ ONE OK ROCK/Mrs.GREEN APPLE/Vaundy/King Gnu/米津玄師/ SiM/ THE ORAL CIGARETTES/椎名林檎/RADWIMPS/LINKIN PARK
"「0.1+0.2≠0.3」だから浮動小数点数を扱うときには気を付けましょう" はいいんだけど結局どうしたらいいのかまでフォローしたほうが親切だと思ったので調べてみた - Qiita
釣られた https://qiita.com/higashi_nc/items/9a5ea00415a008f06843 に釣られて読みました。 2行でまとめると以下のような内容です。 10進数の0.1や0.2は浮動小数点数で表すとピッタリ0.1や0.2にはならずに誤差が出る 浮動小数点数の扱いを理解して、より堅牢なプログラムを作成することを願っています。 え？結局どうしたらいいの？という感想だけ残ったので各言語での浮動小数点数同士の比較の方法を ChatGPT に教えてもらいました。 結局どうしたらいいのか 基本的に浮動小数点数同士の差がある程度の誤差より小さければ同じ数である、という判定をすればいいようです。 今回の回答には含まれませんでしたが、おそらく言語によっては浮動小数点数同士の比較をする専用のライブラリなどもあるかと思われます。 Python
TL;DR 文字列から浮動小数点数に変換するならfastfloat使いましょう。 私が試せる環境で比較する限り、とても速いです。 細かいことが気になります C++でちょっとしたプログラムを書くときにいつも気になるのが 「文字列データから指定データ型への変換処理をどうやって効率的に書くか」 です。私だけかもしれませんが。 特に悩んでしまうのが「文字列→浮動小数点」です。 std::scanf, std::stringstreamを使うものは大抵すごく遅い std::strtodstd::stodはstd::stringへの変換が入るので避けたい std::from_charsは(libstdc++が)浮動小数点型に対応していない boost::sprit::qiが何故か速いのだけれどこのためにboost::sprit使うのは重い と色々制約が多いのです。どうにかならないものか。 fast_f
さいきん『浮動小数点数小話』という同人誌を読んでFMA (Fused Multiply-Add)の二段階丸め誤差（double rounding error）について色々と知る機会があったのでまとめておく。ついでにFMAに関するOpenJDKのバグっぽい挙動を見つけたのでそれも併せて記しておく。 FMA (Fused Multiply-Add)とは FMAは以下のような演算のことを呼ぶ。 この演算自体は行列の乗算やベクトルの内積の計算でよく現れるものであるが、通常の浮動小数点数の乗算と加算を別々に行うと誤差が出るので一度の演算で正確な値を算出したいときに用いる。たとえばC言語（C99）では fma、fmaf、fmalという3つの関数が導入されているらしい。 FMAの実装における二段階丸め誤差 FMAはターゲットとなるCPUのアーキテクチャがFMA命令をサポートしていればその命令を直接呼び出
セブン‐イレブン・ジャパンは2021年5月以降、商品の税込価格を「小数点第2位」まで表示するよう順次変更すると発表した。より厳密に価格を表示することで、顧客の混乱を防ぐ狙いがある。 現在の税込価格表示では、1円未満を切り捨てた金額を表示している。そのため、単品購入時と複数個を同時に購入したときとでは、支払い金額に差額が生じる場合があった。例えば、「税抜93円、税込100円」の商品を購入する場合、279円（93円×3個）×1.08＝301.32円となるため、小数点以下を切り捨てると301円となり、支払金額が1円増える現象が発生していた。
亜留間次郎 @aruma_zirou 断絶してしまった家系の遺品を穿り返していたら、ウチの先祖の飼い主が室町時代に当時の天才科学者と呼ばれた人物と算術勝負をして両者全問正解で問題が尽きてしまい決着が付かなかった勝負の話が出てきた。 2020-04-26 14:31:14 亜留間次郎 @aruma_zirou お互い相手を認めて相手の城に招かれて算術談義を交わして当時の未解決問題だった円理について話し合い、積分法で円周率を小数点8ケタまで求めることに成功、当時の常識だった円周率3.16が間違いであることを証明した。 2020-04-26 14:31:14
はじめに この記事はBASEアドベントカレンダーの四日目の記事です。 こんにちは！私は@shiiyannnと申します。現在、メンバーシップ Appの開発に携わっています。メンバーシップ Appはショップオリジナルの「メンバーシップ」（会員制度）を作成することができる機能です。 2023年9月、メンバーシップ Appは大幅な機能アップデートを遂げました。今回のアップデートでは、ショップオーナーが商品購入時に独自のポイントを付与できるようになりました。付与されるポイントの量は、注文金額にショップオーナーが設定したポイント付与率を掛け合わせて計算されます。 この記事では、ポイント付与機能の開発中に直面した、浮動小数点計算の問題とその解決策についてお話しします。この問題を深掘りすることで、料率計算や金額処理に取り組む開発者の皆さんに有益な情報を提供できればと考えています。 リリース直前に発見した浮
「作って学ぶコンピュータアーキテクチャ」では、執筆時点ですでに500ページを超えてしまい、泣く泣く2章分を削除しています。 1つ目の付録である「付録1. 関数呼び出しのバリエーションと高度な機能」についてはすでに公開済みですが、もう一つの「付録2. 浮動小数点命令」についても公開しました。 こちらは、LLVMに浮動小数点命令を追加し、いくつかのアプリケーションを動かそうというものです。 github.com この章は、本当は基本的な演算や機能の実装後に挿入したかった章で、以下の範囲をカバーしています。 この章は割と頑張ったもので、浮動小数点の説明から、実装、さらにアプリケーションを2つ実装しています。 後半のレイトレーシングはかなり頑張った部分で、最後に画像が正しく出力されたときは若干感動しました。 こちらも、担当編集の方の校正が入っていないので怪しい文章やもしかしたら誤った情報が入ってい
浮動小数点を利用する際に知っておきたいこと
(※ 2014 年 10 月 28 日に Microsoft Japan Visual Studio Support Team Blog に公開した情報のアーカイブです。) (※ 参照先ドキュメントの変更や廃止に伴い、リンク先を差し替えています。) こんにちは。Visual Studio サポート チームです。 今回は、Visual Studio でアプリケーションを開発する時にデータ型として使用できる浮動小数点数についてのお話です。 本記事の内容は Visual C++、Visual C#、Visual Basic を対象としております。 浮動小数点数を使用する際の注意点浮動小数点数はプログラムで小数を扱うために広く利用されていますが、少し癖のあるデータ型でもあるため、その特性をよく理解して利用しないと、思わぬ落とし穴に遭遇してしまうこともあります。 浮動小数点の特性として、注意した方が
Rails: 通貨は浮動小数点ではなくRubyのmoney gemで表現すること（翻訳）｜TechRacho by BPS株式会社
概要 元サイトの許諾を得て翻訳・公開いたします。 英語記事: Don't Use Floats and Use the Ruby Money Gem to Represent Currencies - Andy Croll 原文公開日: 2021/11/15 著者: Andy Croll 日本語タイトルは内容に即したものにしました。 アプリケーションで金額を管理しなければならなくなることはざらにあります。何の話かというと、Rubyコミュニティにある素晴らしいオープンソースのソリューションを使えば、自分で開発するよりもずっと良い結果を得られるのです。 以下のようにするのではなく 金額を表現するときにFloatやBigDecimalを使う。 # マイグレーション add_column :products, :price, :decimal class Product < Application
読むのが面倒な人向けの結論：可換です。 「可換です」以外の答えを知りたい人はこの記事を最後まで読んでください。 結合法則と交換法則 実数の足し算や掛け算については結合法則 $x+(y+z)=(x+y)+z$ が成り立ちます。これに対し、浮動小数点数の足し算・掛け算が結合的でないことはとても有名な話です。 例えば、倍精度で (0x1p-200 + 1) + (-1) を計算すると、結合法則が成り立てば答えは 0x1p-200 となるはずですが、実際には 0 が返ってきます。 浮動小数点演算が結合的でないことは有名な話なので、ここではこれ以上詳しくは取りあげません。 一方で、交換法則（可換性）はどうでしょうか？「浮動小数点演算はこういう法則を満たさない！クソ！」みたいな話題で槍玉に上がるのはほとんどの場合結合法則で、交換法則に言及するものはあまり見かけない気がします。 交換法則が成り立つとどう
神奈いです @kana_ides 学校「小数点の計算をしたら後ろのゼロは消しなさい！」 工場「１と1.0と1.00は違う数字だから消すんじゃねぇ？！！」 2022-06-12 10:15:44
原子番号に小数点？ 周期表の狭間に潜む"新元素"
日経サイエンス @NikkeiScience 📗11月25日発売！ 日経サイエンス2024年1月号 【巻頭特集：あり得ない物質を作る】 従来の固定観念を超えて，画期的な新物質を作るヒントが見えてきた。 【特集2：ビッグデータの幾何学】 ・ヒョウと共に生きる 人里におりる野生動物 ほか nikkei-science.com/page/magazine/… #化学 #物理 #トポロジー pic.twitter.com/WUm6MVfrkb 2023-11-19 21:30:00 日本経済新聞 電子版（日経電子版） @nikkei 周期表に並ぶ118種の元素。 s.nikkei.com/418lX4l 特殊な反応条件で原子レベルで均一に混ぜると、「新元素」が生まれることがわかってきました。京都大学の北川宏教授は「常識を超えた新物質がイノベーションにつながる」と話します。 pic.twitter
浮動小数点数の文字列化（基数変換） | 雑記帳
動機付けと問題 計算機の内部では二進浮動小数点数が使われることが多い一方で、プログラムのソースコードやテキストベースのデータ形式（例：JSON）では十進小数が使われることが多い。 データのシリアライズ等で、内部的な二進浮動小数点数を十進小数に変換して、再度二進小数に戻すという操作が考えられる。この時、元々の二進小数の値が保持されることが望ましい。 有限桁の二進小数は原理的には有限桁の十進小数で表現できるが、指数部が大きかったり小さかったりすると仮数部の桁数も膨張するため実用的ではない。 そこで、基数変換の際に丸めが発生することを許容して、二進小数→十進小数→二進小数の変換が恒等写像となるようにしたい。ただし丸めの方法は最近接丸めであるとする。この時、 途中の十進小数の仮数部は何桁あれば十分か？なるべく短い桁数の十進小数を、正しい丸めで得るためのアルゴリズムはどのようなものか？ という問題が
こんにちは、浮動小数点数オタクのmod_poppoです。 昨日開催されたABC284のD問題でsqrtがどうのこうのという声がツイッターで観測されたので、ガチで考察してみます。 問題文（引用） まず最初に問題文を引用しておきます。 AtCoder Beginner Contest 284 | D - Happy New Year 2023 問題文 正整数Nが与えられます。Nは、2つの相異なる素数p, qを用いてN=p^2qと表せることがわかっています。 p, qを求めてください。 T個のテストケースが与えられるので、それぞれについて答えを求めてください。 制約 入力は全て整数 1\le T\le 10 1\le N\le 9\times 10^{18} Nは、2つの相異なる素数p, qを用いてN=p^2qと表せる 2023が7\times 17^2と素因数分解できることにちなんだ問題のよう
標準 C言語では、複数の浮動小数点演算を一つの演算にまとめることを許容しています。これは式の短縮 (contract) と呼ばれています（C17 6.5の段落8）。 （JIS X3010では「contract」の訳語に「短縮」を使っているようなので、この記事でもそれに従います。） この規定により、FMA命令のある環境では a * b + c の形の式をFMAへコンパイルすることが可能になります。というか、この規定は実質的にはFMAのためにあると言って良いでしょう。しかし、C標準は式の形には言及していないので、例えば a + b + c をまとめて計算できる命令セットがあればそれを利用することも許容されると思われます。 重要なのは、式の短縮によって演算結果が変わるケースがあるということです。実際のコード例は過去の記事にも書きました： 浮動小数点演算の結果が環境依存なのはどんなときか C言語に
「3.14」のような「. 」で1より小さい数を区切って表す小数点の表記法は、現在ではごく当たり前のことです。 しかし実はこの表記法の起源は完全には明らかになっておらず、小数点をいつから人類が使い始めたかは曖昧なままです。 そんな中、カナダのトリニティ・ウェスタン大学（TWU）の数学史家により、これまでで最も古い小数点「. 」の表記例が発見されました。 これまで見つかった記録では、ドイツの数学者クリストファー・クラヴィウスが1593年に使用したものが最古でたが、今回はそれより150年も古い、イタリアの数学者で天文学者のジョバンニ・ビアンチーニが1440年代に使ったものが見つかったのです。 研究の詳細は2024年2月17日付で学術誌『Historia Mathematica』に掲載されています。 The Decimal Point Is at Least 150 Years Older Tha
どうも、浮動小数点数オタクのmod_poppoです。 去年はMacのCPUがx86からArm (Apple Silicon)へ移行することが発表され、実際にApple M1搭載のハードウェアが発売されました。Apple Silicon MacにはRosetta 2というエミュレーターが搭載され、x86系のアプリケーションが（仮想化等の一部を除いて）そのまま動作します。 浮動小数点数オタクとして気になるのは、 Armv8で規定された浮動小数点数関連の命令セット拡張のうち、Apple M1がどれを実装しているのか Rosetta 2がx86_64とAArch64の浮動小数点数に関する違いをどのように吸収しているのか という点です。 Armv8のあれこれ long doubleについて long doubleは環境によって精度がまちまちなのは以前の記事に書いた通りです。 long doubleの
浮動小数点演算の結果が環境依存なのはどんなときか
浮動小数点数の演算結果は環境によって変わる場合があります。どういう場合に変わることがあり、それはどういう原因によるのでしょうか。この記事では、演算結果が変わる原因として考えられるものをいくつか紹介します。 対象とする言語はC言語とします。基本的にC17の前提で書きますが、一部にC23への言及を含みます。 C言語では浮動小数点演算の精度は処理系定義です（C17 5.2.4.2.2.7）。C言語的に浮動小数点演算についてまともなことが言えるのは処理系がAnnex Fに準拠している場合です。C17のAnnex FはIEEE 754-1985を参照し、C23のAnnex FではIEEE 754-2019を参照します。 ただ、この記事では「どういう場合に変わるか」を考え、「どういう場合に結果が変わらないことが保証されるか」はあまり考えないので、Annex F準拠であるかはあまり重要ではないかもしれま
Unityを学ぶための動画を集めたサイト「Unity Learning Materials」。ユニティ・テクノロジーズ・ジャパンの安原氏が、ゲーム制作に使う数学について解説しました。パート4のテーマ「浮動小数点数（float）」では、その表現力の限界を具体的に探りました。 パート4のテーマは「浮動小数点数（float）」安原祐二氏（以下、安原）：パート4です。大丈夫ですか。寝ていませんか？ パート4を始めていきたいと思います。浮動小数点数、floatです。 簡単な問題を出してみましょう。float aに「1f」を入れた時に、Debug.Logでそのaを出力させたらConsoleに何が出ますか？ 急に聞かれると困るかもしれませんが、これは引っかけ問題ではなくて「1」が出ます。 次ですね、「1/3」。1割る3を書いたら何になるかな。これはちょっと引っかけ問題かもしれないですね。「0」になります
はじめに 浮動小数点数、なんとなくはわかっているものの実は理解がちょっと曖昧、という方いませんか？ 僕は恥ずかしながら長らくそんな状態でした。 特に誤差と精度についてはかなり曖昧で、 「どれくらいの数値であればどれくらいの精度があるのか」 という点は全く自信がありませんでした1。（業務上、特に困ったこともなかった） この記事は、試しに４ビットの浮動小数点数を作ってみることにより、浮動小数点数の精度を理解することを目指します。 想定の読者さんは、 「浮動小数点数に関してはざっくり分かっているけど、実は精度や誤差に関してはちゃんと理解していない」 という方々です。具体的に言えば、緯度経度を32ビット浮動小数点数で表すと誤差がどれくらいになるのかがあまりピンと来ない2、という方などです3。 浮動小数点数の概要 ここでは、ざっくり浮動小数点数の概要に関して復習程度に触れます。 概要は分かっていると
請求書の消費税計算で1円未満の「端数」が生じることがあります。多くの企業や店舗では「切り捨て」処理が行われていますが、消費税の端数計算は「よくわからない」ままに「何気なく」処理していることも多いのではないでしょうか。 2023年10月からは「適格請求書等保存方式（インボイス制度）」が導入されることが決まっており、インターネット上でもさまざまな消費税改正に伴う関連情報が飛び交っていますが、実は消費税の端数処方法については、それほど注目されていません。 そこで今回は、担当者が押さえておきたい「消費税の端数処理」について整理してみましょう。 目次 消費税計算の基本 販売時の消費税の端数処理は、企業の采配で！ 消費税改正後の端数処理における注意ポイント 消費税申告時における端数処理の注意ポイント まとめ よくある質問 消費税計算の基本 消費税とは、「消費」全般に対してかかる税金です。商品の売買だけ
“FFT黒本”「小数点以下の確率で盗める」21年目にして驚愕の事実発覚か 「スクウェアが資料にうそを入れた」 | ねとらぼ
ゲーム攻略本「ファイナルファンタジータクティクス大全」に、とてつもない事実が発覚してしまったのではないかと一部の界隈がざわついています。5月19日の公式ニコニコ生放送で、現スクウェア・エニックス社員前廣和豊さんが当時「資料にうそをいれた」と発言したのです。えええぇぇぇっ!? 真実を話した瞬間。コメントは大盛り上がり 「ファイナルファンタジータクティクス大全」は、現Gzブレインが発行するゲーム雑誌「ファミ通」から1997年に出版されたもの（執筆編集は編プロ「JK VOICE」）。名前の通り「ファイナルファンタジータクティクス」の攻略本なのですが、誤植や間違いが多いことから一部では“黒本”と呼ばれたりもしています。 【訂正：2018年5月21日15時30分 初出で2000年発売と記述しましたが、正しくは1997年発売でした。合わせて記事タイトルを修正いたしました。お詫びして訂正いたします。】
「.」が一つずれた結果、多額の損失を被ることに。家族は損失分を返金するためのクラウドファンディングを立ち上げています
IEEE 754の十進浮動小数点数の基本
浮動小数点形式 IEEE 754で規定された浮動小数点形式は、基数b, 指数部の最大値\mathit{emax}, 精度pの3つのパラメーターで表されます。このうち基数bは2または10で、この記事で扱うのはb=10の場合です。 指数部の最小値\mathit{emin}は1-\mathit{emax}と定められています。 浮動小数点数として表現できる実数は、0\le M<b^pを満たす整数M（仮数部）および\mathit{emin}-p+1\le e\le\mathit{emax}-p+1を満たす整数e（指数部）および0\le s\le 1を満たす整数s（符号）について (-1)^s\times M\times b^{e} と表現できるものです。 Mを範囲b^{p-1}\le M<b^pに収まるようにしたときに指数部が範囲に収まるものを正規化数と呼びます。 例えばb=10, p=3となる形式
浮動小数点数演算器のつくりかた（その1） - よーる
最近浮動小数点数演算器を作っているので、作るときのポイントを忘れないようにメモしておきたいと思います。 以下の全4回で書いていく予定です。 最近接丸めの浮動小数点数加算器の作り方（今回） 最近接丸めの浮動小数点数乗算器の作り方 RISC-Vの規格に従った（つまり、IEEE754規格にも従った）浮動小数点数積和演算器の作り方 RISC-Vの規格に従った浮動小数点数除算・平方根両対応演算器の作り方 コード 以下の74行のVerilog HDLコードで、x86の行う最近接丸めの浮動小数点数加算と同じ結果が得られるはずです。 メモ：これを書いたのは2022/10/06で、3cycleパイプライン化したものがRSDで採用されています。 module fp_adder(lhs, rhs, result); input wire[31:0] lhs; input wire[31:0] rhs; outp
IEEE浮動小数点数における演算では、丸め誤差が不可避です。特に、複数回の演算を繰り返すと丸め誤差が積もっていき、正確な値と大きく離れた答えを得てしまうことがあります。しかし、次の演算については、（数学的に）正確な値を求めた後、一回だけの丸めが発生することが、IEEE標準で規定されています。 四則演算 積和演算 Fused multiply add (FMA) 平方根演算（正の平方根を求める*1） 浮動小数点数演算のできるCPUであれば、普通、四則演算や積和演算を行う命令を持っています。 しかし、平方根を正確に計算する命令を持たない命令セットも存在します。 そのような場合、平方根関数はライブラリ実装となるわけですが、どのように実装すれば要求を満たせるのでしょうか？ C++のstd::sqrtは正確に計算しているのか？ 結論 しています。 標準の丸めモード、つまり最近接丸め（ぴったり半分なら
請求書の消費税計算などで計算結果を切り捨てたり、四捨五入したりするなどして、「きりのいい数字（例えば、100.4円を100円にするようなもの）」にしなければならないことは意外と多い。 このような「四捨五入」や「切り捨て」「切り上げ」のような処理のことを一般的に「端数処理」という。「Microsoft Excel（エクセル）」には、多数の端数処理の関数が用意されている。というのは、端数処理には、さまざまなルールがあり、それぞれに適した関数を使う必要があるからだ。 ここでは、主に小数点以下の数値を持つ数値を整数にするような端数処理をExcelで行う方法を説明する。 なおExcelには、小数点以下の数値を持たない整数などから「きりのいい数字（98円を100円にするようなもの）」を作る関数もある。これについては別の機会に解説することとして、本記事には含めない。 端数処理とは？ 金額計算などでは、計
浮動小数点数小話：だめぽラボ
浮動小数点数の各種話題を取り扱っています。 筆者がこれまでにブログ、Qiita等に書いた内容の一部と、新規の書き下ろしを含みます。 第1章 浮動小数点数の基礎 第2章 十六進表記 第3章 FMA (fused multiply-add) の話 第4章 丸め方法とその指定 第5章 二段階丸めとその問題点 第6章 浮動小数点例外 サポートページ：https://lab.miz-ar.info/floating-point/
42tokyoというパリ発のエンジニア養成機関で学んでいるのですが、表題の関数が課題で必要になったため、絶対に将来忘れる気がしてならないので自分への備忘録として書き記しておきたいと思います 恥ずかしながら、今まであまりちゃんと浮動小数点数について考えたことがなく、かなり初心者なので、間違っていることがあるかもしれないのですが、そのときはご指摘いただけると嬉しいです こちらの記事を多分に参考にさせていただいています 何度か読み直してみましたが、大変わかりにくくてすみません・・・ 自分でも読んでてよくわからなくなりそうになります 都度、参考実装へのリンクを貼っているのでもしか、興味ある方いればそちらを見てもらったほうが早いかもしれません ソースコードはこちら 動機まず、表題の処理が何故必要なのか？というと42の課題で、Raytracingに関する課題があり、その中でファイルから物体の位置やら色
浮動小数点数の加算の順序にハマった話
fediverseにちょっと書いたけど、仕事でちょっとハマって数時間悩んだ話。 とあるコードを書いていて、どうもテストが安定しなくてflakyになる。つまり、通るときは通るがたまに失敗する。が、理由がよくわからない。 こういうとき、Goでよくあるのはmapのイテレーションの順序が意図的にランダム化されているというパターンだ。mapは(内部的にはハッシュテーブルが使われているので)イテレーションの順序は不定であるし、不定であるべきなので順序に依存するコードを書くべきではない。現実的にはたいていの言語ではこのへんは「実装依存である」ということになっていて、うっかりすると言語のランタイムバージョンが上がったり、キーが一個増えたり減ったりするだけで順序が狂い、突然テストが死ぬみたいな現象によくみまわれる。Goでは意図的にこの問題に対処するために、言語のバージョンが変わらなくても毎回イテレーションの
（ながの・ひろゆき）。永野数学塾塾長。1974年東京生まれ。父は元東京大学教養学部教授の永野三郎（知能情報学）。東京大学理学部地球惑星物理学科卒。同大学院宇宙科学研究所（現JAXA）中退後、ウィーン国立音大へ留学。副指揮を務めた二期会公演モーツァルト「コジ・ファン・トゥッテ」（演出：宮本亞門、指揮：パスカル・ヴェロ）が文化庁芸術祭大賞を受賞。主な著書に『大人のための数学勉強法』（ダイヤモンド社）、『東大→JAXA→人気数学塾塾長が書いた数に強くなる本』（PHP研究所）など。これまでに1000人以上の生徒を数学指導してきた実績を持ち、永野数学塾は、常に予約キャンセル待ちの人気となっている。NHK（Eテレ）「テストの花道」出演。朝日中高生新聞で『マスマスわかる数楽塾』連載（2016ー2018年）。朝日小学生新聞で『マスマス好きになる算数』連載（2019ー2020年）。『とてつもない数学』（ダイ
以前こういう記事を書きました： 浮動小数点数の足し算と掛け算は可換か 要約すると「浮動小数点数の足し算と掛け算はNaNのビットパターンを考慮しない限り可換だよ」という内容です。 プリミティブな足し算としてはそうなのですが、C言語は a * b + t の形の式をFMA fma(a, b, t) に変換することを許容しています（この話は「浮動小数点演算の結果が環境依存なのはどんなときか」でちらっと触れました）。このような変換が存在しても足し算は「可換である」と言えるでしょうか？ つまり、a * b + c * d という式は fma(a, b, c * d) にコンパイルされる可能性もあれば、fma(c, d, a * b) にコンパイルされる可能性もあるため、ソースコード上で左右を入れ替えると違う結果が出るのではないか？という話です。 実証コード この挙動を確認するコードを以下に用意します
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?
浮動小数点数とは | 分かりやすく図解で解説
浮動小数点数とは、コンピュータにおける数値を表現する方法の一つで、主に小数点を含む数値を表現するときに利用されています。 浮動小数点数の形式 浮動小数点数は次のように「符号」「指数部」「仮数部」の形式で表現します。※32ビットの例 符号：正の数が0、負の数が1 指数部：2nのnの部分を2進数表記にした値を格納（負の数の場合は2の補数を使用） 仮数部：正規化した小数点以下の値を格納 浮動小数点数の「仮数部」には小数点以下の値が入り、指数部には2nのnを2進数にした値が入ります。 正規化とは 浮動小数点数の仮数部には正規化した値（小数点以下の値）が入ります。正規化とは、小数点の位置を調整し最上位桁を0以外の値にする作業のことです。 スポンサーリンク 次の図は正規化のイメージ例です。 「0.036×10-2」「0.00036×100」「0.0036×10-1」は同じ値です。この値を「0.36×1
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記
料率計算における小数点数の扱いについて | メルカリエンジニアリング
算数好きの小学生が『÷7』の小数点以下の法則を発見し、専門家からも称賛の声相次ぐ「これは研究者」「楽しんでるのがよくわかる」
文字列から浮動小数点数に変換する、なるべく速く - toge's diary
浮動小数点数の二段階丸め誤差 - hydrakecat’s blog
セブン、税込価格を「小数点第2位」まで表示へ 過去には「100円×3個＝301円」問題で謝罪
亜留間次郎氏、室町時代にご先祖が行った算術勝負で円周率が小数点以下8桁まで計算されていたことを語る
小数点の罠：メンバーシップポイント計算の裏側 - BASEプロダクトチームブログ
「RISC-V＋LLVM本 付録2. 浮動小数点命令」を無償公開しました - FPGA開発日記
浮動小数点数の足し算と掛け算は可換か - Qiita
学校では小数点以下の0は消しなさいと言われるが、工場で0を消したら違う数字だ、と怒られる
浮動小数点数オタクがAtCoder Beginner Contest 284のD問題をガチで解説してみる
C言語における浮動小数点演算の短縮 (contract) とそれに対する防衛術
これまで考えられていたより150年古い「小数点を使った最古の記録」が見つかる！ - ナゾロジー
OpenSiv3D for Web | IEEE 754 単精度浮動小数点数
浮動小数点数オタクがM1 Macを触ってみた - Qiita
浮動小数点数の限界はどこにある？ 32bitのデータで表現する数字の世界 | ログミーBusiness
4 ビット Float を自作したら、浮動小数点数の精度を理解できた - Qiita
消費税計算の端数は切り捨て？切り上げ？小数点以下の処理方法を解説
小数点の悲劇…。6.99ドルを69セントに設定したガソリンスタンド責任者が解雇される
IEEE浮動小数点数における平方根演算の精度に関する覚書 - よーる
小数点以下の四捨五入／切り捨て／切り上げをExcelで自由自在に
文字列少数点数表記を IEEE754 倍精度浮動小数点数にエンコードする方法｜Sukesan1984
【マンガでわかる】永遠に続く「円周率」は、Googleによって、小数点以下31兆4000億桁まで計算されている
C言語において浮動小数点数の足し算は可換か：FMAがある場合
【JavaScript】浮動小数点の演算誤差対処法 - Qiita
www.genspark.ai
www.betty0918.biz
tabouaxela.hatenablog.com
www.genspark.ai
www.fitnesslove.net
www.genspark.ai