ISC 2019 - ディープラーニングに最適な数値表現のPosit
最近では16bitの浮動小数点数(FP16、あるいは半精度)で演算して、マシンラーニングの計算性能を改善するという話が一般化してきている。ということで、計算をより簡単に実行して性能を改善しようという動きがある。 今年のISC 2019では、混合精度計算のセッションが設けられ、その中でシンガポール国立大のJohn Gustafson教授が「混合精度の管理からプログラマを自由にするPosit」と題するプレゼンテーションを行った。Gustafson氏はHPCの世界では有名なコンピュータ科学者で、Gordon Bell賞も受賞している。アクセラレータの草分けのClear Speed社のCTOやAMDのチーフグラフィックスプロダクトアーキテクトを務めたこともある。そして、ISC 2019での発表時の肩書は、A*STARと国立シンガポール大学の教授となっている。 ISC 2019で発表を行うJohn
.NET Core上で実数演算すると結果がズレる - Qiita
TL;DR .NET Core(2.2)上で倍精度浮動小数点を使った演算を行うと、同じ順序で計算させても環境によって計算結果がズレるから、比較するときとか注意すべきではないかと考える1。 実際やったこと 実行したテストの内容は以下の通り [-90°,+90°]の区間を1°につき128分割してその弧度を計算した。 予め計算されている上記に対応した弧度を元にして、sin,cos,tan及び、sin/cosを標準のSystem.Mathを使い計算した。 弧度の計算方法 弧度の計算は、以下の二種類を利用した。以下、対応するDegreesをdとする。 単純にd*(Math.Pi/180)を計算させた。 jglmを参考に倍精度浮動小数点の上位32bitを分割した上で、仮数域を拡張して、高精度計算を行った2。 実行環境一覧 今回も多数のご協力を得る事が出来た。 また、この検証を進めるに当たり、多くの方か
Floating-Point Parsing and Formatting improvements in .NET Core 3.0 - .NET Blog
Get notified in your email when a new post is published to this blog Starting back with the .NET Core 2.1 release, we were making iterative improvements to the floating-point parsing and formatting code in .NET Core. Now, in .NET Core 3.0 Preview 3, we are nearing completion of this work and would like to share more details about these changes and some of the differences you might see in your appl
PHPのround関数とは一体なんだったのか - hnwの日記
（7/3 14:05追記）Javaに関する記述について誤認があったので盛大に書き換えました。Java 6、Java 7、Java 8それぞれで実装が変わっていたようです。 （7/13 23:55追記）本記事中ではroundを四捨五入と言い切ってしまっています。これは筆者がC99のroundを基準に考えているためですが、言語によっては偶数丸めになっているround関数も珍しくありません。ご注意ください。 PHPのround関数について、ネット上で次のような記述を見つけました。 PHP 四捨五入の計算を間違える唯一の言語として畏れられていましたが、そのバグは治っているかもしれません（治ってないかもしれません） 主要なプログラミング言語8種をぐったり解説 - 鍋あり谷あり 各言語を面白おかしく紹介する内容とはいえ、ずいぶん雑な理解だなーという印象です。ゆるふわな話だけでPHPがdisられ続けるの
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
