JavaとScalaのBigDecimalについて色々と - xuwei-k's blog
以下のような経緯で、BigDecimalをいじっていて、知らなかったことがいくつか出てきたので、まとまりが無いですがとりあえずわかったことを順に書いていきます。 前提知識として、BigDecimalはDoubleなどで表しきれない大きな数を表すためのクラスです、そしてscala.math.BigDecimalは、java.math.BigDecimalの薄いラッパーです。単に、BigDecimalといった場合、どちらのこと言ってるのかわかりにくい・・・。 play2scalaz という自作のライブラリで、テストが途中で停止する(?)問題に遭遇 スレッドダンプ取得してみたら、BigDecimalがあやしい Play2のJsonの数字を表すJsNumberは、内部で一旦scalaのBigDecimalとして保持している*1 なので、play2scalazのテストで、BigDecimalからJs
浮動小数点変換バグはJavaにもあった
cles::blog 平常心是道 blogs: cles::blog NP_cles() « OCE@N SG No.2 :: Windows 7 SP1 は 2/22 » 2011/02/10 浮動小数点変換バグはJavaにもあった php java cve PoC 26 1へぇ 先日、PHPで特定の浮動小数点数を入力するとハングするという問題*1*2があって、急遽アップデート版が出たりとかしてちょっとした騒ぎになりました。 <?php $d = 2.2250738585072011e-308; これと同じような問題がJavaにもあった模様。 ・Security Alert For CVE-2010-4476 Released (The Oracle Global Product Security Blog) ・Java Hangs When Converting 2.22507
JavascriptのMath.random()でユーザートラッキングができるという話 - kogelab::memo
表題の件について。 地味な話ですが、javascript（というかECMAの仕様）にあるMath.random()には、乱数のシードを与える方法が無いようです。 そんなわけで、われわれ一般市民は各ブラウザが独自に実装している、謎のシードで初期化された謎のアルゴリズムで作られた乱数を通常使うわけですが。 Mozillaからこんなの出てた。 曰く、Math.random()のシードによる初期化は、ブラウジングセッションごとに1度しか行われないと。 で、シードはまあ、かぶる率そんなに高くなさそうなので、そのシードをUSERの（擬似的な）ID代わりにしてしまえば、ユーザーのトラッキングができるよーん、とのこと。 はじめ読んだとき、「おおー、かっけー！」と思ったんですが、ちょっと待て。 シードって外から取れんのか。 というわけで、色々調べたところ、各ブラウザは（多分IEも）線形合同法による擬似乱数を
Mathクラスでよくやる高速化備忘録 « nulldesign
最近高速化に興味津々です。そんな中、Mathクラス遅いよね、遅くね?。ってことで、高速エンジン書くときによく使う最適化の一部（Mathクラス中心）を備忘録的に。ちょこっとだけ検証もしました。 内容的には既に既出のものばかりですが、備忘録ということで。 検証方法ですが、単純な式を1,000,000回繰り返し、そのタイムを10回計測。 平均値をもとにパフェーマンスを時間ベースで評価しています。 Math.max var k:Number = Math.max( a, b ); var k:Number = ( a > b )? a : b; // 46.4ms -> 3.5ms Math.min var k:Number = Math.min( a, b ); var k:Number = ( a 3.5ms Math.round var k:Number = Math.round( a
Wolfram|Alpha: Making the world’s knowledge computable
Compute expert-level answers using Wolfram’s breakthrough algorithms, knowledgebase and AI technology Mathematics ›Step-by-Step SolutionsElementary MathAlgebraPlotting & GraphicsCalculus & AnalysisGeometryDifferential EquationsStatisticsMore Topics »Science & Technology ›Units & MeasuresPhysicsChemistryEngineeringComputational SciencesEarth SciencesMaterialsTransportationMore Topics »Society & Cul
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
IBM Developer