parseFloatの検索結果1 - 2 件 / 2件

• あとで読む

  JavaScript で parseInt / parseFloat を使わない方が良い理由

  • 536 users
  • nmi.jp
  • テクノロジー
  • 2022/02/03

  となるのが原因です。parseInt というのは、文字列を解析して整数値（int）を返すグローバル関数であり、引数をまず文字列に変換する仕様となっております。その段階で 0.0000005 が "5e-7" という文字列に変換されてしまい、その文字列の先頭の 5 だけが数字として解析されてしまったため、結果として parseInt(0.0000005) === 5 となりました。 なぜ String(0.000005) === "0.000005" に、String(0.0000005) === "5e-7" になるのかについては、この記事の最後で余談として説明します。 整数化には Math.trunc を使おう このように、parseInt は文字列を引数にすることを前提にしているため、速度の面でも可読性の面でも「小数値を整数値に変換したい」という場合に使うのは望ましくありません。最も望

  • javascript
  • あとで読む
  • プログラミング
  • programming
  • js
  • 開発
  • math
  • tips
  • const
  • 仕様
• あとで読む

  Go言語の strconv.ParseFloat のとある挙動変更を見つけた話 - プログラムモグモグ

  • 6 users
  • itchyny.hatenablog.com
  • テクノロジー
  • 2021/06/08

  弊社のとあるGoプロダクトでGo 1.14から1.16へアップデートしたところ、プログラムの挙動が変わる問題が発生しました *1。 ドキュメントに書かれていない strconv.ParseFloat の挙動の変更を踏んでしまったのです。 package main import ( "fmt" "strconv" ) func main() { fmt.Println(strconv.ParseFloat("1e100x", 64)) fmt.Println(strconv.ParseFloat("1e1000x", 64)) } このコードをGo 1.14で実行すると 0 strconv.ParseFloat: parsing "1e100x": invalid syntax 0 strconv.ParseFloat: parsing "1e1000x": invalid syntax と

  • golang
  • あとで読む