awkでの数値演算注意
ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog オークション事業部 プラットフォーム技術 後藤です。 私たちのチームはauctionリスト、サーチ、課金などのサービスの運用業務を 行っておりますが、今回は課金の検算などでよく利用するawkでの数値演算につ いてレポートします。 消費税算出など小数点付きのものを四則演算する場合、awk(表示形式のデフォル ト書式)を用いて生成する場合、以下ような現象が出ますので注意が必要です。 「7けた以上で科学表記になる場合がある」 「小数点を含めたけた数が7けた以上になると、誤差が出る場合がある」 などです。 以下の理屈が分かっていれば、なにも不思議はないのですが、結構誤差が出るパ ターンも多いので、利用者の意識が必要なのだなーと思っています
Awk One-Liners Explained, Part I: File Spacing, Numbering and Calculations
I noticed that Eric Wendelin wrote an article "awk is a beautiful tool." In this article he said that it was best to introduce Awk with practical examples. I totally agree with Eric. When I was learning Awk, I first went through Awk - A Tutorial and Introduction by Bruce Barnett, which was full of examples to try out; then I created an Awk cheat sheet to have the language reference in front of me;
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://catonmat.net/blog/wp-content/uploads/2008/09/awk1line.txt
IBM Developer
