浮動小数点数の丸め処理を見比べてみる - hnwの日記
各種プログラミング言語には、切り上げ・切り捨て・四捨五入など浮動小数点数を丸める関数が何種類もあります。こうした丸め処理を利用する際、「ceilとfloorどっちがどっちだっけ？」「マイナスの数が来た時の挙動って大丈夫なんだっけ？」などと不安になることはないでしょうか。 僕が丸め関数を使うときは、バグが無いかどうか他の場所以上に警戒します。というのも、これらの関数は境界値ピッタリだった場合の挙動とマイナスの数に対する挙動がそれぞれ違っており、勘違いや考え漏れから境界値バグを作り込みやすいためです。僕と同じ感覚の人も多いのではないでしょうか。 本稿では、こうした関数の挙動が一目でわかる便利なグラフを紹介します。このグラフは『WEB+DB PRESS Vol.57』に掲載いただいた僕の記事「PHP転ばぬ先の杖 第2回 数値の正しい扱い方 ― 浮動小数点数、巨大な整数」でも紹介したものです。以下
SQLServerでの文字列の半角文字から全角文字への変換 - babydaemons’ blog
データの全角半角変換、、 - QA@ITでじゃんぬねっとさんが言及している関数を実装してみました。 ＃この掲示板の議論で、じゃんぬねっとさんはtypoしてますねｗ ＃やはり、人間はtypoから逃れられないのかｗ ※超重要：私もtypoしてました。コメントでご指摘いただきました。ありがとうございます。m(_ _)m レビューせずにコピペしてこのソースを流用した方は、修正をお願いします。m(_ _)m CREATE FUNCTION dbo.ToWide(@s VARCHAR(512)) RETURNS VARCHAR(512) AS BEGIN /* ASCII文字はコード順に処理する */ SET @s = REPLACE(@s COLLATE Japanese_BIN, ' ', ' ') SET @s = REPLACE(@s COLLATE Japanese_BIN, '!', '！
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
