浮動小数点数を分かりやすく解説
浮動小数点数とは、コンピュータにおける数値を表現する方法の一つで、主に小数点を含む数値を表現するときに利用されています。 浮動小数点数の形式浮動小数点数は次のように「符号」「指数部」「仮数部」の形式で表現します。※32ビットの例 符号：正の数が0、負の数が1指数部：2nのnの部分を2進数表記にした値を格納（負の数の場合は2の補数を使用）仮数部：正規化した小数点以下の値を格納 浮動小数点数の「仮数部」には小数点以下の値が入り、指数部には2nのnを2進数にした値が入ります。 正規化とは浮動小数点数の仮数部には正規化した値（小数点以下の値）が入ります。正規化とは、小数点の位置を調整し最上位桁を0以外の値にする作業のことです。 スポンサーリンク 次の図は正規化のイメージ例です。 「0.036×10-2」「0.00036×100」「0.0036×10-1」は同じ値です。この値を「0.36×10-3」
組み込みCPUって小数の計算ができないの！？
という話題について。 INTELやAMDやARMだとか、パソコンやスマホに入っているCPUは計算能力に特化しているので、整数も小数も超高速に計算できます。 が、組み込み用途で使うようなCPU（マイコン・MPU)なんていうのは非常に貧弱なため、全然違います。 組み込みマイコンでも高い部類（千円に近い値段）のものは浮動小数点のハードウェアを持っているのでそれなりな速度で計算できますが、 普通の安いマイコンではそもそも浮動小数点のハードウェアを持っていません。 つまり、整数計算しかできません！ それもスマホやPCみたいに64bitなんてのではなく、16bitや下手したら8bitだったりします。 要は、小数の計算が出来ないどころではなく、整数の計算すらしょぼいのです。 8bitのマイコンでも32bitなどの大きな数値を計算することは出来ますが、「8bitごとに足し算して繰り上げて上の桁の計算に使用
固定小数点プログラム開発の手間を省ける組み込み機器向けDSPコアを開発 ──15人日でMP3デコーダを開発可能に
固定小数点プログラム開発の手間を省ける組み込み機器向けDSPコアを開発 ──15人日でMP3デコーダを開発可能に 小林士朗 ●浮動小数点はディジタル信号処理と相性が良い 自然界の信号は実数で表現されます．これを有限なビット数でいかに正確にモデル化できるかが，信号処理の品質を決定します．モデル化の正確性は，算術方式ごとに異なります．そのため，ディジタル信号処理において，どのような算術方式を用いるかは非常に重要です． 浮動小数点と固定小数点を用いた場合，どの範囲の数値を表現できるか（値域）を図2に模式的に示します．仮数の語長が有限なので，表現可能な数値は離散的になります．これはどちらの算術方式でも同様です． 指数を持つ浮動小数点データ・フォーマットは，広い値域を自動的にカバーします．指数の語長の有限性は，カバー可能な値域の広さとして現れます．図2を見ると，0の近傍にも表現できない値域が存在しま
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
