シェーダでは浮動小数点のアンダーフローを意識しないと端末依存バグが起こるよって話 - LIGHT11

シェーダでは浮動小数点のアンダーフローをちゃんと意識しないとダメだよって話です。 アンダーフローとは？なぜ意識しないとダメなのか？ 浮動小数点数の仕組みと正規化・非正規化 floatの正の最小値 halfの正の最小値 非正規化は対応GPUが限られてるしパフォーマンスも悪い 結論 参考 アンダーフローとは？なぜ意識しないとダメなのか？ シェーダではfloatやhalfといった型の浮動小数点数をよく使います。 浮動小数点数は表現できる正の最小値が決まっていて、 それ未満の値を代入するとゼロとして扱われてしまいます。 この現象をアンダーフローと呼びます。 そしてこのようにしてゼロになった値で除算を行うといわゆるゼロ除算になります。 シェーダでは、ゼロ除算の結果は「未定義」であり、つまり何が起こるかわかりません。 stackoverflow.com 上記のフォーラムでは、iPadのシミュレータとi