半精度浮動小数点の使用によるパフォーマンスの向上 | iSUS3. パフォーマンスの向上 3.1. 背景 半精度浮動小数点には、32 ビット float と比べて、メモリーアクセスに関する利点があります: サイズが半分なので、低レイテンシーのコアに近いキャッシュに収まります。 使用するキャッシュ領域が半分で済むため、プログラムのほかのデータがキャッシュ領域を利用できます。 必要なメモリー帯域幅も半分なので、プログラムのほかの処理が帯域幅を利用できます。 さらに、半精度浮動小数点は、ディスクに格納する場合も、容量と ディスク I/O が半分で済むというメリットがありますが、欠点は、操作の前に 32 ビット float との変換が必要になることです。ただし、新しい half-float 変換命令は非常に高速なため、状況によっては、浮動小数点値の格納に half-float を使用することで、32 ビット float を使用するよりもパフォーマンスが向上す
