読み方：はちビットふどうしょうすうてんすう

8ビット浮動小数点数【8-bit floating point number】FP8

概要

8ビット浮動小数点数とは、実数を8ビット（1バイト）で表現する浮動小数点形式。32ビットや16ビットの形式よりもデータ量が少なく、機械学習やAIの推論処理における計算の高速化とメモリ使用量削減のためによく利用される。

浮動小数点数は、小数を含む実数を表現できる数値データ型の一つで、符号部・指数部・仮数部の3つの領域にビットを割り当てて数値を表す。符号部で正負を示し、指数部で桁の大きさを、仮数部で有効な数値を保持する。

8ビット形式では限られたビット数を3つの領域に配分するため、表現できる値の範囲と精度は32ビット形式に比べて大きく制限される。用途に応じて、指数部4ビット・仮数部3ビットとする「E4M3」形式や、指数部5ビット・仮数部2ビットとする「E5M2」形式などのバリエーションがある。前者はやや精度を重視し、後者は表現範囲を広げることを優先している。

以前はあまり用いられなかった形式だが、大規模なニューラルネットワークの演算を効率化するために頻繁に利用されるようになった。ディープラーニングでは膨大な実数の行列計算が繰り返されるが、すべての処理に高い精度が求められるわけではない。8ビット浮動小数点数を用いることでメモリ使用量とデータ転送量を削減でき、プロセッサが一度に処理できるデータ量が増えるため、処理速度の向上や消費電力の抑制に繋がる。

精度の低下が問題になる場合は、重要な演算や最終結果の保持に16ビットの半精度浮動小数点数（FP16）や32ビットの単精度浮動小数点数（FP32）を組み合わせる手法が一般的に採られる。また、「量子化」と呼ばれる補正技術を活用することで、精度の低下による影響を実用上問題のない範囲に抑えられる。近年ではAI処理向けプロセッサやGPUで8ビット浮動小数点数による実数演算をハードウェアレベルで直接サポートする製品が増え、対応するソフトウェア環境の整備も進んでいる。