計算機イプシロン

コンピュータで扱われる浮動小数点数は、指数部と仮数部に分かれており、単に小さい数を表すだけであれば指数部を小さくすれば表現が可能である。一方、「1より大きい最小の数」のような場合は、仮数部を使って微小な差を表現することとなる。その限界が計算機イプシロンである。

${\displaystyle b}$ 進法で ${\displaystyle p}$ 桁の浮動小数点数の場合、計算機イプシロンは${\displaystyle b^{1-p}}$となる[1]。 例えば、IEEE 754のbinary32（単精度）では、${\displaystyle b=2}$、${\displaystyle p=24}$[2]なので、${\displaystyle \epsilon =2^{1-24}=1.192\times 10^{-7}}$となる。 同様にIEEE 754のbinary64（倍精度）では　${\displaystyle \epsilon =2^{1-53}=2.220\times 10^{-16}}$となり，binary128（四倍精度）では　${\displaystyle \epsilon =2^{1-113}=1.926\times 10^{-34}}$となる。

元来の定義では上述のとおりとなっているが、一部では「${\displaystyle 1+x\neq 1}$ となる最小の ${\displaystyle x}$」という定義、あるいは説明をしている例が存在する[3]。後者の定義では、浮動小数点演算の丸め処理の定義に依存して値が変化してしまう[1]ため、厳密には同じでない。

• 誤差