LargestFixedPoint 関数

完全修飾名: Std.Math.LargestFixedPoint

function LargestFixedPoint(integerBits : Int, fractionalBits : Int) : Double

概要

特定の固定小数点寸法の最大の表現可能な数値を返します。

インプット

integerBits

整数ビットの数 (符号ビットを含む)。

fractionalBits

小数部のビット数。

所見

この値は 2^(p-1) - 2^(-q) として計算できます。ここで、p は整数ビットの数、q は小数部のビット数です。