2021-01-02から1日間の記事一覧

単精度浮動小数点数への変換

123 2進数に変換 0b1111011 単精度浮動小数点数形式に正規化 0b1.111011 x 2^(6) 単精度浮動小数点数データ構造に変換 符号部: 0 指数部: 6 + 127 = 134 仮引数部: 11101100000000000000000 Swiftによる確認 let f = 123 as Float print("符号: ", f.sign) p…

単精度浮動小数点数(IEEE754) の作り方

書いたこと 単精度浮動小数点数形式とデータ構造 10進数から単精度浮動小数点数データ構造への変換 精度と誤差 単精度浮動小数点数形式とデータ構造 2進数をそのままでは単精度浮動小数点数データ構造に変換することはできない。 一旦、単精度浮動小数点数…