2011/09/07
binary32正規化NETA
NETA
そういやniteprのばぐで浮動小数がうまく表示できないけど、0.4999fが原因なのか。 round = 0.4999f; とかかいてあるし。16進数NETAでC#正規化つくってみた、こんなかんじか,100=64*{1.0+(0.5+0.0625)}?あと25bitのとこカーソル上下で4倍ずつなはずがだんだんでかくなるとごみがつっつくか?
sign:+
exponent:143
franctino:0
+1 x 2^(143-127) x 1.0=2の16べき乗
くそーす
スポンサーサイト
04:10 | NitePR | COMMENT(0) | TRACKBACK(0) TOP
コメント
コメントの投稿
トラックバック
この記事にトラックバックする