fc2ブログ
2011/09/07

binary32正規化NETA


NETA
そういやniteprのばぐで浮動小数がうまく表示できないけど、0.4999fが原因なのか。 round = 0.4999f; とかかいてあるし。16進数NETAでC#正規化つくってみた、こんなかんじか,100=64*{1.0+(0.5+0.0625)}?あと25bitのとこカーソル上下で4倍ずつなはずがだんだんでかくなるとごみがつっつくか?

sign:+
exponent:143
franctino:0
+1 x 2^(143-127) x 1.0=2の16べき乗

くそーす

スポンサーサイト



04:10 | NitePRCOMMENT(0)TRACKBACK(0)  TOP

コメント

コメントの投稿



秘密にする