FC2ブログ
2012/09/16

( ^ω^)くいろ


2012/09/16
半精度浮動小数点のデコードが変だったので修正
半精度のオーバーフロー対策(65536->NAN)
vfim.sでもRPN/数式が使えるようにした

半精度にバグがあったので修正。そういや,をPRIORITY最低にしてるからポ/数式ミックスでもつかえんのか、どうでもいいkど。半精度オーバーフローはとりあえず65536(17bit)以上はいちおうNANにしとくk。そういや$ONYにも変換関数あったな、例外処理しれべるk。
半精度
bit落ちるんでかなり差がでる
単精度65536->例外で半精度 0x7F80 NAN
単精度65535->半精度 0x7BFF = 65504

スポンサーサイト



01:07 | MKVIPSCOMMENT(0)TRACKBACK(0)  TOP

コメント

コメントの投稿



秘密にする