2017.09.  12345678910111213141516171819202122232425262728293031 2017.11.
float書き込み

float値も弄りたくて軽く調べてたけど
公式みたいなのって無いんかねぇ…


float値%n書き込み実験
DTC結果 =書込10進数 (16進数)
1.000000=1065353208 (0x3F7FFFF8)
2.000000=1073741820 (0x3FFFFFFC)
2.500000=1075838974 (0x401FFFFE)
3.000000=1077936126 (0x403FFFFE)
4.000000=1082130430 (0x407FFFFE)
5.000000=1084227583 (0x409FFFFF)
6.000000=1086324735 (0x40BFFFFF)
7.000000=1088421887 (0x40DFFFFF)
8.000000=1090519039 (0x40FFFFFF)
9.000000=1091567616 (0x41100000)
10.000000=1092616192 (0x41200000)
11.000000=1093664768 (0x41300000)
12.000000=1094713344 (0x41400000)
13.000000=1095761920 (0x41500000)

+1~2程度でも算出に差は無かったりする事もある


単純に0x0020000増加で解決してれば良かったんだが…
フローダメージよろしくこちらも一定値毎に算出結果が変わる模様
あとなんか負数に出来なかった(´・ω・`)

もうやる気失くしたので誰か公式くれー

float値にはfloat値で対応するのが一番なんだが
%n書き込みにfloat値使えないってのが響くねぇ…
int換算よりfloat利用の方面でやり方探せば一気に解決しそうなものだけどな


CommentList

( 2014.04.16 ) ( MUGEN ) ( COMMENT:6 ) ( TRACKBACK:0 )
コメント

floatは浮動小数点数で表現されていて、表現方法に使われている規格がIEEE754だったと思います。

( by : ZAF * URL ) ( 04/17 - 00:55 ) ( 編集 )

S美鈴が希望絶望で大活躍してますね
名雪なんかの永久コンボにはやはり分が悪いのでしょうか?

( by : 新世界の名無し * URL ) ( 04/18 - 02:45 ) ( 編集 )

>>ZAFさん
つまりどういうことだってばよ?

( by : 熄 癈人 * URL ) ( 04/18 - 12:52 ) ( 編集 )

>>名無し殿
稽古モードですから即死全般に弱く
更新で瀕死になってもやられ抜け超必を使わなくなったので永久も刺さりますね

( by : 熄 癈人 * URL ) ( 04/18 - 12:54 ) ( 編集 )

12300を「1.23 x 10の4乗」のように
仮数(1.23)、基数(10)、指数(4)、符号(+-)で数値を表現するのが浮動小数点数
これを表現する規格の1つがIEEE754

IEEE754で32bitの場合
符号:1bit(0で+、1で-)
指数:8bit(127のゲタ履き)
仮数:23bit(1以上2未満に正規化)
で割り当てられる。基数は2で固定されるのでbitで表さない

例えば"9"をこの方法で表すと
9 → 1.125 x 2の3乗になるので
符号は+なので 0
仮数は整数部分の1を省略するので 0.125
指数は127のゲタ履きなので 130 (3=130-127)
これをbitで表すと
0 10000010 00100000000000000000000
になる
16進数にすると
0x41100000
になる
という感じです。これ以外に0、正負の無限大、非数(NaN)などの特別な値のbit列の定義があります。
説明が間違ってたらごめんなさい

詳しい説明は浮動小数点数で調べればWikipediaとかにあります。

ただ、1とか2とかが近似値になっているのはちょっとわからないです。
この方式で表すと2は0x40200000になります。

( by : ZAF * URL ) ( 04/18 - 21:58 ) ( 編集 )

>>ZAFさん
曖昧にしかわからんのう…w
コンピューター用の特殊な公式みたいなものかぁ

例を見ながら単純な式なら組み立てられそうだが
手出しできそうにないなぁ

( by : 熄 癈人 * URL ) ( 04/19 - 01:47 ) ( 編集 )

コメントする?












 秘密コメント

トラックバック
トラックバックURL