2009-08-20から1日間の記事一覧

浮動小数点数の2進10進変換のこと

浮動小数点数のわかりにくさの一因 浮動小数点数は難しいし何だか怪しげな感じがする。たぶん主な理由は 数値計算の難しさ 浮動小数点数演算の難しさ だと思う。でもこれらとは別に、 浮動小数点数を使う場合、ほぼ常に2進10進変換が介入している という理由…