浮動小数点表現(読み)ふどうしょうすうてんひょうげん

世界大百科事典(旧版)内の浮動小数点表現の言及

【数の表現】より

…小数点の右は四捨五入(二進法では0捨1入)して,23(52)ビットに丸めて仮数の表現とする。IEEEの規格のみならず,一般に元の値の小数点は仮数の小数点に対して浮動的なので,実数の表現を浮動小数点表現と言う。また,無限小数を一定のビット数に収めるため丸めるが,このため与えられた浮動小数点データは,初めから分かっている特別な場合を除いて,ある程度の誤差を含むと考えるべきである。…

※「浮動小数点表現」について言及している用語解説の一部を掲載しています。

出典|株式会社平凡社「世界大百科事典(旧版)」

今日のキーワード

自動車税・軽自動車税

自動車税は自動車(軽自動車税の対象となる軽自動車等および固定資産税の対象となる大型特殊自動車を除く)の所有者に対し都道府県が課する税であり、軽自動車税は軽自動車等(原動機付自転車、軽自動車、小型特殊自...

自動車税・軽自動車税の用語解説を読む

コトバンク for iPhone

コトバンク for Android