正規化 (浮動小数点)(読み)セイキカ

ASCII.jpデジタル用語辞典 「正規化 (浮動小数点)」の解説

正規化 (浮動小数点)

浮動小数点数において、小数点位置を調節し、その後の計算で発生する誤差を減らすこと。浮動小数点の指数部と仮数部を調節して、できるだけ仮数部の上位桁に0が入らないようにして、誤差を少なくする。たとえば、ある計算の結果が0.00545×10の8乗だった場合、この正規化とは、仮数部を0.1~1の範囲に収めるために0.545×10の6乗に変更することをいう。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

今日のキーワード

排外主義

外国人や外国の思想・文物・生活様式などを嫌ってしりぞけようとする考え方や立場。[類語]排他的・閉鎖的・人種主義・レイシズム・自己中・排斥・不寛容・村八分・擯斥ひんせき・疎外・爪弾き・指弾・排撃・仲間外...

排外主義の用語解説を読む

コトバンク for iPhone

コトバンク for Android