打ち切り誤差(読み)うちきりごさ

IT用語がわかる辞典 「打ち切り誤差」の解説

うちきりごさ【打ち切り誤差】

コンピューターによる数値計算で見られる誤差ひとつ演算を繰り返すことで精度が高くなる計算処理が、途中で打ち切られることにより生じる。

出典 講談社IT用語がわかる辞典について 情報

ASCII.jpデジタル用語辞典 「打ち切り誤差」の解説

打ち切り誤差

演算処理を中断することで生じる誤差。たとえば、数式を繰り返し実行する処理を中断した場合に、本来得られる値との間に生じる誤差をいう。

出典 ASCII.jpデジタル用語辞典ASCII.jpデジタル用語辞典について 情報

今日のキーワード

自動車税・軽自動車税

自動車税は自動車(軽自動車税の対象となる軽自動車等および固定資産税の対象となる大型特殊自動車を除く)の所有者に対し都道府県が課する税であり、軽自動車税は軽自動車等(原動機付自転車、軽自動車、小型特殊自...

自動車税・軽自動車税の用語解説を読む

コトバンク for iPhone

コトバンク for Android