索引(ケ)

2020/10/19

桁落ちとは

桁落ちを分かりやすく解説 桁落ちとは 桁落ちとは、値がほぼ等しく丸め誤差を持つ数値の差を求めた時に、有効数字(位取りを示すだけのゼロを除いた意味のある数字)が大きく減ることによって生じる誤差のことです。 よくわからない・・・ 桁落ちは少し難しいので、例を用いて説明していきます。 スポンサーリンク 桁落ちの計算例 例えば、値がほぼ等しい次の数値の差を求めてみます。※説明のため10進数を例にしています。 √999 ≒ 31.60696125 √997 ≒ 31.57530680 まず小数の計算をするため、浮動 ...

2020/8/24

決定表(デシジョンテーブル)とは

決定表(デシジョンテーブル) 決定表(英:decision table)とは、複数の条件と、その条件から求められる期待値を整理するための表です。 次の図は決定表のイメージ例です。 決定表の見方は、例えば1列目であれば「〇〇」と「△△」の両方が当てはまるとき、結果は「C」となる。という感じです。 このように複数の条件とその期待結果を表にまとめたのが、決定表(デシジョンテーブル)です。   ソフトウェア開発などでは、作成したソフトが仕様通りに動作するのかを確認するためのテスト手法として用いられていま ...

© 2020 ITを分かりやすく解説