- Published on
ディジタル計測器の誤差の表記
- Authors
- Name
- Daisuke Kobayashi
- https://twitter.com
ディジタル計測器の誤差の表記について,うちで作っている計測器の誤差を表すときに下記のように表記することがある.
2.0% rdg. ± 2 digit
良く意味を忘れるのでメモしておく.
rdg. -> reading の略,計測器で読み取った値(測定値) digit -> 計測器の分解能(最小単位)
小数第一位まで表示する計測器があった場合,測定値が 100.0
誤差が 2.0% rdg. ± 2 digit
だったら
±(100.0 x 0.02 + 0.1 x 2) = ± 2.2
の誤差があるということになる.
この表記のポイントは digit の部分だと思う.digit は分解能に対してかかってくるから,計測器の出力が小さいほど digit で許容される部分の幅が広がる.出力が小さいほど S/N 比が悪くなるから,digit の表記を加えておくとメーカ側としては低出力での性能の保証がしやすくなる.