유효숫자 실험 오차 관계

유효숫자 실험 오차 관계 그리고 유효숫자정의, 유효숫자 덧셈, 유효숫자 곱셈, 유효숫자 반올림에 관한 유효숫자 계산 등에 관하여 쉽게 알려드리겠습니다.

과학은 수많은 실험들이 있고 기록을 한다.
많은 수들은 측정 결과이며 그 수는 정확할 필요가 있지만 실험적 부정확성 때문에 어떤 한계를 갖고 있다. 유효숫자 실험 오차가 발생하게 되며 실험에서 나타나는 부정확성의 크기는 실험을 하는 사람의 숙련도와 사용된 장비나 기타 조건들에 달려 있으며 때로는 부정확성을 산출할 수 있다.

 

측정치의 부정확성은 사용된 숫자로 표시된다.

누군가 대략 자동차의 길이가 4.90m라고 말한다면 그것은 4.895m와 4.905m 사이일 것이라는 뜻을 갖고 있다.

이것은 그 길이의 정밀도가 약 ±0.005m = ±0.5cm 이내에 있음을 알 수 있다.

단위를 m, cm가 아닌 mm 측정계로 자동차를 정밀 측정한다면 ±0.5cm가 아니라 ±0.5mm의 정밀도까지 나타낼 수 있다.

 

유효숫자에 대해 알아보자.

소수점의 위치를 표시하시 위한 0을 제외한 믿을 수 있는 숫자를 유효숫자라 한다.

1.1은 2개의 유효숫자와 1.20은 3개의 유효숫자를 갖고 있으며 1.234는 4개의 유효숫자를 가지고 있다.

0.00123은 3개의 유효 숫자를 가지고 있다.

앞의 0 3개는 유효 숫자가 아니라 단지 소수점의 위치를 확실히 보여주기 위한 것이다.

(과학적 표기법은 1.23 × 10² 과 같이 표시한다.)

 

몇 개의 수를 곱하거나 나눌 때

곱 또는 나누기로 얻어진 결과의 유효숫자는 각 수의 유효숫자 중 가장 작은 유효숫자보다 클 수 없다.

1.59 × 0.02 의 유효숫자는 0.0318이 아닌 0.03이 된다.

(1.59의 유효숫자 3개, 0.02의 유효숫자 1개 이기 때문이다.)

 

두 개의 측정치를 더하거나 뺄 때의 정밀도는 두 개 측정치의 최소 정밀도와 같다.

두 개의 수를 더하거나 뺀 결과는 두 수들이 모두 유효숫자를 가진 소수점 이하 마지막 자리를 넘는 유효숫자를 가질 수 없다.

1.5 + 2.42의 유효숫자는 3.92가 아닌 3.9이다.

대략적인 계산이나 비교를 할 때 수는 반올림하여 10의 지수로 쓴다.

이러한 수를 크기의 정도라고 부른다.

인간의 크기가 10⁰인 것은 다들 1m의 크기라서가 아니라 10m와 0.1m차이로 볼 때 1m에 가까움을 나타내고 정확한 숫자를 제공하지 않거나 셀 수 없는 여러 가지 크기 등을 나타낼 때 사용된다.

 

어떤 양의 크기의 정도는 종종 적당한 가정과 간단한 계산을 사용하여 어림할 수 있는데 물리학자 엔리코 페르미(Enrico Fermi)는 제한된 정보로 근사적 답을 얻고 하는 능력으로 이런 문제들을 페르미 문제 또는 추정 이라 부른다.