오차와 유효숫자의 정의

2,유호숫자의 정의

<1>유효숫자 [有效數字, significant figure]

(요약) 근사값을 구할 때 반올림 등에 의하여 처리되지 않은 부분.

어떤 양을 측정할 때, 그 측정값은 실험적으로 불확실한 범위 이내에서만 의미를 갖는 값이다. 불확실로의 범위는 실험기구의 질이나 실험자의 기술, 실험 수행 횟수 등과 같은 다양한 요인들의 영향을 받는다.
이런 오차를 고려한다 해도 신뢰할 수 있는 숫자를 자리수로 나타낸 것을 말한다. 측정값은 오차가 있게 마련이므로, 오차의 크기보다 작은 수치는 신뢰할 수 없다. 이를테면 오차가 ±2인 413.2라는 측정값을 얻었을 경우, 정확한 값은 415일지도 모른다. 따라서, 소수 이하의 2라는 숫자는 신뢰할 수 없다.

신뢰할 수 있는 숫자는 4와 1 두 자리가 된다. 이때, 4.1×102으로 나타내고 `유효숫자는 두 자리이다`라고 한다. 유효숫자의 가장 끝자리 수는 그 다음 자리의 수를 반올림하여 생기는 정도의 오차는 포함하는 것으로 생각한다. 유효숫자는 소수점의 위치에 관계되지 않는다. 일반적으로 유효숫자의 부분을 따로 떼어서 정수 부분이 한 자리인 소수로 쓰고, 소수점의 위치는 10의 거듭제곱으로 나타낸다.
…