표집오차와 표준오차, 신뢰수준과 신뢰구간

표집오차는 전체가 아닌 일부만 조사했기 때문에 생기는, 표본의 값과 모집단의 값 사이의 어긋남이다. 잘못해서 생기는 것이 아니라 표집을 하는 한 반드시 따라오는 것이며, 그래서 없애는 것이 아니라 크기를 계산하고 밝히는 것이 목표가 된다. 같은 방식으로 표본을 여러 번 뽑으면 표본평균은 그때마다 조금씩 다르게 나온다. 그 값들이 흩어진 정도를 나타내는 것이 표준오차이며, 표집오차의 크기를 재는 잣대 노릇을 한다. 표준오차는 표본이 클수록 작아지고, 모집단의 흩어짐이 클수록 커진다. 다만 표본을 네 배로 늘려야 표준오차가 절반이 되는 관계여서, 표본을 키워 오차를 줄이는 일은 점점 더 비싸진다. 신뢰수준은 그렇게 만든 구간이 모수를 담을 것이라고 말하는 확신의 정도로, 보통 95퍼센트나 99퍼센트를 쓴다. 신뢰구간은 그 확신을 붙여 「모수가 이 사이에 있을 것」이라고 제시하는 범위다. 지지율 42퍼센트에 오차 범위 ±3퍼센트포인트를 붙였다면 39에서 45퍼센트가 신뢰구간이다. 둘은 맞바꿈 관계에 있다. 같은 표본에서 신뢰수준을 95에서 99퍼센트로 높이면 더 확신하려는 만큼 구간이 넓어져 말이 뭉툭해지고, 구간을 좁히려면 확신을 낮추거나 표본을 키워야 한다. 「확신은 높이면서 범위는 좁히는」 길은 표본을 키우는 것뿐이다. 마지막으로 표집오차는 확률표집에서만 계산된다. 그리고 표집오차는 조사가 안는 여러 오차 가운데 하나일 뿐이어서, 무응답과 측정오류처럼 표집 밖에서 생기는 비표집오차는 표본을 키워도 줄지 않는다. 오차를 줄이는 길이 표본을 키우는 것만 있는 것도 아니다. 층화표집을 쓰면 같은 인원으로도 오차가 줄고, 반대로 집락표집을 쓰면 같은 인원이라도 오차가 커진다. 곧 표집오차의 크기는 표본 수와 모집단의 흩어짐, 그리고 어떤 설계로 뽑았는가가 함께 정하는 값이며, 표본 수만 적어 놓고 오차를 논하는 보고는 그 절반만 말한 셈이 된다.

국에서 한 숟갈을 떠 간을 보면 그 맛은 냄비 전체의 맛과 조금 다르다. 이 어긋남이 표집오차이고, 여러 번 떠 보았을 때 맛이 얼마나 들쭉날쭉한지가 표준오차다. 숟갈을 크게 뜰수록 편차는 줄지만 두 배 크게 떠도 편차가 절반이 되지는 않는다. 신뢰수준을 높인다는 것은 「이 사이 어딘가입니다」라고 말하는 범위를 넓혀 틀릴 여지를 줄이는 일이어서, 확신과 정밀함은 한 표본 안에서 서로를 갉아먹는다.