기각역 설정하는 법

이전 글에서 검정통계량이 “채택역”안에 위치하면 귀무가설을 채택하고, 검정통계량이 “기각역”안에 위치하면 귀무가설을 기각(탈락)한다고 했었다. 이렇게 가설검정은 표본으로 뽑은 통계량이(검정통계량) 어디에 위치하느냐에 따라서 귀무가설의 채택과 기각 여부를 판단한다. 그런데 만약 표본으로 뽑은 검정통계량의 값이 작아서 그래프의 왼쪽에 위치하고 있을 때, 기각역이 오른쪽에 있다면 어떻게 될까? 아마도 상황이 이상할 것이다.

검정통계량이 그래프의 왼쪽에 위치하고 있으면, 굳이 멀리 떨어져 있는 오른쪽 기각역 말고, 그냥 가까이에 있는 왼쪽 기각역과 비교를 하면 된다. 그리고 오른쪽 기각역은 모수가 얼마나 큰지를 판단하기 때문에, 값이 작은 검정통계량으로 모수가 얼마나 작은지는 판단을 못 한다. 그래서 검정통계량의 값이 작아서 그래프의 왼쪽에 위치하고 있으면 기각역을 왼쪽에 설정한다. 반대로 검정통계량의 값이 커서 그래프의 오른쪽에 위치하고 있으면 기각역을 오른쪽에 설정한다. 이렇게 기각역을 왼쪽에 설정한 것을 “좌측검정”이라고 하고, 기각역을 오른쪽에 설정한 것을 “우측검정”이라고 하는데, 한쪽 방향만 검정하기 때문에 둘 다 “단측검정”이라고 한다.

 

그런데 가설검정에는 “같지 않다(≠)”의 상황도 있는데, ≠는 모수가 작은지 아니면 큰지를 모르는 상황이다. 그래서 기각역을 양쪽으로 설정하는데, α가 양쪽으로 나뉘기 때문에 α/2를 해서 기각역을 설정한다. 그리고 이러한 검정을 “양측검정”이라고 하는데, 단지 기각역이 양쪽으로 나뉘기 때문에 단측검정에 비해서 “검정력”이 떨어진다. 그래서 될 수 있으면 양측검정보다는 단측검정을 하는 것이 좋다. 그리고 모수가 작은지 아니면 큰지를 모르기 때문에 양측검정을 한다고 했는데, 어차피 표본을 뽑아서 검정통계량을 구해보면, 대략적으로 작은지 아니면 큰지를 알 수 있다. 그래서 검정통계량이 어느 쪽에 위치하는지를 파악해서 단측검정을 하면 되기에, 굳이 검정력이 떨어지는 양측검정을 할 필요는 없다. 그래서 개인적인 생각으로 양측검정은 아예 가설검정에서 빼버리는 것이 좋다고 생각하지만, 그럼에도 일반적으로 다루는 개념이기에 그냥 다루려고 한다.(양측검정의 검정통계량도 왼쪽이나 오른쪽 한 방향으로 값이 정해지는데, 어느 쪽일지는 계산해봐야 안다)

 

그런데 위에서는 검정통계량을 기준으로 기각역을 설정하였는데, 원래는 대립가설을 기준으로 기각역을 설정하는 것이 더 일반적이다. 그리고 대립가설을 기준으로 기각역 설정하는 법을 알아야 하는 이유는, 가끔가다가 검정통계량이 그래프의 왼쪽에 위치하고 있는데도 불구하고 기각역을 오른쪽에 설정하라거나, 혹은 검정통계량이 그래프의 오른쪽에 위치하고 있는데도 불구하고 기각역을 왼쪽에 설정하라는 정신 나간 문제가 나오기 때문이다. 그런데 대립가설을 기준으로 기각역을 설정하면, 이런 정신 나간 문제도 대처할 수가 있으므로, 일단 대립가설을 기준으로 기각역을 설정하다가, 영 헷갈리면 위와 같이 검정통계량의 위치를 파악해서 기각역을 설정하면 된다. 어쨌든 대립가설을 기준으로 위의 상황을 다시 한 번 정리하면 아래와 같다.

 

참고로 위의 3가지 상황 모두 검정통계량으로 귀무가설의 채택과 기각 여부를 판단한다. 그래서 검정통계량이 하얀색 “채택역”안에 위치하면 귀무가설이 채택되고, 반대로 검정통계량이 빗금 친 “기각역”안에 위치하면 귀무가설이 기각(탈락)된다.