가설의 요건과 종류(영가설·연구가설)

바람직한 가설은 경험적으로 검증할 수 있어야 하고, 표현이 간단명료해야 하며, 이론과 연관되어야 하고, 변수 간의 관계를 기술해야 한다. 다만 변수 간 관계의 방향은 연구 상황에 따라 정(+)의 관계일 수도 부(-)의 관계일 수도 있으므로, 가설이 반드시 정(+)의 관계로 기술되어야 하는 것은 아니다. 또 방향을 명시하지 않는 비방향적 가설도 존재하므로 가설이 반드시 방향성을 가져야 하는 것도 아니다. 하나의 가설에 변수가 많아질수록 관계가 복잡해져 검증이 오히려 어려워지므로, 변수가 많을수록 검증에 유리하다는 서술은 틀렸다.

경험적으로 검증할 수 있는 가설은 측정 가능한 두 변수 간의 관계를 서술한다 — 예컨대 '여성의 노동참여율이 높을수록 출산율은 낮을 것이다'는 노동참여율과 출산율의 관계를 서술해 검증할 수 있다. 반면 '다양성이 존중되는 사회가 더 바람직하다'처럼 가치판단을 담은 진술, 특정 시점의 인구비율 같은 단일 사실 진술, '불평등은 모든 사회에서 나타날 것이다'·'모든 행위는 비용과 보상에 의해 결정된다'처럼 지나치게 포괄적이거나 순환적인 명제는 검증 가능한 가설의 형태를 갖추지 못했다.

영가설(귀무가설)은 '변수 간에 관계가 없다' 또는 '집단 간 차이가 없다'고 진술하는 가설로, 독립변수가 종속변수에 영향을 미치지 않는다고 가정하며, 관찰된 차이가 우연(표본추출오차)에 의한 것이라고 진술한다. '두 개 모집단의 평균 간에 차이가 없을 것이다'를 기호로 쓰면 μ₁ = μ₂ 이다. 영가설은 연구가설이 주장하는 바를 부정하는 반증가설이고, 연구가설(대립가설·대안가설)은 연구자가 실제로 입증하고자 하는, 변수 간 관계가 있다는 가설로 연구의 개념적 틀 혹은 연구모형으로부터 도출될 수 있다. 연구자가 참으로 증명되기를 기대하는 것은 영가설이 아니라 연구가설이다. 영가설과 대립가설은 사용되는 변수의 수가 아니라 관계가 없다고 보는가, 있다고 보는가로 구분된다.

통계적 검정이 직접 겨냥하는 것은 영가설이다. 연구가설은 그 자체를 직접 검정할 수 없고, 영가설을 먼저 검정해 기각·채택을 정한 뒤 그 결과에 따라 연구가설의 지지 여부가 결정된다. 통계치에 대한 확률(p)이 유의수준(α)보다 낮으면 영가설이 기각되고, 영가설을 기각하면 연구가설이 잠정적으로 채택된다. 영가설은 검증 결과 기각될 수도 채택될 수도 있으며, 관계가 우연이 아님을 보이는 것은 영가설이 기각된 결과이지 영가설 자체의 기능이 아니다. 또한 가설은 모집단의 속성, 곧 모수에 관한 진술이고 표본의 통계치는 그 가설을 검증하는 자료이므로, 연구가설을 표본의 통계치에 대한 가정이라고 하면 틀린다.