실험설계

전실험설계와 요인설계

미학습

읽고 나면 회독 완료

전실험설계(원시실험설계)는 무작위 배정도 통제집단도 갖추지 못했거나 하나만 갖춘 설계로, 인과를 말하는 힘이 가장 약하다. 그럼에도 현장에서 자주 쓰이므로 무엇을 말할 수 있고 무엇을 말할 수 없는지 아는 것이 중요하다. 일회검사 사례연구(단일집단 사후검사 설계)는 개입한 뒤 한 번 재는 것이 전부다. 견줄 것이 아무것도 없어 개입 때문인지조차 말할 수 없고, 사실상 실태를 적어 두는 기록에 가깝다. 단일집단 사전사후검사 설계는 한 집단을 개입 전후로 재어 견준다. 변화가 있었다는 것은 알 수 있으나 외부사건·성숙·검사·도구·통계적 회귀가 모두 살아 있어 그 변화의 원인을 가릴 수 없다. 현장 평가에서 가장 흔히 쓰이는 형태이기도 하다. 정태적 집단비교(비동일 집단 사후검사 설계)는 개입집단과 비교집단을 사후에만 재어 견준다. 비교집단은 있으나 무작위 배정도 사전검사도 없어, 두 집단이 애초에 달랐을 가능성을 배제할 수 없다. 요인설계는 성격이 다르다. 독립변수를 둘 이상 동시에 두고 각 조합을 만들어, 각 변수의 효과인 주효과와 두 변수가 함께 작용해 생기는 상호작용효과를 함께 본다. 개인상담 유무와 집단프로그램 유무를 교차하면 네 조합이 생기고, 어느 하나만 할 때보다 둘을 함께 할 때 더 큰 효과가 나는지를 확인할 수 있다. 여러 변수를 한 연구에서 다룰 수 있어 효율적이지만 조합이 늘수록 필요한 표본이 급격히 커진다. 요인설계는 앞의 셋과 층이 다르다는 점을 짚어 둘 만하다. 전실험설계는 비교가 모자라 인과를 못 말하는 설계들이고, 요인설계는 독립변수를 여럿 두는 짜임을 가리키는 말이어서 무작위 배정을 붙이면 순수실험이 되고 붙이지 않으면 유사실험이 된다. 곧 요인설계는 설계의 강약을 나타내는 이름이 아니라 변수를 몇 축으로 볼 것인가를 나타내는 이름이다.
전실험설계는 견줄 것이 모자란 설계들이다. 개입 뒤에만 재면 무엇과 견줄지가 없고, 한 집단만 앞뒤로 재면 시간과 견주는 셈이며, 두 집단을 뒤에만 재면 애초에 같았는지 알 수 없다. 반면 요인설계는 견주는 축을 오히려 늘린 설계다. 하나씩 따로 시험하는 대신 둘을 겹쳐 보면서, 각각의 몫과 함께 썼을 때 생기는 몫을 갈라 보려는 것이다.
  1. 전실험설계는 무작위 배정과 통제집단이 없거나 하나뿐이라 인과를 말하는 힘이 약하다.
  2. 일회검사 사례연구는 개입 뒤 한 번만 재어 견줄 것이 없으므로 기록에 가깝다.
  3. 단일집단 사전사후검사 설계는 변화는 보이나 저해요인이 모두 살아 있어 원인을 못 가린다.
  4. 정태적 집단비교는 사후에만 두 집단을 견주어 애초의 차이를 배제하지 못한다.
  5. 요인설계는 독립변수를 둘 이상 두어 주효과와 상호작용효과를 함께 본다.
  6. 요인설계는 효율적이나 조합이 늘수록 필요한 표본이 급격히 커진다는 부담이 있다.
  1. 단일집단 사전사후 결과를 효과로 보고하는 것 — 시간의 흐름과 가릴 수 없다.
  2. 정태적 집단비교의 차이를 개입 효과로 읽는 것 — 사전에 어땠는지 자료가 없다.
  3. 요인설계에서 주효과만 보고 상호작용효과를 살피지 않는 것 — 조합의 뜻을 놓친다.

주효과와 상호작용효과

주효과

한 독립변수가 다른 변수와 상관없이 결과에 미치는 평균적인 영향. 개인상담을 했는지 여부만 놓고 본 효과가 여기에 해당한다.

상호작용효과

두 변수가 함께 작용해 생기는 몫. 개인상담의 효과가 집단프로그램을 함께 받은 사람에게서만 크게 나타나는 경우가 그 예다.

전실험설계 셋과 요인설계
설계비교집단사전검사말할 수 있는 것
일회검사 사례연구없다없다실태 기록
단일집단 사전사후없다있다변화가 있었다
정태적 집단비교있다없다두 집단이 다르다
요인설계조합으로 존재설계에 따라각 변수의 몫과 조합의 몫

더 알아보기

단일집단 사전사후 결과를 어디까지 말할 수 있는가

현장 평가의 대부분은 단일집단 사전사후 설계로 이루어진다. 예산과 인력을 생각하면 어쩔 수 없는 선택이지만, 그 결과를 어디까지 말할 수 있는지는 분명히 해야 한다. 말할 수 있는 것은 「참여자들의 점수가 개입 전후로 이만큼 달라졌다」까지다. 말할 수 없는 것은 「그 변화가 프로그램 때문이다」이다. 그 사이에는 외부사건과 성숙, 검사 효과, 통계적 회귀가 모두 끼어 있다. 그럼에도 이 설계로 할 수 있는 보완이 있다. 개입 전 여러 시점을 재어 추세를 확인하면 시계열에 가까워지고, 참여자를 극단값으로 선발하지 않으면 회귀가 줄며, 사후검사를 여러 번 두어 효과가 유지되는지 보면 정보가 는다. 무엇보다 보고서에 「비교집단이 없어 인과를 단정할 수 없다」는 문장을 적는 일이 중요하다. 그 한 문장이 있는 평가와 없는 평가는 신뢰의 무게가 다르다.

요인설계가 답하는 물음의 종류

프로그램을 개선할 때 실무자가 자주 던지는 물음은 「A와 B 가운데 무엇이 나은가」보다 「A만 할 때와 B만 할 때와 둘 다 할 때가 어떻게 다른가」이다. 요인설계는 바로 이 물음에 답한다. 두 요인을 각각 있고 없음으로 교차하면 네 칸이 생기고, 각 칸의 결과를 견주면 A의 몫과 B의 몫, 그리고 둘을 함께 했을 때 생기는 별도의 몫이 갈라진다. 상호작용이 없다면 두 개입의 효과는 단순히 더해지므로 자원이 부족할 때 하나만 골라도 손해가 적다. 반대로 상호작용이 크다면 둘을 함께 해야 뜻이 있고, 하나만 하는 것은 자원 낭비일 수 있다. 이 정보는 하나씩 따로 시험해서는 결코 얻을 수 없다. 다만 요인이 셋으로 늘고 각 요인이 세 수준씩이면 칸이 스물일곱 개가 되어 표본 요구가 감당하기 어려워지므로, 실제로는 두 요인 두 수준의 네 칸 설계가 대부분이다.

0개

이 기출이 도움이 됐다면, 봄기출 앱에서도 공부해 보세요.