설계의 기초

인과관계와 조사설계의 뜻

미학습

읽고 나면 회독 완료

조사설계는 물음에 답하기 위해 누구에게서 언제 무엇을 재고 무엇을 견줄지 미리 짜 놓은 틀이다. 자료를 모으기 전에 정해지며, 한번 정해지면 뒤에 아무리 정교한 분석을 해도 설계가 주지 않은 답은 나오지 않는다. 그래서 설계는 연구의 뼈대이자 말할 수 있는 것의 한계를 정하는 일이다. 설계를 가르는 축은 인과를 얼마나 말할 수 있는가이다. 「프로그램이 효과가 있었다」고 말하려면 프로그램이 원인이고 변화가 결과임을 보여야 하는데, 여기에는 두 가지가 필요하다. 비교할 것과 다른 설명을 물리칠 근거다. 한 집단을 프로그램 전후로만 재면 좋아졌다는 사실은 알 수 있으나 그 변화가 프로그램 때문인지 시간이 흘러서인지 가릴 수 없다. 비교집단이 있어야 「프로그램을 받지 않았다면 어땠을까」에 대한 답을 세울 수 있고, 두 집단이 애초에 같았다는 보장이 있어야 그 비교가 뜻을 갖는다. 그 보장을 만들어 주는 것이 무작위 배정이다. 설계의 힘은 이 두 요소를 갖춘 정도로 층을 이룬다. 순수실험설계는 무작위 배정과 통제집단을 모두 갖추고, 유사실험설계는 비교집단은 있으나 무작위 배정이 없으며, 전실험설계는 둘 다 없거나 하나뿐이다. 사회복지 현장에서는 서비스를 무작위로 나누어 주는 일이 윤리적으로나 실무적으로 어려워 유사실험설계를 쓰는 일이 많다. 설계를 평가하는 두 잣대가 내적 타당도와 외적 타당도다. 앞은 이 연구 안에서 인과 진술이 믿을 만한가이고, 뒤는 그 결과를 다른 대상과 상황에 옮길 수 있는가다. 설계를 고르는 일은 이 두 타당도와 현실의 제약 사이에서 절충하는 일이다. 통제를 강하게 걸수록 내적 타당도는 오르지만 현장과 멀어져 외적 타당도가 떨어지고, 현장을 그대로 두고 관찰하면 그 반대가 된다. 그래서 좋은 설계란 모든 저해요인을 없앤 설계가 아니라, 어떤 요인을 통제했고 어떤 요인이 남았는지 스스로 아는 설계다.
설계란 결론을 미리 지켜 두는 일이다. 프로그램을 마친 뒤에 좋아진 참여자들을 보며 효과가 있었다고 말하고 싶어도, 견줄 대상을 만들어 두지 않았다면 그 말을 뒷받침할 방법이 없다. 자료를 다 모은 뒤에는 어떤 통계 기법으로도 없는 비교집단을 만들어 낼 수 없다. 그래서 설계는 연구를 시작하기 전에 하는 일이고, 그 시점에 정해진 것이 끝까지 말할 수 있는 범위를 정한다.
  1. 조사설계는 누구에게서 언제 무엇을 재고 무엇을 견줄지 미리 짜 놓은 틀이다.
  2. 설계가 주지 않은 답은 나중의 분석으로 만들어 낼 수 없다는 것이 설계의 무게다.
  3. 인과를 말하려면 비교할 것과 다른 설명을 물리칠 근거가 함께 있어야 한다.
  4. 두 집단이 애초에 같았다는 보장을 만들어 주는 장치가 바로 무작위 배정이다.
  5. 설계는 순수실험·유사실험·전실험으로 층을 이루며 인과를 말하는 힘이 다르다.
  6. 설계를 평가하는 잣대는 내적 타당도(이 연구 안의 인과)와 외적 타당도(옮길 수 있는가)다.
  1. 사전사후만 재고 효과를 단정하는 것 — 비교집단이 없으면 시간의 흐름과 가릴 수 없다.
  2. 설계의 결함을 통계로 메우려는 것 — 없는 비교집단은 어떤 기법으로도 만들어지지 않는다.
  3. 유사실험설계를 「실험이 아닌 것」으로 아는 것 — 비교집단은 있고 무작위 배정만 없다.
물음을 정한다무엇과 견줄지 정한다집단을 어떻게 나눌지 정한다언제 잴지 정한다자료를 모은다
설계의 층
설계무작위 배정비교집단인과를 말하는 힘
순수실험있다있다가장 강하다
유사실험없다있다중간
전실험없다없거나 부실약하다
횡단조사없다비교는 사후적관련까지만

더 알아보기

비교집단이 답하는 물음

프로그램의 효과를 안다는 것은 「참여한 사람들이 좋아졌는가」가 아니라 「참여하지 않았다면 어땠을까와 견주어 더 좋아졌는가」를 아는 일이다. 뒤의 물음에 나오는 상태는 실제로는 관찰할 수 없다. 같은 사람이 프로그램을 받은 동시에 받지 않을 수는 없기 때문이다. 그래서 설계는 그 관찰할 수 없는 상태를 다른 사람들로 대신 세우는 일이 된다. 비교집단이 그 자리를 맡으려면 프로그램을 받지 않았다는 점만 빼고 참여집단과 같아야 하는데, 이 조건을 만들어 주는 것이 무작위 배정이다. 무작위로 나누면 나이나 동기처럼 이름 붙일 수 있는 것뿐 아니라 미처 생각하지 못한 것까지 두 집단에 고르게 흩어진다. 비교집단을 참여 희망자 가운데 탈락한 사람이나 이웃 기관 이용자로 세우면 이 조건이 무너지고, 그 어긋남이 그대로 효과 추정에 섞여 든다.

현장에서 순수실험설계를 쓰기 어려운 까닭과 대응

사회복지 현장에서 무작위 배정은 곧 「누구에게는 서비스를 주고 누구에게는 주지 않는다」는 결정이 된다. 도움이 필요한 사람에게 도움을 미루는 일이므로 윤리 심의를 통과하기 어렵고 실무자의 동의도 얻기 힘들다. 그래서 여러 절충이 쓰인다. 정원이 제한되어 어차피 기다려야 하는 상황이라면 대기자를 비교집단으로 삼고 나중에 서비스를 제공하는 대기자 통제집단 설계를 쓴다. 서비스를 아예 주지 않는 대신 통상적인 서비스와 새 프로그램을 견주는 방법도 있다. 여러 기관에 시차를 두고 순차적으로 도입하면서 아직 도입하지 않은 기관을 비교로 삼는 방식도 널리 쓰인다. 어떤 절충을 쓰든 무작위 배정이 없다면 두 집단이 애초에 어떻게 달랐는지를 자료로 보여 주고, 그 차이를 감안해 결과를 해석해야 한다.

0개

이 기출이 도움이 됐다면, 봄기출 앱에서도 공부해 보세요.