Back to list

설문조사 문항 작성법: 답을 유도하지 않고 묻는 방법

데이터 활용

설문조사 문항을 정성껏 만들고 답도 받았는데, 막상 결과를 보니 무엇을 고쳐야 할지 알 수 없는 경우가 있습니다. 만족한다는 응답은 많은데 어떤 부분이 좋았는지 모르겠고, 불만이 있다는 의견은 있는데 무엇부터 바꿔야 하는지 분명하지 않습니다. 답변이 부족한 문제처럼 보여도, 실제로는 질문에 여러 뜻이 섞여 있었을 수 있습니다.

예를 들어 행사 뒤에 “장소와 진행 시간에 만족하셨나요?”라고 물었다고 생각해 보세요. 장소는 편했지만 시간이 너무 이르다고 느낀 사람은 무엇을 골라야 할까요? 만족을 고르자니 시간에 관한 의견이 사라지고, 불만족을 고르자니 장소까지 마음에 들지 않았던 것처럼 보입니다.

이 상황에서 응답자는 성실하지 않은 사람이 아닙니다. 자신의 경험을 있는 그대로 담을 칸을 찾지 못한 사람에 가깝습니다. 질문을 만드는 사람이 그 차이를 알아차리지 못하면, 나중에 숫자를 아무리 깔끔하게 정리해도 처음부터 섞여 들어온 의미를 되돌리기 어렵습니다.

좋은 설문은 원하는 답을 많이 얻는 장치가 아니라 서로 다른 경험을 구분해 듣는 장치여야 합니다. 여기서는 작은 행사나 서비스 개선 설문을 만드는 상황을 중심으로 질문을 다듬는 방법을 살펴보겠습니다. 등장하는 행사와 문항은 설명을 위해 만든 가상 예시이며, 실제 조사 결과나 검증된 표준 척도는 아닙니다.

질문부터 정확하게라는 문구와 설문 종이, 펜, 물음표를 배치한 편집 삽화
질문의 모양보다 응답자가 이해할 뜻을 먼저 살펴봅니다. · AI 생성 이미지

설문조사 문항을 쓰기 전에 어떤 결정을 할지 정합니다

설문을 만들 때 가장 먼저 떠오르는 것은 질문의 개수일 수 있습니다. 행사 만족도, 추천 의향, 좋았던 점, 아쉬운 점을 차례로 넣으면 익숙한 설문지가 만들어집니다. 하지만 익숙한 항목이 있다는 것과 그 답으로 필요한 판단을 할 수 있다는 것은 다릅니다.

다음 행사에서 시작 시간을 바꿀지 결정하려는 상황이라면, 장소의 분위기나 운영진의 친절도를 모두 묻는 것이 우선은 아닐 수 있습니다. 시작 시각이 참석에 어떤 영향을 주었는지, 다른 시각에는 참석할 수 있는지처럼 결정에 연결되는 정보가 필요합니다. 목적이 좁아지면 반드시 물어야 할 내용도 선명해집니다.

반대로 행사의 전체 경험을 폭넓게 살펴보려는 조사라면 하나의 운영 결정만으로 질문을 제한할 필요는 없습니다. 다만 어떤 영역을 알아보려는지 미리 구분해 두는 편이 좋습니다. 전반적 평가와 구체적인 개선 의견은 함께 물을 수 있지만, 같은 답으로 취급해서는 안 됩니다.

영국 정부 분석 기능의 질문지 설계 지침도 질문 초안보다 먼저 자료의 사용 목적과 응답자를 파악하는 과정을 제시합니다. 무엇을 알고 싶은지뿐 아니라, 그 정보를 어떻게 사용할지 살피라는 취지입니다. 이는 특정 양식을 외우기보다 질문의 필요를 검토하는 출발점으로 참고할 수 있습니다.

작성 중인 문항 옆에 “이 답을 받으면 어떤 판단이 달라지는가”를 짧게 적어 보세요. 어느 답이 와도 아무것도 달라지지 않고 기록할 이유도 설명되지 않는다면, 지금 꼭 물어야 하는지 다시 생각할 수 있습니다. 모든 궁금증을 한 번의 설문에 담을 필요는 없습니다.

알고 싶은 개념과 실제로 묻는 경험을 연결합니다

“편리했나요?”는 간단한 질문처럼 보이지만, 편리함이 무엇을 뜻하는지는 상황마다 다를 수 있습니다. 신청 과정이 짧았다는 뜻일 수도 있고, 장소를 찾기 쉬웠다는 뜻일 수도 있습니다. 운영자가 신청 절차를 묻고 있는데 응답자는 이동 경로를 떠올리면 서로 다른 이야기를 하고 있는 셈입니다.

먼저 자신이 확인하려는 영역을 좁혀 보세요. 신청 절차를 개선하려는 목적이라면 “참가 신청을 완료하는 과정은 얼마나 쉬웠거나 어려웠나요?”처럼 경험의 범위를 문장 안에 넣을 수 있습니다. 장소를 찾는 경험이 궁금하다면 그 문항은 따로 둡니다.

여기서 구체적이라는 것은 설명을 끝없이 붙인다는 뜻이 아닙니다. 응답자가 어떤 장면을 떠올려야 하는지 알 수 있다는 뜻입니다. 필요한 배경은 짧게 제공하되, 안내문을 여러 번 읽어야 질문의 뜻을 이해할 수 있다면 문장 자체를 다시 나누는 편이 나을 수 있습니다.

추상적인 표현을 모두 없애야 하는 것도 아닙니다. 행사 전반의 만족도를 알고 싶다면 전반적인 질문이 필요할 수 있습니다. 다만 그 점수가 신청, 장소, 내용 중 어느 부분의 평가인지까지 저절로 설명해 주지는 않는다는 한계를 알고 사용해야 합니다.

질문이 다루는 범위를 좁힐수록 결과를 구체적으로 해석하기 쉬워질 수 있지만, 그만큼 전체 경험을 대표한다고 말하기는 어려워집니다. 넓은 평가와 세부 경험 사이에서 무엇이 필요한지 선택하는 일도 문항 설계의 일부입니다. 하나의 질문이 모든 역할을 맡도록 기대하지 않는 편이 좋습니다.

한 문항에는 서로 다른 답이 나올 수 있는 판단을 섞지 않습니다

“안내가 친절하고 이해하기 쉬웠나요?”라는 문장을 읽으면 자연스럽다고 느끼기 쉽습니다. 하지만 친절한 말투와 이해하기 쉬운 내용은 다른 판단입니다. 설명은 다정했지만 준비물이 무엇인지 끝내 알기 어려웠던 사람도 있을 수 있습니다.

이처럼 한 번의 응답으로 서로 다른 개념을 평가하게 하는 문항을 이중 질문이라고 부릅니다. Pew Research Center의 설문 문항 안내는 이런 질문이 응답과 해석을 어렵게 만들 수 있다고 설명합니다. 두 부분에 서로 다른 답을 할 수 있다면 나누어 물을 필요가 있는지 검토해 보세요.

가상의 행사 설문에서는 “행사장까지 찾아가는 과정은 얼마나 쉬웠거나 어려웠나요?”와 “행사 시작 시각은 참석하기에 얼마나 적절했거나 적절하지 않았나요?”를 따로 물을 수 있습니다. 한 사람의 답이 서로 달라도 이상한 일이 아닙니다. 오히려 장소는 유지하고 시간을 검토해야 한다는 다른 판단의 가능성이 드러납니다.

문장에 “그리고”나 “및”이 있다고 모두 잘못된 것은 아닙니다. 하나의 경험을 설명하기 위해 두 단어가 함께 필요한 경우도 있습니다. 중요한 시험은 문법이 아니라 “앞부분에는 긍정, 뒷부분에는 부정이라고 답할 사람이 있을까”입니다.

두 개로 나누면 문항 수가 늘어난다는 걱정도 생깁니다. 이때는 필요한 개념을 우선순위로 골라 하나만 묻는 방법도 있습니다. 서로 다른 판단을 억지로 합쳐 질문 수를 줄이면 짧아진 만큼 해석에 쓸 수 있는 정보도 줄어들 수 있습니다.

장소를 나타내는 위치 표시와 시간을 나타내는 시계를 각각 다른 설문 카드에 배치한 삽화
장소와 시간처럼 다른 판단은 각각 물어야 해석할 수 있습니다. · AI 생성 이미지

칭찬과 비난을 질문의 배경처럼 깔지 않습니다

“정성껏 준비한 유익한 행사에 얼마나 만족하셨나요?”라는 표현에는 운영자의 노력이 들어 있습니다. 그러나 응답자가 평가하기 전에 행사가 유익했다는 판단도 함께 주어집니다. 설문 앞부분의 감사 인사와 실제 평가 문항은 역할을 나누는 편이 좋습니다.

같은 상황에서 “이번 행사 전반에 얼마나 만족하거나 불만족하셨나요?”라고 물으면 다른 평가가 가능하다는 점이 드러납니다. 응답자가 긍정적인 답을 해야 예의 있는 사람처럼 느끼도록 만들 필요는 없습니다. 듣고 싶은 답이 아니라 실제 경험을 표현할 여지를 남기는 것이 중요합니다.

부정적인 방향으로 이끄는 질문도 마찬가지입니다. “복잡한 신청 절차 때문에 얼마나 불편하셨나요?”라고 물으면 신청이 복잡했고 불편했다는 두 가지 가정이 생깁니다. 어떤 사람은 아무 어려움이 없었을 수 있으므로, 불편함의 존재부터 확인하는 방식이 더 적절할 수 있습니다.

예를 들어 “신청을 완료하는 동안 어려운 점이 있었나요?”라고 묻고, 있었다는 응답자에게 어떤 부분이 어려웠는지 이어서 물을 수 있습니다. 다만 이 구조가 모든 목적에 가장 좋다는 뜻은 아닙니다. 무엇을 구분해서 분석할지에 따라 질문의 형태와 흐름을 함께 정해야 합니다.

작성자가 의도적으로 답을 유도하지 않아도 익숙한 표현이 가정을 담을 수 있습니다. 문항에서 평가가 들어간 형용사를 지워 보고 질문의 뜻이 유지되는지 살펴보세요. 뜻이 유지된다면 그 표현이 정보를 더하는지, 기대하는 답을 암시하는지 생각해 볼 수 있습니다.

최근, 자주, 평소라는 말에는 서로 다른 기준이 숨어 있습니다

“최근에 자주 이용하셨나요?”라는 질문에는 두 개의 빈칸이 있습니다. 최근이 며칠인지, 자주가 몇 번인지 정해져 있지 않습니다. 한 사람은 지난 일주일을, 다른 사람은 몇 달을 떠올릴 수 있고, 같은 횟수를 서로 다르게 평가할 수도 있습니다.

이용 횟수를 확인하려면 시작과 끝이 분명한 기간을 제시하는 편이 도움이 됩니다. 예를 들어 “9월 1일부터 9월 7일까지 이 공간을 이용한 날은 며칠인가요?”처럼 기간과 단위를 함께 적을 수 있습니다. 이때는 같은 날 여러 번 방문해도 하루로 세는지 등 필요한 기준을 덧붙입니다.

반면 방문 횟수가 궁금하다면 날짜 수와 구분해야 합니다. 하루에 오전과 오후 두 번 방문한 사람은 이용일은 하루지만 방문은 두 번일 수 있습니다. 무엇을 세려는지 분명하지 않으면 나중에 숫자를 맞춰 놓아도 같은 대상을 비교하고 있는지 알기 어렵습니다.

과거 경험을 떠올리는 부담 역시 고려할 필요가 있습니다. 정확하게 기억하기 어려운 일을 오랫동안 거슬러 물으면 응답자가 추정해서 답할 수 있습니다. 기간을 구체적으로 정하고 기억할 수 있는 경험을 묻는 방향은 공개 질문지 설계 지침의 회상 오류 관련 설명에서도 다룹니다.

다만 무조건 기간을 짧게 잡는 것이 정답은 아닙니다. 드물게 발생하는 경험을 알아보려면 더 긴 기간이 필요할 수 있습니다. 자신의 조사 목적에 맞는 기간을 정하되, 그 기간의 경험을 응답자가 얼마나 정확하게 알려 줄 수 있는지도 함께 생각해야 합니다.

질문의 대상이 되는 경험이 있는지 먼저 확인합니다

행사에 신청한 모든 사람에게 행사장 만족도를 물었다고 가정해 보겠습니다. 신청은 했지만 참석하지 못한 사람이 있다면 선택지 가운데 무엇을 골라야 할까요? 이 사람에게는 만족도보다 해당 경험이 없다는 사실을 표현할 경로가 필요합니다.

먼저 실제 참석 여부를 확인하고 참석한 사람에게 장소 경험을 묻는 방법이 있습니다. 또는 문항에 참석하지 않았다는 선택지를 두는 방식도 생각해 볼 수 있습니다. 어느 쪽을 선택하든 경험하지 않은 사람이 억지로 평가 점수를 고르지 않도록 만드는 것이 목적입니다.

한 행사 안에서도 경험은 다를 수 있습니다. 온라인으로만 참여한 사람은 현장 동선을 평가할 수 없고, 안내 자료를 보지 않은 사람은 그 자료의 이해도를 알려 주기 어렵습니다. 같은 참가자라는 이유만으로 모든 문항에 답할 수 있다고 가정하지 마세요.

이런 구분은 결과를 읽을 때의 분모와도 연결됩니다. 행사 전체 응답자 수와 현장 동선 문항에 답한 사람 수는 다를 수 있습니다. 문항을 만들 때부터 누가 해당 질문을 받는지 정리해 두면, 나중에 서로 다른 응답 집단을 같은 것으로 설명하는 혼란을 줄일 수 있습니다.

모든 응답자를 복잡하게 나누라는 뜻은 아닙니다. 답할 수 없는 질문이 생기는 지점을 찾아 필요한 갈림길만 만드는 방식입니다. 분기가 많아질수록 실제로 올바른 문항으로 이동하는지 시험할 필요도 커집니다.

선택지는 겹치지 않아야 하고, 실제 답을 담을 자리가 있어야 합니다

이용 횟수를 “1~3회, 3~5회, 5회 이상”으로 나누면 세 번 이용한 사람은 두 곳에 들어갈 수 있습니다. 다섯 번 이용한 사람도 마찬가지입니다. 응답자가 알아서 한쪽을 고르겠지만, 같은 경험을 서로 다른 칸에 넣는 문제가 생깁니다.

예를 들어 “0회, 1~2회, 3~4회, 5회 이상”처럼 경계를 정하면 이 경우의 겹침을 없앨 수 있습니다. 이는 특정 조사에 권장되는 표준 구간이 아니라 경계가 겹치지 않는 예시입니다. 실제 구간은 알고 싶은 차이와 예상되는 응답 분포에 맞춰 정해야 합니다.

질문에 해당하는 경험이 없는 사람에게 0회 선택지가 필요한지도 확인합니다. “이용자만 응답해 주세요”라고 대상을 제한한 조사와, 전체 대상자의 이용 여부를 알아보는 조사는 필요한 선택지가 다릅니다. 문항의 대상과 선택지를 따로 만들면 이런 차이를 놓치기 쉽습니다.

범주형 문항에서도 비슷한 문제가 생깁니다. 행사를 알게 된 경로를 묻는데 선택지에 문자와 메신저만 있으면, 지인에게 직접 들은 사람의 답이 들어갈 곳이 없습니다. 가능한 답의 범위와 겹침을 함께 확인하라는 원칙은 Pew Research Center의 선택형 문항 설명에서 참고할 수 있습니다.

“기타”를 넣었다고 검토가 끝나는 것은 아닙니다. 많은 응답자가 기타에 같은 내용을 적는다면 주요 선택지를 빠뜨렸을 가능성을 살펴볼 수 있습니다. 반대로 사소한 가능성을 모두 별도 항목으로 만들면 목록이 길어지므로 실제 응답을 시험하며 균형을 찾아야 합니다.

하나만 고르는 질문과 여러 개 고르는 질문은 서로 다른 답을 만듭니다

“어떤 경로로 행사를 알게 되었나요?”에 여러 개를 고르게 하면 접한 경로를 함께 모을 수 있습니다. 하지만 가장 먼저 알게 된 경로나 신청을 결정하는 데 중요했던 경로를 묻는 것과는 다릅니다. 모두 홍보와 관련된 질문이지만 답이 설명하는 내용은 다릅니다.

문자도 받고 친구의 추천도 들었다면 “접한 경로를 모두 선택”하는 질문에는 둘 다 답할 수 있습니다. 반면 “처음 알게 된 경로 하나”를 묻는다면 처음이라는 기준에 따라 골라야 합니다. 어느 쪽이 더 좋은지보다 자신이 어떤 정보를 원했는지가 먼저입니다.

선택 개수의 규칙은 질문 가까이에 적습니다. 하나인지, 해당하는 항목 모두인지, 최대 몇 개인지 응답자가 추측하지 않도록 해야 합니다. 화면 모양이 동그라미인지 네모인지 알아보는 경험에만 의존하지 않는 편이 좋습니다.

여러 항목을 고른 결과를 집계하면 각 선택지의 비율을 더한 값이 100%를 넘을 수 있습니다. 같은 사람이 여러 항목에 포함되기 때문입니다. 이런 결과가 나오는 구조인지 문항을 만들 때부터 알고 있으면, 나중에 숫자가 이상하다며 임의로 합계를 맞추는 일을 피할 수 있습니다.

한편 “가장 중요한 세 가지를 고르세요”는 각 항목의 순서까지 알려 주지 않습니다. 순위가 필요하다면 별도의 방식이 필요하고 응답 부담도 달라집니다. 선택했다는 사실, 중요하다는 판단, 중요도의 순서를 하나의 결과처럼 취급하지 않도록 주의하세요.

만족도 척도에는 긍정과 부정, 중립과 미경험을 구분합니다

만족도를 물으면서 “매우 만족, 만족, 보통, 약간 아쉬움”만 제시하면 선택지의 균형부터 생각해 볼 필요가 있습니다. 긍정과 부정을 표현할 수 있는 범위가 다르게 느껴질 수 있기 때문입니다. 응답자가 기대보다 좋았던 경험과 나빴던 경험을 모두 표현할 수 있는지 살펴보세요.

가상의 일반 만족도 문항이라면 “매우 불만족, 불만족, 만족도 불만족도 아님, 만족, 매우 만족”처럼 의미가 이어지는 선택지를 검토할 수 있습니다. 다만 이것은 모든 설문에 적용할 검증된 척도를 제시하는 것이 아닙니다. 측정 목적과 응답자에게 해당 표현이 자연스러운지 사전 시험이 필요합니다.

여기서 중간 선택지와 “이용하지 않음”은 다릅니다. 이용한 뒤 긍정도 부정도 아닌 평가를 한 사람과, 경험이 없어 평가할 수 없는 사람을 같은 점수로 넣으면 해석이 달라집니다. “잘 모르겠음” 역시 애매한 중립 평가와 자동으로 같아지는 것은 아닙니다.

숫자 척도를 쓰는 경우에는 높은 숫자와 낮은 숫자가 무엇을 뜻하는지 분명히 표시해야 합니다. 다른 문항에서는 높은 값이 좋은 평가였는데 갑자기 나쁜 평가를 뜻한다면 응답자가 전환을 놓칠 수 있습니다. 문항마다 방향과 설명을 점검하세요.

선택지 수가 많다고 더 정확한 조사가 되는 것도 아닙니다. 응답자가 구분하기 어려운 정도의 차이를 요구하면 숫자는 세밀해 보여도 실제 의미는 불분명할 수 있습니다. 기존에 검증된 도구를 쓰는 조사라면 마음대로 문구나 응답 범위를 바꾸기 전에 적용 조건을 확인해야 합니다.

자유 응답과 선택형 질문은 서로 대신할 수 없는 부분이 있습니다

선택형 질문은 답을 일정한 틀로 모으는 데 도움이 됩니다. 그러나 미리 생각한 항목 안에서만 답하게 하므로 예상하지 못한 경험을 놓칠 수 있습니다. 자유 응답은 그런 경험을 들을 수 있지만 읽고 해석할 시간이 필요합니다.

“좋았던 점을 자유롭게 적어 주세요”와 “내용, 장소, 시간 중 좋았던 것을 고르세요”는 같은 답을 다른 모양으로 받는 것만은 아닙니다. 뒤의 질문은 생각할 후보를 먼저 제공합니다. 조사 목적에 따라 어느 정도의 틀을 주는 것이 적절한지 판단해야 합니다.

처음 조사하는 주제라면 소규모로 자유로운 이야기를 먼저 듣고 자주 등장하는 표현을 선택지 후보로 정리해 볼 수 있습니다. 단, 그 과정에서 들은 몇 사람의 말을 전체 사람의 경험으로 확정해서는 안 됩니다. 후보를 만드는 단계와 실제 분포를 알아보는 단계를 구분합니다.

자유 응답의 범위도 좁힐 수 있습니다. “의견을 적어 주세요”보다 “다음 행사에서 바뀌었으면 하는 점이 있다면 한 가지 적어 주세요”처럼 원하는 내용이 무엇인지 알려 주는 방식입니다. 하지만 개선할 점이 반드시 있다는 전제가 되지 않도록 없을 수도 있다는 여지는 남겨 둡니다.

모든 선택형 문항 뒤에 이유를 필수로 요구하면 설문이 크게 길어질 수 있습니다. 실제로 설명이 필요한 질문을 골라 추가 의견을 받을 수 있습니다. 응답자의 글쓰기 능력이나 여유가 의견의 중요도를 결정하는 것처럼 다루지 않는 태도도 필요합니다.

질문의 순서도 응답자가 생각하는 범위를 바꿀 수 있습니다

행사의 문제점을 여러 문항으로 먼저 떠올리게 한 뒤 전반적 만족도를 묻는 상황을 생각해 보세요. 전반적인 경험부터 물은 설문과 같은 맥락이라고 보기 어렵습니다. 응답자는 앞서 생각한 장면을 이어서 떠올릴 수 있습니다.

문항의 순서가 뒤에 나오는 답에 영향을 줄 수 있다는 점은 조사 방법론에서 고려하는 요소입니다. 순서의 영향을 다룬 Pew Research Center의 설명을 참고할 수 있습니다. 다만 특정 순서가 언제나 같은 방향의 변화를 만든다고 단정해서는 안 됩니다.

작은 실무 설문에서는 우선 비슷한 주제를 묶고 자연스럽게 답할 수 있는 흐름을 만들어 보세요. 경험 여부를 확인한 다음 그 경험을 묻고, 다른 주제로 이동할 때는 맥락이 바뀌었다는 점을 알 수 있게 구성하는 방식입니다. 무작위로 섞는 기능이 있다고 모든 문항을 섞을 필요는 없습니다.

크기나 정도가 순서대로 이어지는 척도는 그 순서 자체가 의미를 전달합니다. “만족, 매우 불만족, 매우 만족, 보통”처럼 뒤섞으면 답을 고르는 일이 더 어려워질 수 있습니다. 순서 효과를 줄인다는 이유로 응답의 의미 구조까지 없애서는 안 됩니다.

같은 조사를 반복한다면 질문의 문구뿐 아니라 놓인 위치와 앞뒤 맥락도 기록해 두는 편이 좋습니다. 지난번과 결과가 달라졌을 때 응답자의 경험이 바뀐 것인지, 묻는 방식이 바뀐 것인지 검토할 단서가 됩니다. 단순히 문항 이름만 같다는 것으로 동일한 측정이라고 가정하지 마세요.

짧은 설문인지보다 답하기 쉬운 설문인지 살펴봅니다

문항이 적어도 답하기 어려운 설문이 있습니다. 지난 반년 동안의 이용 횟수를 정확하게 세거나, 여러 사람의 일정을 대신 기억하거나, 긴 표의 조건을 비교해야 한다면 한 문항에도 상당한 부담이 들어갑니다. 화면에 보이는 질문 수만으로 응답 시간을 판단하기 어렵습니다.

반대로 문항이 조금 더 있어도 자신이 경험한 일을 차례로 묻는다면 쉽게 답할 수 있습니다. 그래서 질문을 줄이는 작업과 응답 부담을 줄이는 작업은 겹치면서도 다릅니다. 기억, 계산, 표현 중 어느 부분에서 부담이 생기는지 살펴볼 필요가 있습니다.

예상 소요 시간을 안내하려면 작성자의 빠른 입력 속도만 기준으로 삼지 않는 편이 좋습니다. 실제 대상자가 읽고 선택하는 모습을 시험해 보고, 긴 자유 응답이나 분기까지 포함한 차이를 확인할 수 있습니다. 시간을 짧게 적어 참여를 유도하는 것보다 정직한 안내가 중요합니다.

“자세히 적어 주세요”라는 요청에도 범위가 필요합니다. 질문 하나에 경험, 이유, 대안, 기대 효과를 한꺼번에 요구하면 자유 응답이 작은 보고서가 됩니다. 반드시 필요한 정보와 선택적으로 남겨도 되는 정보를 나눠 보세요.

응답자가 끝내지 못했다고 해서 관심이 없었다고만 판단하기도 어렵습니다. 문항을 이해하기 어려웠거나 해당하는 선택지가 없었을 수 있습니다. 응답 완료 여부를 평가하기 전에 그 사람이 지나온 질문의 흐름을 함께 보아야 합니다.

휴대전화에서 읽히는지, 다른 방식으로도 답할 수 있는지 확인합니다

작성자는 큰 모니터에서 설문을 만들고 응답자는 휴대전화에서 답할 수 있습니다. 작성 화면에서는 한눈에 보이던 표가 작은 화면에서는 가로로 밀리거나 질문과 선택지가 멀어질 수 있습니다. 문장 검수만으로 확인할 수 없는 부분입니다.

실제 배포할 화면에서 글자가 잘 읽히는지, 선택지 전체를 확인할 수 있는지, 하나만 고르는지 여러 개 고르는지 알 수 있는지 살펴보세요. 확대했을 때 문장이 잘리지 않는지도 확인할 수 있습니다. 반드시 응답자의 기기와 이용 상황을 모두 같게 만들 수는 없지만 대표적인 불편을 먼저 찾을 수 있습니다.

색깔만으로 필수 문항이나 오류를 구분하는 안내는 다른 단서가 필요한지 검토합니다. “빨간 항목을 확인하세요”보다 어떤 항목에 무엇이 필요한지 글로 함께 알려 주는 방식이 도움이 될 수 있습니다. 조사에서의 포용성과 접근성을 다루는 영국 정부의 공개 지침도 응답자의 접근 경로와 이해 가능성을 함께 살피도록 안내합니다.

또 화면을 읽어 주는 도구나 키보드로 이용하는 사람에게 질문과 선택 항목이 연결되어 전달되는지도 고려해야 합니다. 설문 도구를 골랐다는 사실만으로 접근성이 모두 해결되었다고 가정하지는 마세요. 사용하는 기능과 실제 설문 구성에 따라 확인할 부분이 달라집니다.

이런 점검은 보기 좋은 화면을 만드는 일에 그치지 않습니다. 답하고 싶은 사람이 문항을 읽고 선택할 수 있도록 하는 과정입니다. 답하지 못한 사람의 경험이 계속 빠지면 모인 응답만으로 전체 상황을 이해하기 어려울 수 있습니다.

손에 든 휴대전화의 간단한 설문 화면과 옆에 놓인 점검 노트, 연필을 표현한 삽화
작성 화면이 아니라 실제 응답하는 화면에서 시험합니다. · AI 생성 이미지

필수 응답과 개인정보는 필요한 이유부터 점검합니다

빈칸이 적은 결과를 받고 싶어서 모든 문항을 필수로 설정할 수 있습니다. 하지만 실제 경험이 없거나 기억하지 못하거나 답하고 싶지 않은 사람에게도 선택을 강제하면, 채워진 칸이 곧 정확한 답이라고 보기 어려워집니다. 빈칸을 없애는 일과 의미 있는 응답을 받는 일은 다릅니다.

반드시 필요한 문항은 무엇인지, 해당하지 않는 사람에게 빠져나갈 경로가 있는지 살펴보세요. 자유 의견까지 모두 필수로 할 필요가 있는지도 검토할 수 있습니다. 조사 목적을 해치지 않는 범위에서 응답하지 않을 선택을 어떻게 다룰지 미리 정합니다.

이름이나 연락처를 받는 경우에는 왜 필요한지부터 분명해야 합니다. 단순한 운영 개선 의견을 집계하는 데 개인 식별 정보가 실제로 필요한지 물어볼 수 있습니다. 추가 연락이 목적이라면 의견 수집과 연락 동의가 어떤 관계인지 응답자가 알 수 있어야 합니다.

“익명 설문”이라는 말도 설정을 확인하지 않고 붙이지 않습니다. 화면에 이름 칸이 없더라도 사용하는 도구나 운영 방식에 따라 식별 가능한 정보가 남을 수 있습니다. 확인하지 못한 상태에서 아무도 응답자를 알 수 없다고 약속해서는 안 됩니다.

이 부분은 설문 문구만으로 해결되는 문제가 아닙니다. 실제 수집 항목, 열람 권한, 보관 방식과 안내가 맞아야 하며, 조직의 정책과 적용되는 개인정보 요건은 별도로 확인해야 합니다. 이 글의 예시는 법률 준수 여부를 판정하는 기준이나 동의서 양식이 아닙니다.

사전 시험에서는 정답보다 질문을 어떻게 이해했는지 듣습니다

문항을 만든 사람은 자신이 의도한 뜻을 알고 있습니다. 그래서 문장을 다시 읽어도 자연스럽게 보일 수 있습니다. 그 뜻을 모르는 사람이 실제로 어떤 경험을 떠올리는지 확인하는 단계가 필요합니다.

배포 전에 대상과 비슷한 사람에게 설문을 읽고 답해 보도록 요청할 수 있습니다. 이때 먼저 뜻을 길게 설명하면 원래 문장만으로 이해되는지 알기 어렵습니다. 잠깐 망설이는 곳, 선택지를 다시 읽는 곳, 자신에게 맞는 답이 없다고 느끼는 곳을 살펴보세요.

답한 뒤에는 “이 질문은 무엇을 묻는다고 이해하셨나요?” 또는 “이 답을 고를 때 어느 경험을 떠올리셨나요?”처럼 물어볼 수 있습니다. 원하는 답을 했는지 검사하는 것이 아니라 질문과 응답 사이의 연결을 확인하는 과정입니다. 다른 뜻으로 이해한 사례가 있다면 그 차이를 문장 수정의 단서로 삼습니다.

예를 들어 운영자는 이용 횟수를 묻고 있었는데 시험 응답자는 이용한 날짜 수를 세었다면 단위를 더 명확하게 해야 할 수 있습니다. 몇 사람이 같은 선택지를 골랐다고 시험이 성공한 것은 아닙니다. 같은 선택지에 도달한 생각의 과정이 질문의 의도와 맞는지 보는 편이 중요합니다.

소수의 사전 시험으로 모든 오류나 편향이 사라졌다고 말할 수는 없습니다. 다만 배포 전에 발견할 수 있는 해석 차이를 찾아 고치는 데는 쓸모가 있습니다. 질문 이해와 사용 경험을 함께 살피는 접근은 응답자 중심 설계 안내에서도 참고할 수 있습니다.

가상의 행사 설문을 실제 수정 순서로 살펴보겠습니다

지금부터는 무료 소규모 글쓰기 모임을 운영했다는 가정으로 생각해 보겠습니다. 다음 모임의 신청 안내와 운영 시간을 조정하려고 합니다. 참가자를 평가하거나 교육 효과를 과학적으로 검증하려는 조사가 아니라, 운영자가 다음 준비에서 참고할 경험을 듣는 상황입니다.

처음 초안에는 “유익한 모임의 장소와 시간에 만족하셨나요?”, “신청이 편하고 안내가 친절했나요?”, “앞으로도 계속 참여하시겠죠?”라는 질문이 들어 있다고 가정해 보겠습니다. 세 문항 모두 답은 받을 수 있습니다. 하지만 첫 번째에는 두 판단이, 두 번째에는 다른 경험이, 세 번째에는 기대하는 답이 섞여 있습니다.

운영 목적을 다시 보면 장소 변경은 이번 결정의 범위가 아닙니다. 그래서 장소 문항은 일단 제외하고 신청 과정과 시작 시각에 집중할 수 있습니다. 물어볼 수 있는 모든 것을 묻는 대신 이번 답으로 바꿀 수 있는 부분을 남기는 것입니다.

아래는 이런 가정에서 만든 간단한 검토용 초안입니다. 그대로 배포할 표준 설문이 아니라 문항을 어떻게 나눌 수 있는지 보여 주는 예시입니다. 실제 사용 전에는 참가 방식과 안내 내용에 맞는지 확인하고 사전 시험을 해야 합니다.

  1. 이번 모임에 실제로 참석하셨나요? 참석 여부에 따라 뒤의 경험 문항을 구분합니다.
  2. 직접 참가 신청을 하셨나요? 다른 사람이 신청했다면 신청 과정 평가를 건너뛸 수 있게 합니다.
  3. 직접 신청한 경우, 신청을 완료하는 과정은 얼마나 쉬웠거나 어려웠나요? 한 방향으로 이어지는 응답 범위를 제시합니다.
  4. 참석한 경우, 이번 시작 시각은 참석하기에 얼마나 적절했거나 적절하지 않았나요? 장소 평가와 합치지 않습니다.
  5. 다음 신청 안내나 시작 시각에서 바뀌었으면 하는 점이 있다면 적어 주세요. 추가 의견은 선택 응답으로 검토합니다.

이 초안에서도 더 살펴볼 부분이 있습니다. 시작 시각이 적절하지 않았다는 답만으로 어느 시각으로 옮겨야 하는지 확정할 수는 없습니다. 구체적인 대안 시각의 가능 여부가 필요하다면 별도 질문을 설계하고, 아직 정하지 않은 일정이나 조건을 사실처럼 제시하지 않아야 합니다.

또 다음 참여 의향을 묻는다면 실제 참석을 보장하는 약속으로 해석하지 않습니다. 응답할 당시의 의향과 나중의 행동은 구분해야 합니다. 이런 한계까지 생각해 보면 질문 수가 적은 설문이라도 결과를 설명할 때 무엇을 말할 수 있고 없는지가 더 선명해집니다.

문항을 고쳤다면 결과를 비교하는 기준도 함께 기록합니다

설문을 한 번 해 보면 다음에는 문구를 더 잘 고치고 싶어집니다. 개선 자체는 필요할 수 있습니다. 다만 질문을 바꾸어 놓고 이전 숫자와 아무 조건 없이 비교하면 무엇이 변했는지 설명하기 어려워질 수 있습니다.

지난번에는 장소와 시간을 함께 물었고 이번에는 시간을 따로 물었다면, 두 점수는 같은 내용을 측정했다고 보기 어렵습니다. 이전의 만족도가 이번보다 높았다고 해서 시작 시각에 대한 평가가 떨어졌다고 바로 말할 수 없습니다. 질문의 범위가 바뀌었다는 사실을 먼저 밝혀야 합니다.

단어 하나를 바꾼 경우에도 의미가 달라졌는지 살펴봅니다. “신청이 편리했나요?”에서 “신청을 완료하는 과정이 쉬웠나요?”로 바꾸었다면 비슷해 보여도 응답자가 떠올리는 범위가 다를 수 있습니다. 같은 항목 번호를 유지했다고 비교 조건이 자동으로 유지되는 것은 아닙니다.

문항의 버전, 응답 기간, 대상, 선택지와 분기를 함께 남겨 두면 이후 검토에 도움이 됩니다. 복잡한 문서가 아니라 무엇을 왜 바꾸었는지 알 수 있는 기록이면 됩니다. 개선된 질문과 과거 결과의 비교 가능성을 함께 챙기는 방식입니다.

조사가 반복된다고 항상 문항을 바꿔야 하는 것도 아닙니다. 비교를 위해 유지할 부분과 문제를 발견해 고칠 부분을 구분해 보세요. 질문을 유지할 이유도, 바꿀 이유도 자료를 어떻게 사용할지와 연결되어 있어야 합니다.

질문을 잘 써도 응답 결과가 모든 사람을 대표하는 것은 아닙니다

문항이 명확하면 해석의 혼란을 줄일 수 있지만, 그것만으로 조사 전체의 한계가 없어지는 것은 아닙니다. 누가 설문을 받았고 누가 실제로 답했는지에 따라 결과가 설명하는 범위는 달라집니다. 참여하지 않은 사람의 경험을 응답자의 답으로 자동으로 대신할 수는 없습니다.

예를 들어 행사에 끝까지 남은 사람에게만 설문을 보냈다면 중간에 떠난 사람의 의견은 빠질 수 있습니다. 이때 “모든 참가자가 만족했다”보다 누가 답했는지 범위를 밝혀 설명해야 합니다. 좋은 질문과 적절한 조사 대상은 서로 다른 문제이면서 함께 필요한 조건입니다.

답이 많다는 사실도 이 구분을 대신해 주지는 않습니다. 어떤 응답 경로로 모였는지, 답하지 못한 사람에게 어떤 장벽이 있었는지 살펴볼 수 있습니다. 참여의 접근성이 조사 자료에 영향을 줄 수 있다는 점은 앞서 참고한 설문 접근성 지침에서도 다루는 부분입니다.

보고할 때는 응답 수, 조사 기간, 대상과 함께 실제 질문의 문구를 보관해 두는 편이 좋습니다. 결과를 보는 사람이 숫자가 무엇에 대한 답인지 확인할 수 있어야 합니다. 설문은 숫자로 끝나는 일이 아니라 질문과 답을 같은 뜻으로 연결해 설명하는 일입니다.

참고한 자료와 이어서 읽을 글

2026년 9월 4일에 Pew Research Center의 설문 문항 작성 안내, 영국 정부 분석 기능의 질문지 설계 지침, 설문 개발의 포용성·접근성 지침을 확인했습니다. 이 글은 해당 기관의 조사 수치나 문항 예시를 옮긴 것이 아니라 일반적인 설계 원칙을 바탕으로 일상적인 가상 사례를 새로 구성한 설명입니다.

개별 결과물의 검토 의견을 부탁하려면 피드백 요청하는 법을 함께 볼 수 있습니다. 설문 결과의 비율을 설명할 때는 전체 비율 계산법에서 분모와 집단 크기의 차이를 살펴보세요. 질문을 명확하게 만드는 일과 모인 답을 정확하게 계산하는 일은 이어지지만 서로 대신하지는 않습니다.

좋은 설문조사 문항은 다른 답을 할 자리를 남깁니다

설문조사 문항을 다듬는 일은 사람들의 답을 일정한 방향으로 맞추는 일이 아닙니다. 같은 질문을 같은 뜻으로 이해하면서도 각자의 경험에 따라 다른 답을 할 수 있게 만드는 일입니다. 원하는 반응이 아니라 해석할 수 있는 정보를 모으는 데 목적이 있습니다.

무엇을 결정할지 정하고, 한 문항에 서로 다른 판단이 섞이지 않았는지 봅니다. 기간과 단위를 분명히 하고, 해당하는 선택지가 있는지 확인합니다. 실제 응답 화면에서 시험한 뒤에는 질문을 어떤 뜻으로 이해했는지도 들어 봅니다.

지금 작성 중인 질문 하나를 떠올려 보세요. 운영자가 기대한 경험과 다른 경험을 한 사람도 자신에게 맞는 답을 고를 수 있나요? 답할 자리가 없다면 그 사람을 설득하기 전에 질문을 고쳐야 할 수 있습니다.

좋은 질문은 우리가 듣고 싶은 말을 먼저 적지 않습니다. 상대가 실제로 겪은 일을 자기 뜻대로 답할 자리를 남깁니다.

태그
설문조사 문항, 설문지 작성법, 질문 설계, 유도 질문, 이중 질문, 선택지 설계, 만족도 조사, 사전 테스트, 응답자 경험, 데이터 활용

Post navigation

Alla artiklar