Qualitative and Quantitative Analysis of Paper-Pencil Test Items for Exploring its Appropriateness as a Selection Tool of the Gifted in Science

과학 영재 선발 도구로서 지필 검사의 적합성 탐색을 위한 질적 및 양적 문항 분석

  • Published : 2008.02.29

Abstract

The purpose of this study was to analyse the qualitative and quantitative characteristics of paper-pencil tests for exploring its appropriateness as a selection tool of the gifted in science. For this purpose, we developed two (internal and external) item analysis frameworks, and applied these frameworks to analyse qualitative characteristics. Also, we analysed the relationship between two characteristics. The results of analysing qualitative characteristics revealed that the portion of items with acceleration context exceeding middle school curriculum level was relatively large, which caused low content validity. Furthermore, there was considerable deviation in content and context by subject matter and year, which caused test unstability. Items measuring knowledge domain was the most prevalent, and too much weight on data interpretation & analysis domain in inquiry process skills. In case of creativity test, the portion of items measuring convergent thinking was much larger than that of divergent or associative thinking. Most of these items were represented by using pictures and tables rather than using graphs. Item types of multiple-choice and short answers were superior to essay types. Discrimination index, on the whole, was appropriate (above 0.3), but item difficulty showed a vast deviation ($0.01{\sim}0.90$). Correlation coefficients among subject matters and test tools were very low, and test reliabilities were also low. Low item difficulty & high discrimination index item types were distinguishable. Items with acceleration context were more discriminating than enrichment context. Implications of developing quality paper-pencil test items in the selection of gifted students are discussed.

이 연구에서는 과학 영재 선발 도구로 사용된 지필검사(기초 지식 및 탐구 능력 검사, 창의성 검사) 문항의 질적 특성과 양적 특성을 살펴봄으로써 타당하고 신뢰로운 영재 선발 도구로서 지필검사의 적합성을 탐색하는데 필요한 기초자료를 얻고자 하였다. 문항의 질적 특성을 분석하기 위해 내적 및 외적 문항 분석틀을 구안하여 적용하였으며, 문항의 양적 특성과 질적 특성의 연관성을 분석하였다. 연구 결과, 다수의 문항이 중학교 교육 과정을 벗어난 속진 맥락으로 출제되어 내용 타당도에 문제가 있는 것으로 분석되었다. 또한 출제되는 내용이나 맥락에서 교과별 및 연도별로 상당한 차이가 있어 검사 도구의 안정성에도 문제가 있는 것으로 나타났다. 기초 지식 및 탐구 능력 검사의 경우는 지식이 차지하는 비율이 가장 높으며, 탐구 과정 중에서는 자료 해석 및 분석에 치중됨으로써 고른 탐구 능력을 측정하고 있지 못한 것으로 드러났다. 창의성 검사에서는 대다수의 문항이 발산적 사고나 연관적 사고보다는 수렴적 사고를 주로 측정하고 있는 것으로 나타났다. 한편, 분석된 대부분의 문항이 그래프보다는 그림이나 표를 이용하여 표현되는 것으로 나타났으며, 문항 유형에서는 서술형보다는 선다형이나 단답형의 비율이 훨씬 높았다. 문항의 변별도는 두 검사 모두 양호하였으나, 문항별 난이도 편차는 매우 큰 것으로 나타났다. 교과 간 및 검사도구 간 상관은 매우 낮았으며, 신뢰도 또한 낮은 것으로 나타났다. 또한 난이도는 낮아 쉬운 문제였지만 변별도가 양호한 유형의 문항이 가장 많았으며, 속진 맥락의 문항이 심화 맥락에 비해 변별도가 더 양호한 것으로 나타났다. 이와 같은 분석 결과들은 영재 교육 기관에서 학생 선발에 적합한 지필 검사 도구를 개발하는 데 기초 자료로 활용될 수 있을 것이다.

Keywords

References

  1. 권치순 (2003). 과학영재의 판별과 선발. 창의적 지식 생산자 양성을 위한 영재교육. KEDI 연수교재
  2. 김경화 (2005). 뇌파검사를 활용한 과학영재의 판별 및 이에 기반한 선발 체계의 구안. 이화여자대학교 대학원 박사학위논문
  3. 김정섭 (2006). 비판적 사고와 창의성 교육: 영재교육의 새로운 방향. 부산광역시영재교육진흥원 영재교육직무연수 심화과정 교재
  4. 동효관, 전영석 (2003). 한성과학고등학교 학생 선발과정의 현황 분석. 영재교육연구, 13(4), 65-92
  5. 류지영 (2004). 다중지능이론의 영재교육에의 적용. 교육과정연구, 22(1), 147-169
  6. 박성익, 조석희, 김홍원, 이지현, 유여홍, 진석언, 한기순 (2003). 영재교육학 원론. 교육과학사
  7. 박인호 (2002). 과학영재 선발방안. 과학영재학교 교육학사운영에 관한 공청회 자료집
  8. 박종원, 박종석 (2003). 과학적 창의성 평가를 위한 3차원 틀. 한국과학교육학회 제 43차 동계 학술대회 자료집
  9. 박주용, 오현숙 (2005). 기질 및 성격 검사에서 밝혀진 영재기관 영재의 특성이 영재선발에 주는 시사점. 한국심리학회지, 11(1), 143-156
  10. 배희병, 김승부, 오원섭, 백용주, 천태호, 박병철, 송인덕, 장기상, 양교석, 조규호, 윤남수, 서봉석, 김인관, 한학수, 연규탁 (2004). 과학영재 발굴.육성사업 결과 보고서. 한국과학재단, 66-70
  11. 성태제 (2002). 타당도와 신뢰도. 학지사
  12. 성태제 (2004). 문항 제작 및 분석의 이론과 실제. 서울: 학지사
  13. 우종옥 (2003). 과학 영재의 평가틀. 한국과학교육학회 제 43차 동계 학술대회 자료집
  14. 우종옥, 이항로, 구창현 (1996). 과학 탐구능력 평가 문항 유형 변화에 관한 종단적 연구. 한국과학교육학회지, 16(3), 314-328
  15. 윤경미, 김정섭 (2006). 영재판별의 새로운 변인: 문제해결력. 교육심리연구, 20(3), 587-604
  16. 이기영, 김찬종 (2005). 한국 지구과학 올림피아드 문항 분석을 통한 문항의 질 향상 방안. 한국지구과학학회지. 26(6). 511-523
  17. 이상법 (2001). 과학영재 선발 문항 성취도의 지역별 편차에 관한 연구. 한국과학교육학회지, 21(1), 185-212
  18. 이상법, 이광필, 최상돈, 황석근 (1999). 과학영재교육센터 학생선발문항 분석 및 선발방법에 대한 제언. 한국과학교육학회지, 19(4), 604-621
  19. 조석희 (1990). 과학영재 판별도구의 개발 및 타당화 연구. 초등교육연구, 4, 55-69
  20. 조석희 (2001). 창의적 지식 생산을 위한 영재교육. 영재교육담당자 직무연수 자료집. 한국교육개발원
  21. 조석희 (2006). 창의적 문제해결력 계발을 위한 영재 교육. 한국교육개발원 제 7기 영재교육 교원 기초 연수 교재
  22. 조석희, 시기자, 지은림 (1997). 과학영재판별도구 개발연구(II). 한국교육개발원, 23-25, 39-41
  23. 조성은, 이화국 (2000). 과학영재교육센터의 학생 선발에 관한 연구. 전북대학교 과학교육논총, 25, 25-52
  24. 최선영, 강호감 (2006). 초등학교 과학영재학급 학생선발을 위한 과학 창의적 문제해결력 검사도구 개발. 초등과학교육, 25(1), 27-38
  25. 한기순, 배미란, 박인호 (2003). 과학영재들은 어떻게 사고하는가? 한국과학교육학회지, 23(1). 21-34
  26. 홍미영, 전경문, 이범홍, 이양락 (2002). 대학수학능력시험 화학II 문항에 대한 학생들의 응답 분석. 한국과학교육학회지, 22(1), 204-213
  27. Cangelosi, J. S. (1990). Designing tests for evaluating student achievement. Longman
  28. Cohen, L. M. & Ambrose, D. (1993). Theories and practices for differentiated education for the gifted and talented. In K.A. Heller, F.J. Monks, & A.H. Passow (Eds.), International handbook of research and development of giftedness and talent (pp. 339-363). Oxford, UK: Pergamon
  29. Cronbach L. J. (1951). Coefficient alpha and the internal structure of test. Psychometrika. 16, 297-334 https://doi.org/10.1007/BF02310555
  30. Davis, G. A. & Rimm, S. B. (1998). Education of the gifted and talented. MA: Allyn & Bacon
  31. Ebel, R. L. (1965). Measuring educational achievement. Englewood Cliffs, NJ: Prentice-Hall
  32. Hajcak, F. & Garwood, T. (1993). Expanding Creative Imagination. West Chester, PA: Human Potential Press
  33. Hansen, J. B. & Feldhusen, J. F. (1994). Comparison of trained and untrained teachers of gifted students. Gifted Child Quarterly, 38(3) 115-121 https://doi.org/10.1177/001698629403800304
  34. Harris, R. L. (1999). Information Graphics: A comprehensive illustrated reference. Atlanta, GA. Oxford University Press
  35. Herman, J. L., Aschbacher, P. R., & Winters, L. (1992). A practical guide to alternative assessment. Alexandria, VA: Association for Supervision and Curriculum Development
  36. Isaksen, S. G. & Treffinger, D. J. (1985). Creative problem solving: The basic course. Buffalo, NY: Bearly Limited
  37. Miliband, D. (2006). 'Choice and voice in personalised learning', Schooling for tomorrow: personalising education, Paris, OECD
  38. Richert, E. S., Alvino, J., & McDonnel, R. (1982). The national report on identification of gifted and talented youth. Assessment and recommendations for comprehensive identification of gifted and talented youth. Sewell, NJ: Educational Improvement Centre South
  39. Smutny, J. F. (1998). The young gifted child: Potential and promise, an anthology. Creskill, NJ: Hampton Press, Inc