An Analysis of the Discriminating Power of Medical Journal Evaluation Criteria

의학학술지 평가지표의 변별력 측정연구

  • 이춘실 (숙명여자대학교 문헌정보학과)
  • Published : 2003.06.01

Abstract

The discriminating power of journal evaluation criteria of Korean medical journals were measured. The study used the data of 76 medical journals, collected in the "Korean Medical Journal Evaluation" process conducted by the Korean Association of Medical Journal Editors (KAMJE) between 1997 and 1999. For each evaluation criterion, the distribution of the individual score vs the total score of a journal received was plotted and their correlations were analyzed. It is found that the evaluation criteria with a high discriminating power are the ones associated with the peer review system and the journal editing. The evaluation criteria with a low discriminating power are the journal frequency and how often a chief editor is changed. Some evaluation criteria such as "Journal holding rates of medical libraries" and "year-end index" need modifications in the evaluation methods. Other evaluation criteria such as "Journal self-citation rate","SCI citation rate" and "SCI impact factor" need to modify the score ranges. It is recommended that the new evaluation criteria such as "citation rate by Korean medical journals" and "Access availability of the journal information through major Korean medical abstract databases" should be added.formation through major Korean medical abstract databases" should be added.dded.

본 연구에서는 대한의학학술지편집인협의회가 1997년부터 1999년 사이에 평가한 76종의 국내 의학학술지가 받은 총 33개 평가항목의 각 항목별 평가점수와 총평점의 분포, 그리고 이들의 상관관계를 분석하여 각 평가지표의 변별력을 측정하였다. 한국 의학학술지의 대표적인(변별력이 높은) 평가지표는 투고논문의 상호심사와 관련된 평가항목과, 학술지가 일정한 형식으로 일관성 있게 잘 만들어지고 있는지를 평가하는 항목으로 판명되었다. 논문상호심사제도(peer review system)가 학술지의 질관리에 있어서 매우 중요하다는 것은 주지의 사실이다. 학술지의 철저한 편집(quality of editorial work)과 출판품질 관리(production quality)가 학술지 평가의 좋은 척도가 될 수 있다는 것은 학술지 평가사업의 경제성과 효율성의 측면에서 매우 고무적인 일이다. 편집인 교체빈도나 연간 발행회수 등은 변별력이 거의 없는 평가지표로 나타났다. 평가대상 학술지가 우리나라 의학도서관에 비치되어 있는 정도나 권말색인 작성여부 등 변별력이 낮은 평가항목의 변별력을 높이기 위해서는 평가방법의 개선이 필요하며, 자체학술지 인용비율, SCI 인용빈도나 영향력지표 등의 평가항목은 평가배점 구간의 조정이 필요한 것으로 나타났다. SCI에서의 인용과 국제 데이터베이스 등재여부만이 아니라, 국내 학술지가 인용하는 빈도나 영향력지표, 국내에서 구축되고 있는 의학관련 데이터베이스 등재 여부, 레코드 입력율 등의 새로운 평가지표 개발이 필요하다.

Keywords

References

  1. 대한의학학술지편집인협의회 (의편협) .1997. 국내 의학학술지 평가항목 및 세부평가항목 확정.「대한의학학술지편집인협의회소식」. 5: 7-14. (Also available online) (cited 2003.5.21) (http://kamje.kams.or.kr)
  2. 대한의학학술지편집인협의회(의편협),1998. 의학 분야 색인 · 초록 데이터베이스의 학술지 선정 방침 . (Available online) (cited 2003.5.21).(http://karnje.karns.or.kr)
  3. 대한의학학술지편집인협의회(의편협).1999a. 제 7차 의학학술지 평가 결과.「대한의학학술지편집인협의회 소식」, 13. (Available online) (cited 2003.5.21) (http://karnje.karns.or.kr)
  4. 대한의학학술지편집인협의회(의편협),1999b. 평가기준(1 999.7.5. 개정).「대한의학학술지편집인협의회 소식」, 12: 4-11 (Also available online0 (cited2003.5.21). (http://karnje.kams.or.kr)
  5. 대한의학학술지편집인협의회(의편협),2001. 국내 의학학술지 평가기준 (200 1. 3. 26. 제3차 개정). (Available online] (cited 2003.5.21). (http://kamje.kams.or.kr)
  6. 대한의학학술지편집인협의회(의편협). 2003. 의학학술지 평가현황「대한의학학솔지편집인협의회소식」. 15: 1. (Also available online) (cited 2003.5.21)(http://kamje.kams.or.kr)
  7. 대한의학회 한국의학학술지 인용색인정보 개발사업단(KoMCI사업단).2002a.「한국의학학술지 인용정보: KoMCI 2001」. 서울: KoMCI 사업단
  8. 대한의학회 한국의학학술지 인용색인정보 개발사업단(KoMCI 사업단).2002b. 「한국의학학술지 인용정보: KoMCI 2002」.서울: KoMCI 사업단
  9. 조승열 .1997. 의학학술지 평가사업의 배경 및 취지.「국내의학학술지 시범평가 발표 및 한국메드라인 사업계획 설명회 개최」. 1997년 8월 27일 서울 교육문화회관
  10. 조승열.1999. 의학학술지 평가사업 「대한의사협회지」, 42(4): 330-333
  11. 한국의학도서관협의회(의도협). 1997.「의학관계잡지종합목록」. 서울: 한국의학도서관협의회
  12. 한국학술진흥재단(학진).1997. 「국내학술지 평가기준에 관한 공청회 발표자료」. 서울:한국학술진흥재단
  13. 한국학술진흥재단(학진).1998. 국내학술지 평가. (online) (cited 2003.5.21). (http://www.krf.or.kr/nkrf/bus_nfo/haksul/etc2.html)
  14. 한국학술진홍재단(학진). 2000. 학술활동 지원. (online) (cited 2003.5.21). (http://www.krf.or.kr/htm1/rip/m_action4.html)
  15. 한국학술진흥재단(학진). 2003. 학술지 자체평가서 양식. (online) (cited 2003.5. 21) (http:νwww.krf.or.kr/nkrf/bus_info/haksul/ja2003.hwp)
  16. Garfield. E. 1996. The Significant Scientific Literature Appears in a Small Core of Journals. The Scientist 10(17). Sept. 2
  17. Garfield. E. 1990. How ISI Selects Journals for Coverage: Quantitative and Qualitative Con-siderations. Current Contents. May 28
  18. Garfield, E. 2000.'Use Of Journal Citation Reports And Journal Performance Indicators In Measuring Short And Long Term Journal Impact.' Croat Med J. 41 (4): 368-74
  19. Garfield E. 1999. “Journal Impact Factor: A Brief Review". CMAJ. 161(8): 979-80
  20. Garfield E. 1998. 'The Diverse Roles Of Citation Indexes In Scientific Research.' Rev Invest Clin. 50(6) :497-504
  21. Garfield E. 1998. “ Long-Term Vs. Short-Term Journal Impact: Does It Matter?" Physioligist. 41(3):113-5
  22. Garfield E. 1996. How Can Impact Factors Be Improved? Br Med J. 313(7054) :411-3 https://doi.org/10.1136/bmj.313.7054.411
  23. Institute for Scientific Information (ISI). 1997. The ISI Database: The Journal Selection Process. Updated in November 2002. (online) (cited 2003.5. 21). (http://www.isinet.com/isi/hot/essays/selectionofrnaterialforcoverage/199701. html)
  24. National Library of Medicine(NLM). 1997. Fact sheet: Journal Selection for Index Medicus/MEDLINE. Updated in 17 September 2001. [online) [cited 2003.5.21). (http://www.nlm.nih.gov/pubs/factsheets/jsel.html)
  25. Schoonbaert. D; Roelants, G. 1996. 'Citation Analysis For Measuring The Value Of Scientific Publications: Quality Assessment-Tool Or Comedy Of Errors.' Trop Med & Int Health , 1(6):P739-752