DOI QR코드

DOI QR Code

A Study on the Documents's Automatic Classification Using Machine Learning

기계학습을 이용한 문서 자동분류에 관한 연구

  • 김성희 (중앙대학교 문헌정보학과) ;
  • 엄재은 (중앙대학교 대학원 문헌정보학과)
  • Published : 2008.12.30

Abstract

This study introduced the machine learning algorithms to overcome the many different limitations involved with manual classification and to provide the users with faster and more accurate classification service. The experiments objects of the study were consisted of 100 literature titles for each of the eight subject categories in MeSH. The algorithms used to the experiments included Neural network, C5.0, CHAID and KNN. As results, the combination of the neural network and C5.0 technique recorded classification accuracy of 83.75%, which was 2.5% and 3.75% higher than that of the neural network alone and C5.0 alone, respectively. The number represented the highest accuracy rates among the four classification experiments. Thus the use of the neural network and C5.0 technique together will result in higher accuracy rates than the techniques individually.

본 논문에서는 수작업 분류 시 초래하는 여러 가지 한계점을 극복하고, 이용자에게 보다 빠르고 정확한 분류 서비스를 제공하기 위해 4개의 다양한 기계학습 알고리즘을 적용하였다. 연구대상으로는 MeSH의 8개의 주제별 범주로 각각 100개의 문헌 타이틀을 선정하였으며, 4개의 기계학습 알고리즘으로 실험을 수행하였다. 그 결과 신경망 기법과 C5.0 기법을 병행하여 사용했을 경우 단일 기법을 사용했을 경우보다 2.5%, 3.75%가 상승하여 분류 효율이 83.75%로 측정되었다. 이 수치는 4개의 분류 실험 결과 중 가장 높은 정확률을 나타내었다. 따라서 신경망 기법과 C5.0 기법의 장점을 이용하여 분류 서비스를 실행하면 단일 기법을 사용한 경우보다 높은 정확률을 나타낼 수 있을 것이라 기대된다.

Keywords

References

  1. 김성희. 2000. WWW상의 지능형 정보검색을 위한 기계학습 알고리즘 구현에 관한 연구. 정보관리학회지, 17(2): 189-205.
  2. 김진화. 2004. 인공지능을 이용한 웹 문서의 자동분류. 서강경영논총, 15(2):49-75.
  3. 김천식, 홍유식. 2006. 텍스트마이닝을 이용한 XML 문서분류 기술. 한국 컴퓨터 정보학회 논문지, 11(2): 19.
  4. 김판준, 이재윤. 2007. 문헌 간 유사도를 이용한 자동분류에서 미 분류 문헌의 활용에 관한 연구. 한국정보관리학회지, 3: 251-271.
  5. 노영희. 2001. 기계학습을 기반으로 한 인터넷 학술문서의 효과적 자동분류에 관한 연구. 한국도서관정보학회지, 32(3): 307-330.
  6. 박성배, 태윤식. 2007. 기계학습과 정보검색. 정보과학회지, 25(3): 5-11.
  7. 이영숙, 정영미. 2001. 계층적 분류체계를 위한 자동분류 기법에 관한 연구. 한국정보관리학회 학술대회 논문집, 173-176.
  8. 이재문. 2003. 휴리스틱을 이용한 KNN의 효율성 개선. 정보처리학회논문지, 10-B(6): 719-720. https://doi.org/10.3745/KIPSTB.2003.10B.6.719
  9. 조용준 외 3인. 1999. Neural Connection을 이용한 데이터마이닝 신경망 분석. 서울: SPSS 아카데미.
  10. 최종후 외 3인. 2000. AnswerTree를 이용한 데이터마이닝 의사결정나무분석. 서울: SPSS 아카데미.
  11. 허명회, 이용구. 2003. 데이터마이닝 모델링과 사례. 서울: SPSS 아카데미, 43.
  12. 허인옥. 2002. 신경망 학습을 이용한 문서 자동 분류. 석사학위논문, 성신여자대학교 교육대학원.
  13. 황성하, 최광남, 이대규, 이상호. 2005. 인터넷 문서의 자동분류 서비스 시스템에 관한 구현. 한국 컨텐츠학회 추계종합학술대회 논문집, 3(2): 66-71.
  14. SPSS Korea 컨설팅 팀. 2007. Clementine Manual. 서울: SPSS 코리아.
  15. Chang, Jeffrey, 2000.“Using the MeSH Hierarchy to Index Bioinformatics Articles.” CS224N/Ling237 Final Projects 2000, 1-10.
  16. Cherkassky. V and N. Vassilas. 1989. “Performance of Back Propagation Networks for Associative Database Retrieval.” Proc. International Joint Conference on Neural Networks, 1: 77-84.
  17. Chidanand Apte, Fred Damerau, and Sholom M. Weis. 1994. “Towards language independent automated learning of text categorization models.” In Proceeding of the 17th annual international ACM-SIGIR, 23-30.
  18. Jacobs. P. 1993. “Using statistical methods to improve knowledge-based news categorization.” IEEE Expert, 1-10.
  19. Lewis, D. D. 1992. Representation and Learning in information Retrieval Ph.D. thesis. Department of Computer Science. University of Massachusetts. Amherst.
  20. Ruiz, Miguel E. and Padmini Srinivasan. 2002. “Hierarchical Text categorization Using Neural Networks.” Information Retrieval, 5(10):87-118. https://doi.org/10.1023/A:1012782908347
  21. Salton G. and M. J. McGill. 1983. An Introduction to Modern Information Retrieval. New York: McGraw-Hill.
  22. Salton, G. E. A. Fox and H. Wu. 1983. “Extend boolean information retrieval.” Communications of the ACM, 26(12): 1022-1036. https://doi.org/10.1145/182.358466
  23. Tom Mitchell. 1996. Machine Learning. New York: McCraw Hill.
  24. Ruiz, M. E. and Padmini Srinivasan. 2002. “Hierarchical Text categorization Using Neural Networks.” Information Retrieval, 5(10):87-118 https://doi.org/10.1023/A:1012782908347
  25. Vapnik, V. 1995. The Nature of Statistical Learning Theory. New York: Springer.
  26. Yang, Y. and Xin Liu, 1999. “A reexamination of text categorization methods”. Proceedings of ACM SIGIR Conference on Research and Development in Information Retrieval (SIGIR), 42-49.
  27. Yang, Y. 1999. “An evaluation of statistical approaches to text categorization.” Journal of Information Retrieval, 1(1-2): 69-90. https://doi.org/10.1023/A:1009982220290
  28. Yang, Y. J. O. Pederson. 1997. “A Comparative study on feature selection in text categorization.” In Proceeding of the 24th International Conference on Machine Learning, 412-420.
  29. Yang, Y. L. Xin. 1999. “A re-examination of text categorization methods.” Proceedings of ACM SIGIR Conference on Research and Development in Information Retrieval, 42-49.
  30. Yang, Y. 1994. “Expert Network: Effective and efficient learning from human decisions in text categorization and retrieval”, In 17th Annual International ACM SIGIR Conference on Research and Development in Information Retrieval, 13-22.
  31. Yang, Y. Pederson, J.O. 1997. “Feature selection in statistical learning of text categorization.”Proceedings of the 14th International Conference on Machine Learning, 412-420.

Cited by

  1. A Study of Intelligent Recommendation System based on Naive Bayes Text Classification and Collaborative Filtering vol.41, pp.4, 2010, https://doi.org/10.1633/JIM.2010.41.4.227