Journal of KIISE:Software and Applications (한국정보과학회논문지:소프트웨어및응용)

Korean Institute of Information Scientists and Engineers (한국정보과학회)
권호 표지

Spam-Mail Filtering System Using Weighted Bayesian Classifier

가중치가 부여된 베이지안 분류자를 이용한 스팸 메일 필터링 시스템

  • 김현준 (인하대학교 컴퓨터정보공학부) ;
  • 정재은 (인하대학교 컴퓨터정보공학) ;
  • 조근식 (인하대학교 컴퓨터정보공학부)
  • Published : 2004.08.01
Download PDF
⟨ Previous Next ⟩

Abstract

An E-mails have regarded as one of the most popular methods for exchanging information because of easy usage and low cost. Meanwhile, exponentially growing unwanted mails in user's mailbox have been raised as main problem. Recognizing this issue, Korean government established a law in order to prevent e-mail abuse. In this paper we suggest hybrid spam mail filtering system using weighted Bayesian classifier which is extended from naive Bayesian classifier by adding the concept of preprocessing and intelligent agents. This system can classify spam mails automatically by using training data without manual definition of message rules. Particularly, we improved filtering efficiency by imposing weight on some character by feature extraction from spam mails. Finally, we show efficiency comparison among four cases - naive Bayesian, weighting on e-mail header, weighting on HTML tags, weighting on hyperlinks and combining all of four cases. As compared with naive Bayesian classifier, the proposed system obtained 5.7% decreased precision, while the recall and F-measure of this system increased by 33.3% and 31.2%, respectively.

최근 인터넷의 급속한 성장과 더불어 전자메일(E-Mail)은 통신 및 정보, 의사교환의 필수적인 매체로 사용되어지고 있다. 그러나 편리하고 비용이 들지 않는 장점을 이용해 엄청난 양의 스팸 메일이 매일같이 쏟아져 오고, 그 문제의 심각성에 정보통신부는 ‘정보통신망 이용촉진 및 정보보호등에 관한 개정안’이라는 새로운 법률까지 만들었다. 본 논문에서는 기존의 문서 분류에 널리 쓰이던 나이브 베이지안 분류자(naive Bayesian classifier)보다 개선된 가중치가 부여된 베이지안 분류자 (weighted Bayesian classifier)와 정보통신부의 개정안을 준수하는 매일을 분류하기 위한 전처리 단계, 그리고 사용자의 행동을 학습하여 보다 정확한 분류를 가능하게 지능형 에이젼트(intelligent agent)가 결합된 형태의 스팸 메일 필터링 시스템(spam mail filtering system)을 제안한다. 제안된 시스템에서는 사용자가 직접 규칙을 넣을 필요 없이 학습한 데이타를 가지고 자동적으로 스팸 메일을 분류할 수가 있는데, 특히 이메일의 특징 추출(feature extraction)을 이용하여 상대적으로 스팸/논스팸 판별에 비중이 큰 단어들에 대해 가중치를 부여함으로서 필터링의 성능향상을 도모하였다. 실험에서는 제안된 시스템의 최적의 성능 평가를 위해서 일반 나이브 베이지안 필터링시의 성능과 이메일 헤더정보, 특정 Tag들 그리고 하이퍼링크 부분에 가중치를 준 베이지안 필터링, 마지막으로 4가지를 결합한 상태의 필터링 성능을 각각 비교 분석하였다. 그 결과 제안하는 시스템이 나이브 베이지안 분류자를 이용한 시스템보다 정확도에서는 5.7% 저조한 성능을 보였으나, 재현율에서 33.3%, F-measure에서 31.2% 우수한 성능향상을 보였다.

Keywords

References

  1. 한국전산원, '국가정보화백서(National Informatization White Paper)', pp. 23, 2002
  2. Internet E-mail Corporate Usage Report, www.securitymanagenment.com/library/worldtalk0200.html
  3. 정보통신부, 정보통신망 이용촉진 및 정보보호 등에 관한 법률 시행령 제11조 (영리목적의 광고성 전자우편의 명시방법), 2002
  4. Ricardo, B.-Y. and Berthier, R.-N., Modern Information Retrieval, pp.27, Addison-Wesley, 1999
  5. Provost, J., 'Naive-Bayes vs. Rule-Learning in Classification of Email,' Technical report, Dept. of Computer Sciences at the U. of Texas ay Austin, 1999
  6. Diao, Y., Lu, H. and Wu, D., 'A Comparative Study of Classification Based Personal E-mail Filtering,' Proc. of PAKDD-00, 4th Pacific-Asia Conference on Knowledge Discovery and Data Mining, 2000 https://doi.org/10.1007/3-540-45571-X_48
  7. Cohen, W.W., 'Learning Rules that Classify E-Mail ,' Proc. of the AAAI Spring Symposium on Machine Learning in Information Access, 1996
  8. Sahami, M., Dumais, S., Heckerman, D. and Horvitz, E., 'A Bayesian Approach to Filtering Junk E-Mail. In Learning for Text Categorization,' Proc. of the AAAI Workshop;AAAI Technical Report WS-98-05, 1998
  9. Androutsopoulos, I., Koutsias, J., Chandrinos, K. V., Spyropoulos, C. D., 'An Experimental Comparison of Naive Bayesian and Keyword-Based Anti-Spam Filtering with Personal E-Mail Messages,' Proc of the 23rd Annual International ACM SIGIR Conference on Reach and Development in Information Retrieval, 2000
  10. Rev. T. B., 'An essay toward solving a problem in the doctrine of chances,' Philosopical Transactions of London, vol. 53, pp.370-418, 1763 https://doi.org/10.1098/rstl.1763.0053
  11. Androutsopoulos, I., Koutsias, J., Chandrinos, K. V., Paliouras, G. and Spyropoulos, C. D., 'An Evaluation of Naive Bayesian Anti-Spam Filtering,' Proc fo the 11th European Conference on Machine Learning, pp.9-17, 2000
  12. Mitchell, T. M., Machine Learning, Chapter 6: Bayesian Learning, McGraw-Hill, 1997
  13. Han, J., 'Data Mining: Concepts and Techniques,' Morgan Kaufmann, 2001
  14. http://popfile.sourceforge.net/
  15. Thomas, G. and Peter, A. F., 'Weighted Bayesian Classification based on Support Vector Machine,' Proc. of the 18th International Conference on Machine Learning, pp. 207-209, 2001
  16. 고수정, 이정현, 'Apriori 알고리즘에 의한 연관단어 지식 베이스에 의한 가중치가 부여된 베이지안 자동 문서 분류', 멀티미디어학회 논문지 제4권 제2호, 2001
  17. Ferreira, J. T. A. S., Denison, D. G. T., Hand, D. J., 'Weighted Naive Bayes modeling for data mining,' Technical report, Dept. of Mathematics at Imperial College. 2001
  18. Russell, S. I. and Norving, P., Arificial Intelligence - A Modern Approach, Prentice Hall, pp.525-529, 1995
  19. Denzinger, J. and Ennis, S., 'Being the new guy in an experienced team - enhancing training on the job,' Proc. of the 1st International Joint Conference on Autonomous Agents and Multiagent Systems, Pt3, 2002
  20. Graham, P., 'Better Bayesian Filtering,' Article of Spam Conference, 2003
  21. 조한철, 조근식, '나이브 베이지안 분류자와 메세지 규칙을 이용한 스팸메일 필터링 시스템', 한국정보과학회, 제29회 춘계학술대회, 2002
  22. Fox, C., 'Lexical analysis and stop lists. In Information Retrieval: Data Structures and Algorithms,' Prentice-Hall, 1992
  23. Joachims, T., 'Text Categorization with Support Vector Machines: Learning with Many Relevant Features,' European Conference on Machine Learning, 1998 https://doi.org/10.1007/BFb0026683
  24. http://email.about.com/cs/bayesianspamsw/