Super Resolution Reconstruction from Multiple Exposure Images

노출이 다른 다수의 입력 영상을 사용한 초해상도 영상 복원

  • Lee, Tae-Hyoung (School of Electronics Engineering, Kyungpook National University) ;
  • Ha, Ho-Gun (School of Electronics Engineering, Kyungpook National University) ;
  • Lee, Cheol-Hee (Computer Engineering, Andong National University) ;
  • Ha, Yeong-Ho (School of Electronics Engineering, Kyungpook National University)
  • 이태형 (경북대학교 IT 대학 전자공학부) ;
  • 하호건 (경북대학교 IT 대학 전자공학부) ;
  • 이철희 (안동대학교 컴퓨터 공학과) ;
  • 하영호 (경북대학교 IT 대학 전자공학부)
  • Received : 2011.06.14
  • Accepted : 2011.12.11
  • Published : 2012.01.25

Abstract

Recent research efforts have focused on combining high dynamic range imaging with super-resolution reconstruction to enhance both the intensity range and resolution of images. The processes developed to date start with a set of multiple-exposure input images with low dynamic range (LDR) and low resolution (LR), and require several procedural steps: conversion from LDR to HDR, SR reconstruction, and tone mapping. Input images captured with irregular exposure steps have an impact on the quality of the output images from this process. In this paper, we present a simplified framework to replace the separate procedures of previous methods that is also robust to different sets of input images. The proposed method first calculates weight maps to determine the best visible parts of the input images. The weight maps are then applied directly to SR reconstruction, and the best visible parts for the dark and highlighted areas of each input image are preserved without LDR-to-HDR conversion, resulting in high dynamic range. A new luminance control factor (LCF) is used during SR reconstruction to adjust the luminance of input images captured during irregular exposure steps and ensure acceptable luminance of the resulting output images. Experimental results show that the proposed method produces SR images of HDR quality with luminance compensation.

초해상도 영상복원은 동일한 노출을 가진 다수의 저해상도 영상을 사용하며, 각 영상들 간의 부화소 이동량을 통해 높은 해상도를 가지는 영상을 복원하는 방법이다. 최근에는 노출이 다른 다수의 입력 영상들을 사용하여 해상도와 동적범위 모두를 향상시키는 방법들이 제시되고 있다. 기존의 방법들은 장면의 휘도 변환을 위한 카메라 응답곡선과 톤 맵핑 방법을 필수적으로 요구한다. 이러한 과정에서 CRC 곡선은 추가적인 영상 획득을 요구하며, 과정 또한 복잡하다. 특히 톤 맵핑은 방법에 따라 결과 영상의 화질을 일정하게 나타내지 못하는 장점이 있다. 따라서 본 연구에서는 가중치 맵을 사용한 고해상도 동적 범위 확장 영상 재현 방법을 제시한다. 제안된 방법에서 먼저 각 입력 영상에서 인간 시각에 가장 잘 보이는 영역을 가중치 맵(weight map)이라 정의하고, 가중치 맵이 적용된 입력 영상을 초해상도 복원방법에 적용함으로써, 해상도와 동적 범위가 모두 확장된 결과 영상을 획득한다. 이 방법은 카메라 응답곡선과 톤 맵핑을 사용하지 않음으로 일정한 화질을 획득한다. 또한 제안된 방법은 입력 영상의 구성에 따라 결과 영상의 화질이 다르게 나타남으로, 수수의 불규칙한 입력에도 유사한 결과를 획득하기 위한 밝기 보상 요소를 제안한다.

Keywords

References

  1. K. H. Park, D. G. Park, and Y. H. Ha, "High Dynamic Range Image Acquisition from Multiple Low Dynamic Range Images Based on Estimation of Scene Dynamic Range," Journal of Imaging Science and Technology, 53, 2, 020505-1- 020505-12, Mar./Apr. 2009. https://doi.org/10.2352/J.ImagingSci.Technol.2009.53.2.020505
  2. E. Reinhard, G. Ward, S. Pattanik, and P. Debevec, High Dynamic Range Imaging: Acquisition, Display and Image-Based Lighting, Morgan Kaufmann Publishers, Dec. 2005.
  3. S. C. Park, M. K. Park, and M. G. Kang, "Super-Resolution Image reconstruction: a Technical Overview," IEEE Signal Processing Magazine, 20, 3, May 2003.
  4. B. K. Gunturk and M. Gevrekci, "High-resolution image reconstruction from multiple differently exposed images", IEEE signal processing letteres, 13, 4, Apr. 2006.
  5. F. Schubert, K. Schertler, and K. Mikolajczyk, "A Hands-on Approach to High-Dynamic-Range and Superresolution Fusion," IEEE Workshop on Application of Computer Vision,1-8, 2009.
  6. T. Mertens, J. Kautz, and F. V. Reeth, "Exposure Fusion," IEEE 15th Pacific Conference on Computer Graphics and Application, 382-390, Dec. 2007.
  7. D. Capel, and A. Zisserman, "Computer vision applied to super resolution," IEEE Signal Processing Magazine, 20, 3, May 2003.
  8. W.J. Kyung, T. H. Lee, C. H. Lee, and Y. H. Ha, "Hue Preservation using Enhanced Integrated Multi-scale Retinex for Improving Color Correction," Journal of Imaging Science and Technology, vol. 55, no. 1, pp. 010504-1- 010504-10, Jan./Feb. 2011. https://doi.org/10.2352/J.ImagingSci.Technol.2011.55.1.010504