Research Article

Journal of Korea Water Resources Association. 31 October 2023. 641-653
https://doi.org/10.3741/JKWRA.2023.56.10.641

ABSTRACT


MAIN

  • 1. 서 론

  • 2. 연구 방법 및 자료

  •   2.1 도시 침수 정보 초해상화 모형

  •   2.2 물리 기반 도시 침수 모형 H12

  •   2.3 연구 지역 및 훈련자료 구축

  •   2.4 이미지 전처리

  •   2.5 이미지 유사도 평가 지표

  • 3. 결과 및 분석

  •   3.1 모형 훈련 성능 평가

  •   3.2 도시 침수 초해상화 결과 분석

  • 4. 결 론

1. 서 론

기후 변화와 도시화의 영향으로 전 세계에서 자연재해의 규모와 발생 빈도가 증가하고 있다. 침수는 도시에서 발생하는 주요 자연재해 중 하나로, 응답시간이 짧고 막대한 인명 및 경제적 손실을 초래할 수 있으므로 신속하고 정확도 높은 침수 예측 정보 생산이 중요하다. 기존의 물리과정 기반 도시 침수 해석 모형은 공간 해상도를 증가할수록, 모의 격자수는 공간해상도의 제곱에 비례하여 늘어나지만, Courant-Friedrichs-Lewy 조건 등의 제약으로 인해 더 작은 계산 시간 간격 적용이 필요하기 때문에, 고해상도 침수 해석에 많은 컴퓨터 자원과 계산시간이 소요되는 한계가 있다. 지난 수십 년 동안 컴퓨터의 연산 능력의 향상과 더불어 원격 탐사 기술의 급속한 발전으로 다수의 CPU (Central Processing Unit)및 GPU (Graphics Processing Unit) 코어를 탑재한 장비에서 대규모 위성 데이터를 활용한 고해상도 침수 모의로 정확도 높은 침수 정보 생산을 가능하게 하는 방법론이 제안되었다(Noh et al., 2019; Wang et al., 2018). 하지만 여전히 고해상도의 지형 표고, 토지 피복 자료의 확보와 고성능 컴퓨팅 자원에 대한 접근은 제한적이기 때문에 실시간에 가까운 고해상도 침수 모의에는 한계가 있다. 빠른 침수 해석 기법을 개발하기 위해 천수 방정식(Shallow Water Equation, SWE)을 물리 과정 기반 방법으로 대체하는 모형들이 제안되었다. 예를 들면, 이웃 격자의 상태 및 일련의 전환 규칙을 기반으로 격자 상태의 진화를 모의하는 셀룰러 오토마타(Cellular Automata) 기반 침수 모의, 딥러닝(Deep Learning)을 사용한 데이터 기반 침수 모의 기술(Guidolin et al., 2016; Guo et al., 2021; Moreno-Rodenas et al., 2018)등이 이에 해당한다. 이러한 방법들은 실시간에 가까운 최대 침수심과 침수심의 동적 변화를 모의할 수 있지만, 충분한 데이터 확보에 대한 문제와 모의 시간이 여전히 격자 해상도와 비선형적으로 관련되는 한계가 있다. 물리과정 기반 침수 해석 방법이나 다른 대체 모형에서 준실시간의 고정확도 도시 침수 정보를 얻는 것은 여전히 어려운 과제이다.

최근 딥러닝에 기반한 초해상화 기술의 비약적인 발전하에, 컴퓨터 비전 및 이미지와 비디오 처리, 물체 인식 등 다양한 분야에 적용되고 있다. 초해상화(Super-Resolution, SR)는 저해상도(low resolution) 이미지를 고해상도(high resolution) 이미지로 변환하는 방법으로, 이미지의 품질 저하, 관심 영역의 흐려짐, 고효율 이미지 재구성 문제 해결에 적용되고 있다(Wang et al., 2022). 국외에서는 원격 탐사 이미지에서 미세한 공간 해상도를 갖는 토지 피복 지도를 얻기 위해 SRMCNN (Super-resolution Mapping Convolutional Neural Network) 방식의 초해상도 매핑 방법을 제안하였으며(Jia et al., 2019), 화재 모형 결과인 화재 위험 지도의 초해상화 작업을 위한 FireSRnet (Ballard and Erinjippurath, 2020), 낮은 공간 해상도의 기후 데이터를 고해상도 지역 기후 예측으로 변환하는 ResLap (Cheng et al., 2020), 기후 위험도를 추정하기 위해 보정 및 공간 해상도 향상이 가능한 SR과 GAN (Generative Adversarial Networks)의 조합 기반의 ClimaGAN (Ballard and Erinjippurath, 2022)이 제안되었다. 초해상화 기법이 홍수 모의 또는 매핑에 적용된 사례는 빠른 홍수 모의를 위해 딥러닝 기반 초해상화 홍수 해석 방법을 제시하고 고해상도 흐름 깊이 및 유속에 대한 예측을 수행한 연구와 소규모 수역에서 홍수 매핑을 위한 초해상화 알고리즘 기반 물 매핑 자동화 방법을 개발한 연구가 있다(He et al., 2023; Lombana and Martínez- Graña, 2022). 국내에서는 원격 탐사 영상의 객체 검출 성능을 향상시키기 위해 초해상화 기법을 이용한 객체 검출 방법을 제안하였으며(Kwon, 2023), 해양 사고 원인 분석을 위해 경량 합성곱 신경망 기반 수중 이미지 초해상화 모형을 제시했다(Hwang and Lee, 2023). 이외에도 광학 위성 영상에서 선박 탐지의 정확도 개선을 위해 객체 탐지 모형인 Faster-RCNN, RetinaNet, FCOS, S2ANet을 활용하여 초해상화 적용 유무에 따른 선박 탐지 모형의 성능 평가에서 초해상화가 적용된 영상으로 훈련된 선박 탐지 모형에서 향상된 결과를 확인했다. 다만, 고해상도 도시 침수 정보 생산을 위한 초해상화 기술에 대한 연구는 부족한 상황이다.

본 연구에서는 딥러닝 기반 초해상화 기법으로 물리 모형에 의한 도시 침수 모의 결과를 초해상화 하는 기술을 제안하고 적용성을 평가한다. 제안된 방법은 물리 모형으로 침수 해석한 결과를 초해상화 기법을 적용해 고해상도 정보로 변환한다. 초해상화 기법의 적용성을 평가하기 위해, 미국 포틀랜드 도심지의 과거 침수 사례에 대해 적용하여, 저해상도의 최대 침수심도가 1 m 급 고해상도 정보로 초해상화 한다. 또한, 초해상화 결과를 물리과정 기반 고해상도 도시 침수 해석 결과와 비교하여 해상도 향상 성능을 정량적으로 분석하고 본 방법의 유효성을 평가한다. 제안된 침수 정보 이미지 초해상화 방법은 Fig. 1과 같다. 논문의 구성은 2장에서 연구 방법 및 입력자료 전처리 과정에 대해 기술하고, 3장에서는 모형 훈련 성능 평가와 초해상화 모의 수행 결과에 대한 분석을 수행하고, 마지막 4장에서는 결론에 대해서 논의한다.

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F1.jpg
Fig. 1.

Framework of the proposed super-resolution urban flood analysis method

2. 연구 방법 및 자료

2.1 도시 침수 정보 초해상화 모형

2.1.1 EDSR의 개요

본 연구에서는 물리 기반 도시 침수 모의의 초해상화를 위해 EDSR (Enhanced Deep Residual Networks for Single Image Super-Resolution) 모형을 사용하였다. 최근 U-Net, ResNet 및 SRResNet 등과 같은 CNN (Convolutional Neural Network) 기반 모형이 이미지 초해상화에 효과적인 것으로 입증되었다(Ledig et al., 2017; Saharia et al., 2021). 그중에서도 EDSR 모형은 SRResNet 네트워크 구조에서 불필요한 배치 정규화(batch normalization) 모듈을 제거해 네트워크의 구조를 단순화하고, 레이어를 더 깊게 쌓음으로써 모형의 성능을 향상시켰다(Lim et al., 2017). 본 연구에 사용된 EDSR 모형은 Github (https://github.com/limbee/NTIRE2017)에 공개된 코드를 기반으로 하였다. Fig. 2는 EDSR 모형을 이용하여 다양한 콘텐츠가 포함된 대규모 RGB 이미지 데이터 세트인 DIV2K에 대해 초해상화 기법을 적용한 결과이다. EDSR 모형 훈련에 사용된 저해상도 이미지는 원본 고해상도 이미지를 바이큐빅 보간법(bicubic interpolation)으로 4배 다운샘플링하고, 이를 EDSR 모형 네트워크에 대한 입력 데이터로 적용하여 초해상화 이미지로 변환하였다. DIV2K 데이터 세트에는 훈련 이미지 800개, 검증 이미지 100개, 테스트 이미지 100개로 구성되어 있다. 초해상화 결과 원본 고해상도 이미지와 초해상화 이미지 간의 유사성이 높고, 자연, 인물 등과 같은 다양한 이미지에 대해 고효율 이미지 재구성이 가능함을 확인할 수 있다.

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F2.jpg
Fig. 2.

Super-resolution results using EDSR and DIV2K dataset

2.1.2 EDSR 네트워크 구조의 설정

EDSR 모형은 여러 개의 잔여 블록(residual block)이 차례로 쌓인 구조로 구성되어 있다. 저해상도 이미지를 입력으로 받는 3차원의 입력 레이어와 컨볼루션 과정을 통해 초기 피처(feature)를 생성한 후, 잔여 블록을 통해 고차원의 피처로 매핑하게 된다. 각 잔여 블록은 훈련 과정을 개선하고, 깊은 네트워크에서 발생하는 기울기 소실(vanishing gradient) 및 폭주(exploding) 문제 해결에 기여한다. EDSR의 잔여 블록은 SRResNet의 구조에서 배치 정규화 레이어를 제거함으로써 효율적인 훈련이 가능하다. 기존의 이미지 분류 분야에서는 배치 정규화 과정이 모형의 훈련 속도 및 성능을 향상시켰지만, 초해상화 분야에서의 픽셀 관점에서는 정규화 작업으로 인해 오히려 네트워크 범위의 유연성이 제거되어 동일한 픽셀값으로 바뀌거나 원래 픽셀값과 전혀 다른 값이 되는 문제가 발생한다. 또한, 배치 정규화 모듈의 레이어는 이전 컨볼루션 레이어와 동일한 양의 메모리를 소비하기 때문에 이를 제거함으로 인해 훈련 중 메모리 사용량을 약 40% 절약할 수 있다(Lim et al., 2017). Fig. 3은 두 네트워크의 잔여 블록 구조 차이를 나타낸다.

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F3.jpg
Fig. 3.

SRResNet and EDSR residual network (Galar et al., 2020)

모형의 성능을 향상시키는 가장 기본적인 방법은 매개변수의 수를 늘리는 것이며, 잔여 블록의 레이어 수와 필터 수가 이에 해당한다. 본 연구에서는 딥러닝 기반 초해상화 기법을 이용하여 고해상도 도시 침수 정보를 생산하기 위해 16개의 레이어와 64개의 필터를 사용하였다. 또한, 해당 모형에서는 각 컨볼루션 레이어에 대해 64개의 피처맵만 사용하기 때문에 잔여 스케일링 레이어는 별도로 사용하지 않았다. 64개 이상의 필터 수를 사용하게 될 경우에는 잔여 스케일링을 0.1로 설정하고, 마지막 컨볼루션 레이어 뒤에 잔여 스케일링 레이어를 배치하면 모형의 수치적 불안정 문제를 해결하고 안정적인 훈련이 가능한 것으로 알려져 있다(Szegedy et al., 2016).

컨볼루션 레이어를 통해 출력된 피처는 스킵 연결(skip connection)을 이용하여 잔여 블록의 원래 입력 피처에 요소별로 추가되며, 결합된 피처는 픽셀 셔플 업샘플링(pixel shuffle upsampling) 과정을 통해 해상도가 4배 향상된다. 업샘플링 과정은 컨볼루션 레이어를 통해 채널 수를 2배로 키워준 후 픽셀 셔플 과정을 통해 재배치하였으며, 픽셀 셔플 레이어는 두 번 반복하여 적용된다. 이 과정을 통해 텐서의 요소를 재배열하여 저해상도 이미지를 효과적으로 업스케일링 할 수 있으며, 점진적인 이미지 크기 조정 또한 가능하다. 마지막으로, 업샘플링된 피처에 컨볼루션 레이어가 적용되어 초해상화된 출력을 생성한다.

2.2 물리 기반 도시 침수 모형 H12

본 연구에서 사용된 물리 기반 도시 침수 모형 H12 (Hybrid-1D-2D)는 이중 배수(dual-drainage) 개념에 기반하여 1차원 우수관거와 2차원 지표면 흐름을 완전 연동하여 해석하는 1D-2D 통합 모형이다. H12 모형에서 빗물의 유입 및 유출은 보와 오리피스 흐름의 형태로 발생한다고 가정하여 지표면, 집수구, 우수관거, 맨홀과 같은 도시에서의 유출에 기여하는 요소들 간의 흐름 교환을 물리적으로 해석할 수 있다. 모형의 입력자료는 크게 지형 자료와 강우 자료로 나눌 수 있다. 지형 자료에는 수치표고모형(Digital Elevation Model, DEM) 또는 수치표면모형(Digital Surface Model, DSM), 토지피복도, 관망자료 등이 포함되며, 강우자료는 지점 시계열 강우, 레이더 강우 등 다양한 형태의 자료를 적용할 수 있다. 이외에도 OpenMP (Open Multi-Processing) 및 MPI (Message Passing Interface) 병렬 컴퓨팅 기술을 활용한 효율적인 계산이 가능하다. H12에 대한 자세한 설명은 Lee et al. (2016), Noh et al. (2019)를 참고할 수 있다.

2.3 연구 지역 및 훈련자료 구축

연구 지역은 최근 인구증가와 도시화가 급속히 진행되고 있는 미국 북서부 오리건 주에 위치한 포틀랜드 도심지(면적: 약 9 km2)를 대상으로 수행되었다. 포틀랜드는 해양성 기후이며, 연평균 강수량은 약 930 mm로(1981~2010년 기준) 11월과 4월 사이에 연간 강수량의 66%가 집중된다(6Cooley and Chang, 2017). Fig. 4는 포틀랜드 도심의 1 m 공간해상도 DSM과 토지피복도이다.

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F4.jpg
Fig. 4.

Input data of physically-based model H12. (a) Digital surface moel (1-m resolution), (b) Land cover (1-m resolution)

모형 훈련 데이터 세트 구축에는 과거 2015년 12월 06일 1시부터 2015년 12월 9일 24시까지의 총 95 시간에 대한 강우 자료에 대한 도시 침수 사상을 사용하였다. 모의에 사용되는 5가지 토지 피복 유형에는 수역, 불투수지역, 맨땅, 잔디, 숲이 포함되며, 토지 피복 유형에 따라 서로 다른 유출계수가 적용되었다. 95시간의 강우에 대한 1 m (4416×4324) 공간해상도의 침수 모의에 소요된 시간은 하이브리드 병렬 계산 결과 약 37.68 시간(CPU: 48, MPI: 4, OpenMP: 12)이 소요되었다. 초해상화 모형의 추가적인 검증을 위해 NOAA (National Oceanic and Atmospheric Administration)에서 제공하는 NOAA Atlas 2 Precipitation Frequency Estimates 자료를 사용해 포틀랜드 100년 빈도 6시간 지속 강우(8.72 mm/hr)에 대한 가상 침수 사상을 사용하였다.

2.4 이미지 전처리

모의 지역 전체에 대한 최대 침수심 결과의 초해상화는 세부 지역에서의 침수 정도를 확인하기 어렵기 때문에 본 연구에서는 도로 및 건물 주변에서의 침수 양상의 변화를 확인할 수 있는 크기의 픽셀 단위로 이미지 크기를 조정하였다. 리사이즈된 이미지로 300개의 고해상도 이미지 세트를 생성하고, 모형의 훈련에 240개, 모형의 검증에 60개로 무작위 분할하였다. 침수 이미지 초해상화 모형의 과적합을 방지하고 다양한 데이터에 대해 훈련할 수 있도록 훈련 과정에서 데이터 증강(data augmentation) 기법을 추가적으로 사용하였다. 모형의 일반화 성능과 훈련 속도를 향상시키기 위하여 고해상도의 경우 96×96 픽셀, 저해상도의 경우 24×24 픽셀의 크기로 동일한 위치를 임의로 잘라내고, 잘라낸 이미지는 수평 반전 및 회전(90°, 180°, 270°)을 적용하여 훈련 데이터를 생성하였다. 모형이 저해상도 이미지와 고해상도 이미지 사이의 차이를 효과적으로 훈련하기 위해서는 원본 고해상도 이미지의 공간분해능을 임의로 저하시켜 저해상도 이미지를 생성하는 과정이 필요하다. 본 연구에서는 저해상도 이미지를 생성하기 위하여 이미지의 품질을 유지하면서 이미지의 크기를 줄이는데 효과적인 바이큐빅 보간법을 사용하였다. 1 m 공간해상도로 모의한 고해상도 이미지에 적용하여 4배 다운샘플링 된 4 m급 저해상도 침수 이미지를 생성하였다(Fig. 5).

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F5.jpg
Fig. 5.

Concept of image down sampling by bicubic interpolation and super resolution. (a) Original high resolution urban flood modeling result, (b) 4X down sampled input image, (c) Super resolution result

2.5 이미지 유사도 평가 지표

본 연구에서는 초해상화 이미지의 원본 고해상도 도시 침수 해석과 유사도 평가를 평가하기 위해 시각적 비교와 함께, 이미지 품질 평가에서 널리 사용되는 정량적 평가 지표인 PSNR (Peak Signal-to-Noise Ratio)과 SSIM (Structural Similarity Index Metric)을 적용하였다.

2.5.1 PSNR

PSNR은 이미지나 비디오의 품질을 평가하는 데 사용되는 측정 지표이며, 생성된 결과 이미지의 화질에 대한 손실 정보를 계산하여 이미지의 유사도를 평가한다. 일반적으로 이미지 및 비디오 압축 품질에서 허용되는 품질 손실 범위는 약 20-25 dB이다(Sara et al., 2019). PSNR은 다음과 같이 계산할 수 있다.

(1)
PSNR=10log10M2MSE
(2)
MSE=1Ni=1N(Iy-ISR)2

M은 이미지의 크기에 상관없이 픽셀 값이 가질 수 있는 최대 값을 의미한다. MSE (Mean Square Error)는 평균 제곱 오차를 의미하며, 초해상화 이미지와 원본 이미지의 픽셀 값 차이를 계산한다. N은 이미지 내 전체 픽셀 수를 나타내며, Iy는 원본 이미지의 i번째 픽셀 값을, ISR은 초해상화 이미지의 픽셀 값을 나타낸다(Wang et al., 2022). PSNR은 손실이 적을수록 더 높은 값을 나타내므로 PSNR이 높을수록 원본 이미지와 유사도가 높다.

2.5.2 SSIM

SSIM은 Wang et al. (2004)에 의해 제안되었으며, 이미지 내의 구조 정보를 이용하여 이미지 간의 왜곡 정도와 구조적 유사성을 측정하는데 사용된다. 인간의 시각 체계에서 주요 내용으로 인식하는 밝기, 대비, 구조 세 가지 측면을 종합적으로 평가하기 때문에 인간의 시각적 직관과 잘 부합하는 것으로 알려져 있다(Bashir et al., 2021). SSIM은 다음과 같은 식을 통해 산정할 수 있다.

(3)
SSIM(ISR,Iy)=[l(ISR,Iy)]a[c(ISR,Iy)]β[s(ISR,Iy)]γ
(4)
l(ISR,Iy)=2μISRμIy+C1μISR2+μIy2+C1
(5)
c(ISR,Iy)=2σISRσIy+C2σISR2+σIy2+C2
(6)
s(ISR,Iy)=σISRIy+C3σISRσIy+C3
(7)
SSIM(ISR,Iy)=(2μISRμIy+C1)(2σISRIy+C2)(μISR2+μIy2+C1)(σISR2+σIy2+C2)

Eqs. (4)~(6)에서는 각각 두 이미지의 밝기, 대비, 구조를 비교한다. 𝜇는 평균을, 𝜎는 표준편차를 뜻하며 σISRIyISRIy의 공분산을 나타낸다. C는 상수이며 분모가 0이 되는 것을 방지하기 위해 사용된다. 𝛼, 𝛽, 𝛾는 가중치를 의미한다(Wang et al., 2022). SSIM은 0과 1 범위의 값을 가지며, 1에 가까울수록 높은 품질을 의미한다.

3. 결과 및 분석

3.1 모형 훈련 성능 평가

본 연구에 사용된 EDSR 모형은 H12로 모의 된 최대 침수심 이미지 데이터 세트를 사용하여 총 300 에포크(epoch) 동안 훈련하였다. 또한, 1 에포크당 100번 반복하여 훈련을 수행했다. 이는 전체 훈련 데이터 세트가 30,000번 사용되는 것을 의미한다. 본 연구에서는 과적합 문제를 해결하기 위해 L1 손실함수를 사용하여 모형 훈련을 진행하였다. 고성능 딥러닝 기반 네트워크 모형 훈련에 있어서 손실함수의 선택은 모형 훈련 결과에 상당한 영향을 미치기 때문에 올바른 손실함수를 선택하는 것은 중요하다. 기존 딥러닝 기반 초해상화 모형은 대부분 L2 손실함수인 MSE (Mean Square Error) 손실을 사용하지만 이는 단순히 MSE를 최소화하는 방향으로만 훈련하기 때문에 이미지의 상세한 정보를 효과적으로 복원하지 못한다(Caballero et al., 2017; Dong et al., 2014; Kim et al., 2016). 반면, MAE (Mean Absolute Error) 손실로 알려진 L1 손실함수는 실제값과 예측값의 차이에 절댓값을 취하여 오차의 영향을 최소화하기 때문에 최근 초해상화 분야에서 많이 사용되고 있다(Dai et al., 2019; Mei et al., 2020). L1 손실함수에 대한 식은 다음 Eq. (8)과 같이 정의된다.

(8)
Ll1=(ISR,IHR)=1hwcn=1NISR-IHR

여기서, IHR는 고해상도 이미지, ISR는 초해상화 이미지이며, N = h×w×c이다. h, w, c는 각각 피처맵의 높이, 너비, 채널 수를 의미한다(Zha et al., 2021).

Fig. 6은 L1 손실함수를 이용하여 고해상도 최대 침수심 이미지 데이터 세트의 훈련 과정에 따른 손실 변화 그래프이다. 훈련 과정에서 발생하는 손실 값이 훈련이 수행됨에 따라 일정 값으로 수렴하는 것이 확인된다. 이는 훈련 및 테스트 성능이 동일하게 유지되며, 사용한 L1 손실함수가 침수 정보 이미지 초해상화 모형을 구성하는 신경망에 적합함을 의미한다. 에포크 수가 증가할수록 실제값과 예측값 사이의 차이는 줄어들고 훈련 및 테스트의 정확도는 증가하게 된다.

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F6.jpg
Fig. 6.

Training loss function of the super-resolution urban flood model network

Fig. 7은 훈련 단계 전체에서 PSNR과 SSIM의 변화를 보여준다. PSNR의 경우 초기 에포크(epoch=1)에서 훈련은 약 16 dB, 검증은 약 18 dB로 상대적으로 낮은 값을 나타내지만, 훈련이 진행됨에 따라 PSNR이 향상되어 훈련 및 검증 데이터 세트 모두에서 약 23 dB 이상의 값에 도달하였다. 마찬가지로 SSIM 역시 훈련 및 검증 모형 세트에 대해 초기 에포크에서 약 0.5 이하의 값에서 시작하여 모형의 훈련이 진행됨에 따라 0.8로 수렴하는 결과를 보였다. 에포크 수에 따른 PSNR과 SSIM의 증가 양상을 통해 초해상화된 이미지와 원본 이미지 간의 구조적 유사성이 향상된 것을 확인하였다.

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F7.jpg
Fig. 7.

Variation of PSNR and SSIM in training and validation periods. (a) PSNR curves, (b) SSIM curves

3.2 도시 침수 초해상화 결과 분석

물리 모형 H12로 모의된 1 m 공간해상도 최대 침수심 이미지 240개(96×96 픽셀)로 훈련된 EDSR 모형을 활용하여 검증대상 60개 이미지에 대해 저해상도 최대 침수심 이미지의 고해상도로 변환 모의를 수행하고, 모형의 추가적인 검증을 위해 NOAA에서 제공하는 포틀랜드 100년 빈도 6시간 지속 강우(8.72 mm/hr)에 대한 가상의 침수 사상에 대한 모의 결과를 추가적인 검증 대상 이미지로 활용하였다. Fig. 8은 과거 95시간 강우에 대한 물리과정 기반 도시 침수 모형 H12의 결과인 고해상도 최대 침수심 이미지와 Fig. 9의 7개 구역의 위치를 나타낸다. Fig. 9는 초해상화 결과 이미지 60장 중 일부 구역에 대한 최대 침수심 초해상화 상세 결과이다. Fig. 9의 초해상화 상세 결과 이미지 세트 쌍에서 좌측열은 고해상도 최대 침수심 이미지(original high resolution), 가운데 열은 바이큐빅 보간법으로 4배 다운샘플링된 저해상도 입력 이미지(low resolution), 오른쪽 열은 초해상화된 최대 침수심 결과 이미지(Super Resolution)를 나타낸다. 즉, 초해상화의 입력자료는 Fig. 9의 가운데 열의 저해상도 이미지이며, EDSR의 출력결과가 오른쪽 열의 이미지이다. 초해상화 기법의 침수 이미지 해상도 향상 정도를 PSNR과 SSIM으로 평가하였으며, 검증 이미지에 대한 초해상화 성능 평가 지수 비교는 Fig. 10과 같다. Fig. 11Table 1은 과거 강우사상과 확률강우량의 최대 침수심 모의 결과 검증 이미지 60장의 초해상화 성능 평가 지수의 상자 그림과 평균값을 나타낸다.

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F8.jpg
Fig. 8.

High-resolution(1-m resolution) flooding modeling results of maximum water depth in downtown Portland, U.S. simulated by physically-based model H12. The white square box indicates the location of the super-resolution image in Figure 9 among the 60 verification images

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F9.jpg
Fig. 9.

Results of super-resolution urban flood analysis (right panel) at 7 locations (a to g) compared with low resolution (middle panel) and original high resolution (left panel). The location of each images can be found in Fig. 8

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F10.jpg
Fig. 10.

Bar graphs of a super-resolution results of urban flooding images for 7 locations. (a) PSNR, (b) SSIM

https://cdn.apub.kr/journalsite/sites/kwra/2023-056-10/N0200561004/images/kwra_56_10_04_F11.jpg
Fig. 11.

Box graphs of super-resolution results for 95-hour historical precipitation and 100-year 6-hour precipitation for 60 verification images respectively. (a) PSNR, (b) SSIM

과거 95시간 강우에 대한 포틀랜드 도심에서의 최대 침수심 모의 결과 이미지 초해상화 결과(Fig. 9), 7개 구역 모두에서 좌측 열의 원본 이미지와 비교했을 때 전체적인 침수 분포의 구조적인 유사성을 잘 복원하는 것으로 확인되었다. 특히, 건물과 도로의 가장자리에서의 침수 범위의 윤곽이 명확히 구분되었으며, 도로나 건물의 경계면을 크게 왜곡하지 않았다. 침수심이 높은 구역에 대해서도 침수 양상과 최대 침수심의 범위가 유사했으며, 초해상화 이미지의 텍스처 세부 사항이 원본 고해상도 이미지와 근사했다. 전체 검증 이미지 60장에 대한 평균 PSNR과 SSIM 값은 22.80 dB, 0.73으로 나타났으며, 초해상화 결과 높은 침수 재현성과 허용 범위내의 해상도 향상 성능 지수를 가지는 것으로 확인되었다. Fig. 9의 이미지들에 대한 PSNR, SSIM 성능 평가 지표 또한 대부분의 초해상화 결과에서 20 dB 이상, 0.75 이상의 우수한 성능을 가지는 것으로 평가되었다. 하지만, Figs. 9(c), 9(d) and 9(f)와 같은 경우 원본 고해상도 이미지에 나타나는 분산된 얕은 침수심을 가지는 물 웅덩이는 초해상화 결과가 완전히 재현하지는 못했으며, 결과 이미지의 해상도가 저하되거나 침수심 분포가 스무딩(smoothing)되는 한계가 있었다. 이러한 현상은 다운샘플링 입력자료를 생성하는 과정에서 침수 정보가 손실됨에 따라 발생하는 것으로 분석되며, 이는 모형의 레이어와 필터 수의 증가 또는 잔여 스케일링 레이어를 추가적으로 배치하는 방법을 통해 개선할 수 있을 것으로 예상된다. 또한, 미세한 물 웅덩이는 고해상도 물리과정 기반 침수 해석에 사용된 입력자료의 정확도에서 기인할 수 있으므로 추후 연구에서 정확도에 따른 고해상도 지형입력자료의 침수 모의 영향에 대한 불확실성 분석이 요구된다.

Fig. 10은 원본 고해상도 이미지에 대한 저해상도 이미지와 초해상화 이미지에 대한 해상도 향상 성능 평가 결과이다. 7개의 구역에 대한 저해상도 이미지와 초해상화 이미지의 평균 품질 향상 정도는 PSNR과 SSIM 각각 5.28 dB, 0.21로 분석되었다. PSNR과는 다르게 SSIM은 location c에서 가장 낮은 결과값을 보였는데, 이는 객관적인 평가 방법인 PSNR과는 다르게 SSIM은 밝기, 대비 및 구조 측면에서 이미지의 품질을 측정하기 때문에 상이한 결과를 가질 수 있다. 이미지 초해상화 기술이 발전함에 따라 다양한 분야에서 사용되고 있고, PSNR, SSIM 평가 지표가 일반적으로 활용되지만, 도시 침수 해석 분야에서는 재구성하려는 이미지의 공간해상도와 스펙트럼에 대해 보다 표적화된 평가 지표가 필요한 것으로 판단된다. 따라서, 추후 연구에서 재구성된 침수 이미지의 품질을 평가하기 위해, 초해상화 결과 이미지의 특성 최적화 여부를 고려한 초해상화 침수 이미지 평가 지표 개발이 요구된다.

Fig. 11Table 1은 과거 포틀랜드 지역의 95시간 강우(historical precipitation)와 100년 빈도 지속시간 6시간 확률강우량(100yr precipitation)의 H12 최대 침수심 모의 검증 대상 이미지(각 60장)의 초해상화 성능 평가 결과에 대한 상자 그림과 평균을 나타낸 결과이다. 과거 도시 침수 사상의 PSNR은 1/4 분위수(25% quantile) 20.4 dB, 중앙값(median) 23.1 dB , 3/4 분위수(75% quantile) 25.0 dB, 평균 PSNR 22.80 dB를 가지는 것으로 분석되었다. 확률강우량에 대한 도시 침수 사상의 60개의 검증 이미지들의 경우 1/4 분위수 21.7 dB, 중앙값 22.6 dB , 3/4 분위수 23.5 dB, 평균 PSNR 22.74 dB를 가진다. SSIM의 경우 과거 도시 침수 사상의 60개의 검증 이미지들은 1/4 분위수 0.61, 중앙값 0.76, 3/4 분위수 0.83, 평균 SSIM 0.73으로 확인되었다. 확률강우량에 대한 도시 침수 사상의 60개의 검증 이미지들은 1/4 분위수 0.79, 중앙값 0.82, 3/4 분위수 0.84, 평균 SSIM 0.81로 확인되었다. 모형을 훈련하는데 사용된 강우사상에 대해 초해상화 성능을 검증하는 경우 넓은 분포의 PSNR과 SSIM 값을 가지는 것으로 분석된다. 확률강우량에 대한 도시 침수 사상의 초해상화 성능 평가 결과는 비교적 좁은 분포를 보이며, 상자 그림의 중앙값 및 평균 또한 과거 도시 침수 사상에 대한 침수 이미지 초해상화 결과와 근접한 결과를 보였다. 즉, 과거 사상에 대해 훈련된 초해상화 모형은 새로운 홍수 사상에 대한 추가적인 훈련을 수행하지 않아도 고해상도의 도시 침수 정보 생산이 가능한 것으로 확인되었다.

Table 1.

Average PSNR and SSIM of 95-hour historical precipitation and 100-year frequency 6-hour precipitation for 60 verification images respectively

Precipitation PSNR (dB) SSIM
Historical 22.80 0.73
100yr 22.74 0.81

딥러닝 기반의 초해상화 모형은 이미지의 픽셀 크기에 따라 훈련 과정에 많은 시간이 소요되지만, 한번 모형이 훈련되면 고해상도 침수 정보 이미지의 생산 시간을 크게 단축할 수 있다. 본 연구에서 사용된 컴퓨팅 리소스는 Google colab pro plus에서 제공하는 클라우드 컴퓨팅 엔진을 활용하여 모의 속도를 측정하였다. EDSR 모형을 240개의 훈련 이미지(96×96 픽셀)로 300 에포크 동안(1 에포크 당 100번 반복 훈련)훈련하는데 걸린 시간은 약 1039.31초였으나(Python3 google colab compute engine GPU T4 기준), 모형 훈련 후 60개의 초해상화 결과 이미지를 얻는데 걸린 시간은 약 44초였다. 본 연구에서 사용된 Google Colab의 NVIDIA Tesla T4 GPU의 사양으로는 위와 같은 연산 시간이 소요되었지만, 고사양의 멀티 코어 GPU를 지원하는 환경에서는 연산 효율을 추가적으로 향상시킬 수 있을 것으로 기대된다. 또한, 딥러닝 기반 초해상화 모형은 적은 수의 침수 시나리오 이미지만 사용하여 빠른 시간 내에 고해상도 도시 침수 정보 생산이 가능했으며, 이는 물리과정 기반 도시 침수 모형의 고해상도 데이터 확보 및 입력자료 구축에 드는 노력과 계산 시간 비용을 크게 단축시킬 수 있을 것으로 판단된다.

4. 결 론

본 연구에서는 기존의 물리과정 기반 도시 침수 모형의 비용 효율적인 한계를 개선하기 위해 딥러닝 기반 EDSR 초해상화 기법을 침수 모의 결과에 적용한 새로운 고해상도 도시 침수 정보 해석 방법을 제안하였다. 제안된 방법은 미국 포틀랜드 도심지에서 발생한 과거 도시 침수 사상과 확률강우량에 대한 도시 침수 사상을 물리과정 기반 침수 해석 모형인 H12를 통해 재현하고, 초해상화 기법을 적용해 저해상도 침수 이미지를 고해상화 하였다. 또한, 초해상화 결과를 H12 모의 결과와 비교하여 도시 침수 사상의 재현성 및 해상도 향상 정도를 평가하였다. 본 연구의 주요 성과를 요약하면 다음과 같다.

1) 딥러닝 기반 초해상화 기법은 도시 침수 정보 이미지 해상도 향상에 효과적이었으며 적은 수의 침수 시나리오 이미지로도 효율적인 모형 훈련 및 고해상도 도시 침수 정보의 해석 및 생산이 가능하다.

2) 초해상화 결과와 물리과정 기반 도시 침수 모형의 고해상도 결과 이미지와의 정량적 평가 결과 높은 침수 사상 재현성과 허용 범위 내의 해상도 향상 성능 지수를 가지는 것으로 확인되었다. 과거 도시 침수 사상에 대한 검증 이미지 60장의 평균 PSNR과 SSIM 값은 각각 22.80 dB, 0.73으로 우수하였으며, 확률강우량에 대한 도시 침수 사상의 검증 이미지 60장에 대한 평균 PSNR과 SSIM 값은 각각 22.74 dB, 0.81로 초해상화 모형은 한번 훈련되면 도시 침수 사상을 추가로 훈련하지 않아도 다른 침수 사상에 대해 빠른 시간내에 고해상도 침수 정보 생산이 가능하다.

3) 제안된 방법의 성능은 물리과정 기반 침수 모형의 입력자료 공간해상도의 정확도에 영향을 받으며, 그리드 크기가 증가 및 감소함에 따라 일부 미세한 침수 사상이 흐릿해지거나 침수심 분포가 평활화되는 한계가 있다.

딥러닝 기반 EDSR 초해상화 기법은 적은 수의 입력 이미지로도 빠르고 간편하게 고해상도 도시 침수 정보 해석이 가능하며, 기존의 물리과정 기반 도시 침수 해석 모형의 결과를 보완하는 고해상도 침수 매핑 결과를 빠르게 생산할 수 있을 것으로 기대된다. 또한, 본 연구의 결과는 침수 예측 지역의 침수 범위 및 침수심에 대한 신속한 고해상도 정보 제공을 통해 침수 진행 상황을 실시간으로 추적하고 취약 지점을 정확하게 식별하여 효과적인 대응 수립 시간을 확보하는 데 사용할 수 있을 것이다. 일부 초해상화 과정에서 그리드 크기 변화에 따라 미세한 침수 사상이 흐려지거나 침수심 분포가 스무딩 되는 한계는 초해상화 모형의 레이어와 필터 수 증가 또는 잔여 스케일링 레이어를 추가적으로 배치하는 방법을 통해 개선할 수 있을 것으로 예상된다. 또한, 초해상화 모형의 정확도와 신뢰성 검증을 위해 과거 실제 침수 정보와의 추가적인 분석이 필요하며, 정량적 분석 결과는 침수 이미지 초해상화 모형의 매개변수 보정에 활용할 수 있을 것으로 판단된다. 이외에도 초해상화 결과 침수 이미지 픽셀 RGB 스펙트럼의 심도 깊은 영향 분석이 요구된다. 이러한 분석에는 침수 픽셀의 공간적 위치를 고려한 RGB 값을 침수 위험 지도와 과거 침수 사상의 고해상도 침수 해석 결과와 비교하여 해상도 향상 성능을 정량적으로 평가할 수 있는 새로운 방법이 포함될 수 있다. 향후 연구에서는 적용된 방법을 다양한 유형의 지형을 포함하는 더 넓은 구역으로 확장시켜 그리드 크기 증가에 따른 모형의 불확실성 및 훈련 속도 평가, 침수 매핑의 정확도 평가에 대한 다른 정량적 평가 지표의 적용을 고려한 분석 수행, 단기 수치예보자료를 활용한 침수 예측 정보 초해상화 등의 연구가 가능할 것으로 판단된다.

Acknowledgements

이 성과는 정부(과학기술정보통신부)의 재원으로 한국연구재단(No.2022R1A4A5028840)의 지원과 환경부의 재원으로 한국환경산업기술원(RS-2023-00218973)의 지원을 받아 수행된 연구임.

Conflicts of Interest

The authors declare no conflict of interest.

References

1
Ballard, T., and Erinjippurath, G. (2020). "FireSRnet: Geoscience- driven super-resolution of future fire risk from climate change." arXiv Preprint, arXiv:2011.12353.
2
Ballard, T., and Erinjippurath, G. (2022). "Contrastive learning for climate model bias correction and super-resolution." arXiv Preprint, arXiv:2211.07555.
3
Bashir, S.M.A., Wang, Y., Khan, M., and Niu, Y. (2021). "A comprehensive review of deep learning-based single image super-resolution." PeerJ Computer Science, Vol. 7, e621. 10.7717/peerj-cs.62134322592PMC8293932
4
Caballero, J., Ledig, C., Aitken, A., Acosta, A., Totz, J., Wang, Z., and Shi, W. (2017). "Real-time video super-resolution with spatio-temporal networks and motion compensation." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Honolulu, HI, U.S., pp. 4778-4787. 10.1109/CVPR.2017.304
5
Cheng, J., Kuang, Q., Shen, C., Liu, J., Tan, X., and Liu, W. (2020). "ResLap: Generating high-resolution climate prediction through image super-resolution." IEEE Access, Vol. 8, pp. 39623-39634. 10.1109/ACCESS.2020.2974785
6
Cooley, A., and Chang, H. (2017). "Precipitation intensity trend detection using hourly and daily observations in Portland, Oregon." Climate, Vol. 5, No. 1, 10. 10.3390/cli5010010
7
Dai, T., Cai, J., Zhang, Y., Xia, S.-T., and Zhang, L. (2019). "Second-order attention network for single image super-resolution." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, Long Beach, USA, pp. 1106511074. 10.1109/CVPR.2019.01132
8
Dong, C., Loy, C.C., He, K., and Tang, X. (2014). "Learning a deep convolutional network for image super-resolution." Computer Vision - ECCV 2014: 13th European Conference, Zurich, Switzerland, pp. 184-199. 10.1007/978-3-319-10593-2_13
9
Galar, M., Sesma, R., Ayala, C., Albizua, L., and Aranda, C. (2020). "Super-resolution of Sentinel-2 images using convolutional neural networks and real ground truth data." Remote Sensing, MDPI, Vol. 12, No. 18, 2941. 10.3390/rs12182941
10
Guidolin, M., Chen, A.S., Ghimire, B., Keedwell, E.C., Djordjević, S., and Savić, D.A. (2016). "A weighted cellular automata 2D inundation model for rapid flood analysis." Environmental Modelling & Software, Vol. 84, pp. 378-394. 10.1016/j.envsoft.2016.07.008
11
Guo, Z., Leitão, J.P., Simões, N.E., and Moosavi, V. (2021). "Data-driven flood emulation: Speeding up urban flood predictions by deep convolutional neural networks." Journal of Flood Risk Management, Vol. 14, No. 1, e12684. 10.1111/jfr3.12684
12
He, J., Zhang, L., Xiao, T., Wang, H., and Luo, H. (2023). "Deep learning enables super-resolution hydrodynamic flooding process modeling under spatiotemporally varying rainstorms." Water Research, Vol. 239, 120057. 10.1016/j.watres.2023.12005737167855
13
Hwang, S.-G., and Lee, J.-H. (2023). "Super-resolution technique of underwater image based on lightweight convolutional neural network for marine accident cause analysis." Journal of Korean Institute of Intelligent Systems, Vol. 33, No. 2, pp. 127-132. 10.5391/JKIIS.2023.33.2.127
14
Jia, Y., Ge, Y., Chen, Y., Li, S., Heuvelink, G.B.M., and Ling, F. (2019). "Super-resolution land cover mapping based on the convolutional neural network." Remote Sensing, MDPI, Vol. 11, No. 15, 1815. 10.3390/rs11151815
15
Kim, J., Lee, J.K., and Lee, K.M. (2016). "Deeply-recursive convolutional network for image super-resolution." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Las Vegas, NV, U.S., pp. 1637-1645. 10.1109/CVPR.2016.181
16
Kwon, O.-S. (2023). "Vehicle detection algorithm using super resolution based on deep residual dense block for remote sensing images." Journal of Broadcast Engineering, Vol. 28, No. 1, pp. 124-131.
17
Ledig, C., Theis, L., Huszar, F., Caballero, J., Cunningham, A., Acosta, A., Aitken, A., Tejani, A., Totz, J., Wang, Z., and Shi, W. (2017). "Photo-realistic single image super-resolution using a generative adversarial network." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, Honolulu, HI, U.S., pp. 4681-4690. 10.1109/CVPR.2017.19
18
Lee, S., Nakagawa, H., Kawaike, K., and Zhang, H. (2016). "Urban inundation simulation considering road network and building configurations." Journal of Flood Risk Management, Vol. 9, No. 3, pp. 224-233.
19
Lim, B., Son, S., Kim, H., Nah, S., and Lee, K.M. (2017). "Enhanced deep residual networks for single image super-resolution." Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition Workshops, Honolulu, HI, U.S., pp. 136-144. 10.1109/CVPRW.2017.151
20
Lombana, L., and Martínez-Graña, A. (2022). "A flood mapping method for land use management in small-size water bodies: Validation of spectral indexes and a machine learning technique." Agronomy, MDPI, Vol. 12, No. 6, 1280. 10.3390/agronomy12061280
21
Mei, Y., Fan, Y., Zhou, Y., Huang, L., Huang, T.S., and Shi, H. (2020). "Image super-resolution with cross-scale non-local attention and exhaustive self-exemplars mining." Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, Seattle, WA, U.S., pp. 5690-5699. 10.1109/CVPR42600.2020.00573
22
Moreno-Rodenas, A.M., Bellos, V., Langeveld, J.G., and Clemens, F.H.L.R. (2018). "A dynamic emulator for physically based flow simulators under varying rainfall and parametric conditions." Water Research, Vol. 142, pp. 512-527. 10.1016/j.watres.2018.06.01130012289
23
Noh, S.J., Lee, J.-H., Lee, S., and Seo, D.-J. (2019). "Retrospective dynamic inundation mapping of hurricane harvey flooding in the Houston Metropolitan Area using high-resolution modeling and high-performance computing." Water, Vol. 11, No. 3, 597. 10.3390/w11030597
24
Saharia, C., Ho, J., Chan, W., Salimans, T., Fleet, D.J., and Norouzi, M. (2021). "Image super-resolution via iterative refinement." IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 45, No. 4, pp. 4713-4726.
25
Sara, U., Akter, M., and Uddin, M.S. (2019). "Image quality assessment through FSIM, SSIM, MSE and PSNR - A comparative study." Journal of Computer and Communications, Vol. 7, No. 3, pp. 8-18. 10.4236/jcc.2019.73002
26
Szegedy, C., Ioffe, S., Vanhoucke, V., and Alemi, A. (2016). "Inception-v4, Inception-ResNet and the impact of residual connections on learning." Proceedings of the AAAI Conference on Artificial Intelligence, Phoenix, AZ, U.S., Vol. 31, No. 1, pp. 4278-4284. 10.1609/aaai.v31i1.11231
27
Wang, X., Yi, J., Guo, J., Song, Y., Lyu, J., Xu, J., Yan, W., Zhao, J., Cai, Q., and Min, H. (2022). "A review of image super-resolution approaches based on deep learning and applications in remote sensing." Remote Sensing, MDPI, Vol. 14, No. 21, 5423. 10.3390/rs14215423
28
Wang, Y., Chen, A.S., Fu, G., Djordjević, S., Zhang, C., and Savić, D.A. (2018). "An integrated framework for high-resolution urban flood modelling considering multiple information sources and urban features." Environmental Modelling & Software, Vol. 107, pp. 85-95. 10.1016/j.envsoft.2018.06.010
29
Wang, Z., Bovik, A., Sheikh, H., and Simoncelli, E. (2004). "Image quality assessment: From error visibility to structural similarity." IEEE Transactions on Image Processing, Vol. 13, No. 4, pp. 600-612. 10.1109/TIP.2003.81986115376593
30
Zha, L., Yang, Y., Lai, Z., Zhang, Z., and Wen, J. (2021). "A lightweight dense connected approach with attention on single image super-resolution." Electronics, MDPI, Vol. 10, No. 11, 1234. 10.3390/electronics10111234
페이지 상단으로 이동하기