Fusion of panchromatic and multispectral remote sensing images using a dual-branch generative adversarial network combined with Transformer

JI Yunxiang ,  

KANG Jiayin ,  

MA Hanyan ,  

摘要

Las imágenes de teledetección multiespectrales tienen la capacidad de reflejar información espectral rica que refleja diversas características de los objetos, pero su resolución espacial es relativamente baja y la información de textura es relativamente insuficiente. Por el contrario, las imágenes de teledetección en color tienen una alta resolución espacial e información de textura abundante, pero carecen de información espectral rica que refleje las características de los objetos. La tecnología de fusión de imágenes permite integrarlas juntas para aprovechar sus ventajas respectivas, lo que hace que la imagen fusionada satisfaga mejor las necesidades de las tareas posteriores. Con este fin, este artículo propone un método de fusión de imágenes multiespectrales y en color basado en una red generativa doble y un transformador. En particular, utilizando un filtro de guía, la imagen fuente (imagen multiespectral fuente e imagen en color fuente) se descompone en componentes básicas que reflejan la información principal de la imagen y componentes de detalle que reflejan la información de textura y detalle; luego, las componentes básicas extraídas de las imágenes multiespectrales y en color se fusionan, al igual que las componentes de detalle extraídas de cada una de ellas; luego, las componentes básicas fusionadas y las componentes de detalle fusionadas se introducen respectivamente en las ramas de generadores dobles; luego, teniendo en cuenta las diferentes propiedades de las componentes básicas y las componentes de detalle, se extrae información característica de cada rama mediante redes Transformer y redes neuronales convolucionales, para extraer información espectral global e información de textura local; finalmente, mediante un entrenamiento de oposición continuo entre el generador y los discriminadores dobles (discriminador básico y discriminador de detalle), se obtiene una imagen fusionada que contiene tanto información espectral rica como una alta resolución espacial. Las experimentaciones comparativas cualitativas y cuantitativas con varios métodos representativos en conjuntos de datos públicos muestran que el método propuesto tiene cierta ventaja, es decir, que logra buenos resultados en términos de efecto visual subjetivo e indicadores de evaluación objetivos.

关键词

remote sensing image fusion;Guided filtering;convolutional neural network;Generate adversarial network;transformer network;Basic layer;Detail layer;Panchromatic;multispectral

阅读全文