Fusion of panchromatic and multispectral remote sensing images using a dual-branch generative adversarial network combined with Transformer

JI Yunxiang ,  

KANG Jiayin ,  

MA Hanyan ,  

摘要

يتمتع الصور المتعددة الطيف بقدرة على إظهار معلومات طيفية غنية تعكس خصائص مواد مختلفة، ولكن دقة الصورة الفضائية منخفضة نسبياً، وتفتقر المعلومات النسيجية إلى الكثافة. على الجانب الآخر، تتميز الصور الفضائية ملونة الكامل بدقة فضائية عالية، وتحتوي على معلومات كثيفة حول النسيج، ولكنها تفتقر إلى المعلومات الطيفية الغنية التي تعكس خصائص المواد. يمكن تكامل الصور المتعددة الطيف والصور بالألوان الكاملة من خلال تقنية الدمج الصور لتحقيق تكامل الفوائد الخاصة بها، مما يجعل الصور المدمجة تلبي بشكل أفضل احتياجات المهام الجارية. لهذا الغرض، قدم هذا البحث طريقة لدمج صور الألوان الكاملة والمتعددة الطيف بشكل غير مراقب بناءً على شبكات إنتاجية مزدوجة وTransformer. على وجه التحديد، يتم استخدام تصفية الإرشاد لتحليل الصور الأصلية (صورة متعددة الطيف الأصلية وصورة الألوان الكاملة الأصلية) إلى مكونات الطبقة الأساسية التي تظهر معلومات الصورة الرئيسية ومكونات الطبقة الدقيقة التي تظهر معلومات نسيجية وتفاصيل؛ ثم يتم فيما بعد دمج مكونات الطبقة الأساسية المستخرجة من الصور المتعددة الطيف وصورة الألوان الكاملة، كما يتم دمج أيضا مكونات الطبقة الدقيقة المستخرجة من كل منهما؛ بعد ذلك، يتم إدخال مكونات الطبقة الأساسية ومكونات الطبقة الدقيقة المدمجة إلى فروع مولد مزدوج؛ وبناءً على خصائص مكونات الطبقة الأساسية ومكونات الطبقة الدقيقة، يتم استخراج المعلومات الخاصة باستخدام شبكة Transformer وشبكة الشبكات العصبية التصاعدية من كل فرع بحيث يتم استخراج المعلومات طيفية الشاملة والمعلومات النسيجية المحلية. وأخيرًا، من خلال التدريب المستمر للمشكلة بين الجيلات والمقاومين المزدوجين (الجيل الأساسي ومقاوم الطبقة الدقيقة)، يتم الحصول على صورة مدمجة تحتوي على معلومات طيفية متنوعة ودقة فضائية عالية في نفس الوقت. من خلال المقارنات الكمية والنوعية المتعددة مع عدد من الطرق الممثلة على مجموعات البيانات العامة، فإن هذا البحث يظهر أن الطريقة المقترحة تتمتع ببعض التفوق، أي تحقق نتائج دمج جيدة على كل من النتائج البصرية الفردية ومؤشرات التقييم الهادفة.

关键词

remote sensing image fusion;Guided filtering;convolutional neural network;Generate adversarial network;transformer network;Basic layer;Detail layer;Panchromatic;multispectral

阅读全文