Wissensdestillationsmethode zur Fernerkundungsbild-Objektsegmentierung basierend auf Frequenzbereichsfilterung

DENG Xingsheng ,  

LI Qian ,  

摘要

Mit der breiten Anwendung der semantischen Segmentierung von Fernerkundungsbildern auf Edge-Geräten wird es zu einer entscheidenden wissenschaftlichen Fragestellung, wie man unter begrenzten Rechenressourcen ein Gleichgewicht zwischen Genauigkeit und Effizienz erreicht. In diesem Artikel wird eine auf Frequenzbereichsfilterung basierende Wissensdestillationsmethode FDF (frequency domain filtering distillation) vorgeschlagen. Diese Methode verwendet eine zentrale quadratische Maske, um Lehrer-Schüler-Merkmale im Fourier-Bereich zu filtern, überträgt selektiv strukturelles Niedrigfrequenzwissen aus dem Lehrermodell und unterdrückt gleichzeitig irrelevante Hochfrequenzkomponenten, wodurch effektiv das Problem von Hochfrequenzrauschen bei der Merkmal-Destillation am Encoder-Front-End überwunden wird. Zur weiteren Erforschung einer effizienten Destillationsarchitektur wurde das leichte Netzwerk U-Lite als Schülermodell eingeführt, das signifikante Vorteile hinsichtlich der Parameteranzahl und Inferenzgeschwindigkeit bietet. Umfassende Experimente an den drei Fernerkundungsdatensätzen LoveDA (Land-Bedeckungsdomänenanpassung), Vaihingen und Potsdam zeigen, dass die durchschnittlichen globalen Leistungsverbesserungen und die durchschnittlichen regionalen Überlappungsverbesserungen von FDF zu den Spitzenwerten gehören, und dass das Risiko eines Leistungsabfalls signifikant niedriger ist als bei führenden Frequenzbereichsmethoden. Die Standardabweichung des mIoU-Unterschieds ΔmIoU (mean intersection over union) (1,03) ist besser als die der Kanalweisen Destillationsmethode CWD (1,25) und der Fourier-Destillationsmethode (1,34) und vermeidet einen maximalen Leistungsabfall von 2,37 %, wie er bei anderen Methoden auftritt. Bezüglich der Recheneffizienz erreicht die FDF-Inferenzgeschwindigkeit 16,63 ms pro Frame, etwa 2,5-mal schneller als die klasseninterne Merkmalvariation-Destillation IFVD und die Fourier-Destillationsmethode. Diese Vorteile machen FDF zu einer einzigartigen Anwendungslösung in realen Edge-Computing-Szenarien und bieten eine hochzuverlässige Segmentierungslösung für ressourcenbeschränkte Umgebungen.

关键词

tiefe neuronale Netze; Wissensdestillation; semantische Segmentierung; Merkmalsextraktion; schnelle Fourier-Transformation

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website