Méthode de distillation des connaissances de segmentation des objets d'images de télédétection basée sur le filtrage dans le domaine fréquentiel

DENG Xingsheng ,  

LI Qian ,  

摘要

Avec la large application des techniques de segmentation sémantique d'images de télédétection sur des dispositifs edge, comment équilibrer précision et efficacité avec des ressources informatiques limitées devient un enjeu scientifique clé. Cet article propose une méthode de distillation des connaissances basée sur le filtrage dans le domaine fréquentiel, nommée FDF (frequency domain filtering distillation). Cette méthode utilise un masque carré central pour filtrer les caractéristiques enseignant-étudiant dans le domaine de Fourier, transmettant sélectivement les connaissances structurelles basse fréquence du modèle enseignant, tout en supprimant les composantes haute fréquence non pertinentes, surmontant ainsi efficacement le problème du bruit haute fréquence lors de la distillation des caractéristiques en front-end de l'encodeur. Pour explorer davantage une architecture de distillation efficace, un réseau léger U-Lite est introduit comme modèle étudiant, offrant des avantages significatifs en termes de nombre de paramètres et de vitesse d'inférence. Des expériences complètes sur trois ensembles de données de télédétection LoveDA (adaptation de domaine du couvert terrestre), Vaihingen et Potsdam montrent que les améliorations moyennes de performance globale et d'intersection régionale de FDF se classent parmi les meilleures, avec un risque de dégradation de performance significativement inférieur à celui des méthodes fréquentielles dominantes. L'écart-type de la différence ΔmIoU (mean intersection over union) (1,03) est meilleur que celui de la distillation par canal CWD (1,25) et de la distillation Fourier (1,34), tout en évitant une baisse de performance maximale de 2,37 % observée chez d'autres méthodes. En termes d'efficacité de calcul, la vitesse d'inférence de FDF atteint 16,63 ms par image, environ 2,5 fois plus rapide que la distillation de variation de caractéristiques intra-classe IFVD et la distillation Fourier. Ces avantages confèrent à FDF une valeur d'application unique dans les scénarios de calcul edge réels, offrant une solution de segmentation fiable pour les environnements à ressources limitées.

关键词

réseaux d'apprentissage profond; distillation des connaissances; segmentation sémantique; extraction de caractéristiques; transformée rapide de Fourier

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website