Método de destilación de conocimiento para segmentación de objetos en imágenes de teledetección basado en filtrado en dominio de frecuencia

DENG Xingsheng ,  

LI Qian ,  

摘要

Con la amplia aplicación de la técnica de segmentación semántica de imágenes de teledetección en dispositivos edge, cómo lograr un equilibrio entre precisión y eficiencia bajo recursos computacionales limitados se convierte en un problema científico clave. Este documento propone un método de destilación de conocimiento basado en filtrado en el dominio de la frecuencia FDF (frequency domain filtering distillation). Este método utiliza una máscara cuadrada central para filtrar las características del profesor y el alumno en el dominio de Fourier, transfiriendo selectivamente el conocimiento estructural de baja frecuencia del modelo docente, mientras suprime componentes de alta frecuencia irrelevantes, superando eficazmente el problema del ruido de alta frecuencia en la destilación de características del codificador frontal. Para explorar una arquitectura de destilación eficiente, se introduce la red ligera U-Lite como modelo alumno, que tiene ventajas significativas en la cantidad de parámetros y velocidad de inferencia. Los experimentos integrales en tres conjuntos de datos de teledetección LoveDA (adaptación de dominio de cobertura terrestre), Vaihingen y Potsdam muestran que las mejoras medias en el rendimiento global y en la superposición regional de FDF se encuentran en primer lugar, con un riesgo de deterioro del rendimiento significativamente menor que los métodos dominantes en el dominio de la frecuencia. La desviación estándar de la diferencia ΔmIoU (mean intersection over union) (1.03) es mejor que los métodos de destilación por canal CWD (1.25) y de destilación Fourier (1.34), evitando una caída máxima de rendimiento del 2.37% que presentan otros métodos. En términos de eficiencia computacional, la velocidad de inferencia de FDF alcanza 16.63 ms por cuadro, aproximadamente 2.5 veces más rápido que la destilación de variación de características intra-clase IFVD y el método de destilación Fourier. Estas ventajas hacen que FDF muestre un valor de aplicación único en escenarios reales de computación edge, proporcionando una solución de segmentación altamente confiable para entornos con recursos limitados.

关键词

redes de aprendizaje profundo; destilación de conocimiento; segmentación semántica; extracción de características; transformada rápida de Fourier

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website