Метод дистилляции знаний сегментации объектов дистанционных изображений на основе фильтрации в частотной области

DENG Xingsheng ,  

LI Qian ,  

摘要

С расширенным применением технологий семантической сегментации дистанционных изображений на граничных устройствах становится ключевой научной задачей достижение баланса между точностью и эффективностью при ограниченных вычислительных ресурсах. В данной работе предложен метод дистилляции знаний на основе фильтрации в частотной области FDF (frequency domain filtering distillation). Этот метод использует центральную квадратную маску для фильтрации признаков учителя и ученика в преобразовании Фурье, селективно передавая структурированные низкочастотные знания из модели учителя при подавлении нерелевантных высокочастотных компонентов, эффективно преодолевая проблему высокочастотных шумов при дистилляции признаков на переднем конце кодировщика. Для дальнейшего исследования эффективной архитектуры дистилляции введена лёгкая сеть U-Lite в качестве модели ученика, обладающая значительными преимуществами по количеству параметров и скорости вывода. Комплексные эксперименты на трёх наборах данных дистанционного зондирования LoveDA (адаптация домена покрытия земель), Vaihingen и Potsdam показали, что FDF занимает лидирующие позиции по среднему глобальному улучшению производительности и среднему улучшению перекрытия областей, с заметно меньшим риском деградации производительности по сравнению с основными методами в частотной области. Стандартное отклонение разницы средней метрики mIoU (mean intersection over union) (1.03) превосходит канальный метод дистилляции CWD (1.25) и метод дистилляции Фурье (1.34), избегая при этом максимального снижения производительности до 2,37% у других методов. По вычислительной эффективности скорость вывода FDF достигает 16,63 мс на кадр, что примерно в 2,5 раза быстрее дистилляции вариаций признаков внутри класса IFVD и метода дистилляции Фурье. Эти преимущества делают FDF уникально ценным для практических сценариев граничных вычислений, обеспечивая высоконадежные решения сегментации в условиях ограниченных ресурсов.

关键词

глубокие нейронные сети; дистилляция знаний; семантическая сегментация; извлечение признаков; быстрое преобразование Фурье

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website