Anterior|Siguiente

Clasificación de series temporales de datos satelitales utilizando un mecanismo de atención auto-temporal

  • role： First author第一作者
  • Affiliation：

    Aerospace Information Research Institute, Chinese Academy of Sciences, Beijing 100094, China

    University of Chinese Academy of Sciences, School of Electronic, Electrical and Communication Engineering, Beijing 100049, China

  • Email：zhangweixiong@aircas.ac.cn
  • Introduction：张伟雄，研究方向为遥感图像处理。E-mail：zhangweixiong@aircas.ac.cn
ZHANG Weixiong12,  
  • Affiliation：

    Aerospace Information Research Institute, Chinese Academy of Sciences, Beijing 100094, China

TANG Ping1,  
  • role： Corresponding author通信作者
  • Affiliation：

    Aerospace Information Research Institute, Chinese Academy of Sciences, Beijing 100094, China

  • Email：zhangzheng@aircas.ac.cn
  • Introduction：张正，研究方向为遥感图像处理，遥感时间序列分析。E-mail：zhangzheng@aircas.ac.cn
ZHANG Zheng1*

resumen

La serie temporal de imágenes de satélite proporciona una base de datos importante para el estudio de la clasificación de la cobertura terrestre. La extracción de características de clasificación temporal utilizando el aprendizaje profundo siempre ha sido un tema candente de investigación, mientras que los modelos de aprendizaje profundo basados en redes recurrentes y convolucionales a menudo tienen dificultades para lograr resultados de clasificación de alta precisión en muestras de entrenamiento pequeñas. Para resolver este problema, este artículo introduce los últimos métodos de procesamiento del lenguaje natural en el campo de la atención automática para la clasificación de series temporales multiespectrales satelitales. Al mejorar el codificador Transformer: (1) agregar una capa de elevación de características antes de la atención multi-cabeza, para mejorar la información espectral; (2) uso de estiramiento después de la reducción de la dimensión en lugar de la agrupación máxima global GMP como estrategia de reducción de dimensiones de características. Construcción de una red de extracción de características basada en la atención temporal para optimizar series temporales de clasificación, comparación con la red recurrente y la red convolucional, evaluación de la efectividad de nuestro método en un conjunto de datos público de series temporales satelitales multiespectrales para mejorar la precisión de clasificación de muestras. Los resultados experimentales muestran que la red de extracción de características basada en la atención temporal construida puede aplicarse de manera efectiva a la clasificación de series temporales satelitales multiespectrales y será útil para aumentar la precisión de la clasificación de muestras pequeñas.

palabra clave

Mecanismo de atención; Aprendizaje profundo; Series temporales de datos satelitales; Clasificación de cobertura terrestre; Muestras desequilibradas

References

  1. 1.
    Garnot V S F and Landrieu L. 2020. Lightweight temporal self-attention for classifying satellite images time series//5th ECML PKDD Workshop on Advanced Analytics and Learning on Temporal Data. Ghent: Springer: 171-181
  2. 2.
    Garnot V S F, Landrieu L, Giordano S and Chehata N. 2020. Satellite image time series classification with pixel-set encoders and temporal self-attention//2020 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Seattle: IEEE: 12322-12331
  3. 3.
    Hochreiter S and Schmidhuber J. 1997. Long short-term memory. Neural Computation, 9(8): 1735-1780
  4. 4.
    Ienco D, Gaetano R, Dupaquier C and Maurel P. 2017. Land cover classification via multitemporal spatial data by deep recurrent neural networks. IEEE Geoscience and Remote Sensing Letters, 14(10): 1685-1689
  5. 5.
    Kingma D P and Ba J. 2015. Adam: a method for stochastic optimization//3rd International Conference on Learning Representations. San Diego: ICLR
  6. 6.
    Lin T Y, Goyal P, Girshick R, He K M and Dollar P. 2017. Focal loss for dense object detection//2017 IEEE International Conference on Computer Vision. Venice: IEEE: 2999-3007
  7. 7.
    Maus V, Câmara G, Cartaxo R, Sanchez A, Ramos F M and de Queiroz G R. 2016. A time-weighted dynamic time warping method for land-use and land-cover mapping. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 9(8): 3729-3739
  8. 8.
    Mikolov T, Sutskever I, Chen K, Corrado G and Dean J. 2013. Distributed representations of words and phrases and their compositionality//Proceedings of the 26th International Conference on Neural Information Processing Systems. Lake Tahoe: Curran Associates Inc.: 3111-3119
  9. 9.
    Pelletier C, Webb G and Petitjean F. 2019. Temporal convolutional neural network for the classification of satellite image time series. Remote Sensing, 11(5): 523
  10. 10.
    Petitjean F, Inglada J and Gancarski P. 2012. Satellite image time series analysis under time warping. IEEE Transactions on Geoscience and Remote Sensing, 50(8): 3081-3095
  11. 11.
    Rußwurm M and Körner M. 2017. Temporal vegetation modelling using long short-term memory networks for crop identification from medium-resolution multi-spectral satellite images//2017 IEEE Conference on Computer Vision and Pattern Recognition Workshops (CVPRW). Honolulu: IEEE: 1496-1504
  12. 12.
    Rußwurm M and Körner M. 2018. Multi-temporal land cover classification with sequential recurrent encoders. ISPRS International Journal of Geo-Information, 7(4): 129
  13. 13.
    Rußwurm M., & Körner M. 2020. Self-attention for raw optical satellite time series classification. ISPRS journal of photogrammetry and remote sensing, 169, 421-435
  14. 14.
    Sutskever I, Vinyals O and Le Q V. 2014. Sequence to sequence learning with neural networks//Proceedings of the 27th International Conference on Neural Information Processing Systems. Montreal: MIT Press: 3104-3112
  15. 15.
    Vaswani A, Shazeer N, Parmar N, Uszkoreit J, Jones L, Gomez A N, Kaiser Ł and Polosukhin I. 2017. Attention is all you need//Proceedings of the 31st International Conference on Neural Information Processing Systems. Long Beach: Curran Associates Inc.: 6000-6010
  16. 16.
    Zhang Z, Tang P and Duan R B. 2015. Dynamic time warping under pointwise shape context. Information Sciences, 315: 88-101
  17. 17.
    Zhang Z, Tang P, Huo L Z and Zhou Z G. 2014. MODIS NDVI time series clustering under dynamic time warping. International Journal of Wavelets, Multiresolution and Information Processing, 12(5): 1461011
  18. 18.
    Zhang Z, Tavenard R, Bailly A, Tang X T, Tang P and Corpetti T. 2017. Dynamic time warping under limited warping path length. Information Sciences, 393: 91-107
  19. 19.
    Zhong L H, Hu L N and Zhou H. 2019. Deep learning based multi-temporal crop classification. Remote Sensing of Environment, 221: 430-443

Leer el texto completo

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website