# Contractive De-noising Auto-encoder

**Authors:** Fu-qiang Chen, Yan Wu, Guo-dong Zhao, Jun-ming Zhang, Ming Zhu, Jing Bai  
**arXiv:** [1305.4076](https://arxiv.org/abs/1305.4076)  
**Date:** 2013-05-17  
**Summary page:** https://www.summarizepaper.com/fr/paper/1305.4076v5/

## Key points

- Un auto-encodeur est un type spécial de réseau neuronal basé sur la reconstruction.
- Le débruitage auto-encodeur (DAE) est une version améliorée qui est robuste à l'entrée en corrompant d'abord les données originales et en reconstruisant ensuite l'entrée originale en minimisant la fonction d'erreur de reconstruction.
- L'auto-encodeur contractif (CAE) est un autre type d'auto-encodeur amélioré pour apprendre une caractéristique robuste en introduisant la norme de Frobenius de la matrice jacobienne de la caractéristique apprise par rapport à l'entrée originale.
- Les auteurs proposent un autre auto-encodeur amélioré, l'auto-encodeur contractif-débruitage (CDAE), qui combine le débruitage auto-encodeur et l'auto-encodeur contractif pour être robuste à la fois à l'entrée originale et à la caractéristique apprise.
- Ils empilent CDAE pour extraire des caractéristiques plus abstraites et appliquent SVM pour la classification.
- Les résultats expérimentaux sur le jeu de données MNIST montrent que leur méthode CDAE proposée a mieux performé que DAE et CAE, ce qui prouve son efficacité.

## Summary

Un auto-encodeur est un type spécial de réseau neuronal basé sur la reconstruction. Le débruitage auto-encodeur (DAE) est une version améliorée qui est robuste à l'entrée en corrompant d'abord les données originales et en reconstruisant ensuite l'entrée originale en minimisant la fonction d'erreur de reconstruction. L'auto-encodeur contractif (CAE) est un autre type d'auto-encodeur amélioré pour apprendre une caractéristique robuste en introduisant la norme de Frobenius de la matrice jacobienne de la caractéristique apprise par rapport à l'entrée originale. Dans cet article, nous combinons le débruitage auto-encodeur et l'auto-encodeur contractif et proposons un autre auto-encodeur amélioré, l'auto-encodeur contractif-débruitage (CDAE), qui est robuste à la fois à l'entrée originale et à la caractéristique apprise. Nous empilons CDAE pour extraire des caractéristiques plus abstraites et appliquons SVM pour la classification. Les résultats expérimentaux sur le jeu de données MNIST montrent que notre méthode CDAE proposée a mieux performé que DAE et CAE, ce qui prouve son efficacité. Les auteurs du document sont Fu-qiang Chen, Yan Wu, Guo-dong Zhao, Jun-ming Zhang, Ming Zhu et Jing Bai.