Anomaly Detection via Reverse Distillation from One-Class Embedding

Auteurs : Hanqiu Deng, Xingyu Li

CVPR 2022
10 pages, 7 figures

Résultats du processus de synthèse de l'article arXiv : 2201.10703v2

  • Résumé Complet
  • Points clés
  • Résumé vulgarisé
  • Article de blog
Les auteurs Hanqiu Deng et Xingyu Li ont présenté un article intitulé "Anomaly Detection via Reverse Distillation from One-Class Embedding" lors de la conférence CVPR 2022. Dans cet article, ils explorent l'utilisation de la distillation des connaissances (KD) pour résoudre le problème complexe de la détection d'anomalies non supervisée. Ils soulignent que la disparité de représentation des anomalies dans le modèle enseignant-élève (T-S) fournit des preuves essentielles pour la détection d'anomalies. Cependant, l'utilisation d'architectures similaires ou identiques pour construire les modèles enseignant et élève dans des études précédentes limite la diversité des représentations anormales. Pour remédier à ce problème, les auteurs proposent un nouveau modèle T-S composé d'un encodeur enseignant et d'un décodeur élève, introduisant ainsi un paradigme de "distillation inverse" simple mais efficace. Dans ce nouveau modèle, le réseau élève prend en entrée l'incorporation en une classe du modèle enseignant au lieu des images brutes directement, et vise à restaurer les représentations multi-échelles du modèle enseignant. La distillation des connaissances dans cette étude commence donc naturellement par des présentations abstraites et haut niveau pour atteindre les caractéristiques de bas niveau. De plus, les auteurs introduisent un module incorporant en une classe (OCBE) entraînable dans leur modèle T-S. L'incorporation compacte obtenue préserve efficacement les informations essentielles sur les motifs normaux tout en abandonnant les perturbations anormales. Les expérimentations approfondies menées sur des benchmarks de détection d'anomalies et de nouveauté en une classe montrent que la méthode proposée dépasse les performances SOTA (State-of-the-Art), démontrant ainsi son efficacité et sa généralisabilité. Cette approche innovante offre une nouvelle perspective sur la distillation des connaissances pour améliorer la détection d'anomalies non supervisée.
Mots clés générés par l'IA : Anomaly Detection Reverse Distillation One-Class Embedding Knowledge Distillation Unsupervised Learning

Points clés générés par l'IA

  • Les auteurs Hanqiu Deng et Xingyu Li ont présenté un article intitulé "Anomaly Detection via Reverse Distillation from One-Class Embedding" lors de la conférence CVPR 2022.
  • Ils utilisent la distillation des connaissances (KD) pour résoudre le problème complexe de la détection d'anomalies non supervisée.
  • Le modèle T-S proposé comprend un encodeur enseignant et un décodeur élève, introduisant ainsi un paradigme de "distillation inverse".
  • Le réseau élève prend en entrée l'incorporation en une classe du modèle enseignant pour restaurer les représentations multi-échelles.
  • Un module incorporant en une classe (OCBE) entraînable est introduit dans le modèle T-S pour préserver les informations essentielles sur les motifs normaux tout en abandonnant les perturbations anormales.
  • Les expérimentations montrent que la méthode proposée dépasse les performances SOTA, démontrant son efficacité et sa généralisabilité.
Accédez également à nos autres résultats générés par IA : Résumé complet, Résumé vulgarisé, Article de type blog; ou posez des questions sur cet article à notre Assistant IA.

Résumé : Knowledge distillation (KD) achieves promising results on the challenging problem of unsupervised anomaly detection (AD).The representation discrepancy of anomalies in the teacher-student (T-S) model provides essential evidence for AD. However, using similar or identical architectures to build the teacher and student models in previous studies hinders the diversity of anomalous representations. To tackle this problem, we propose a novel T-S model consisting of a teacher encoder and a student decoder and introduce a simple yet effective "reverse distillation" paradigm accordingly. Instead of receiving raw images directly, the student network takes teacher model's one-class embedding as input and targets to restore the teacher's multiscale representations. Inherently, knowledge distillation in this study starts from abstract, high-level presentations to low-level features. In addition, we introduce a trainable one-class bottleneck embedding (OCBE) module in our T-S model. The obtained compact embedding effectively preserves essential information on normal patterns, but abandons anomaly perturbations. Extensive experimentation on AD and one-class novelty detection benchmarks shows that our method surpasses SOTA performance, demonstrating our proposed approach's effectiveness and generalizability.

Soumis à arXiv le 26 Jan. 2022

Outils pour cet article

Expliquer autrement 3 réécritures gratuites restantes aujourd'hui
Exporter BibTeX · RIS (Zotero, Mendeley, EndNote) · Markdown (Notion, Obsidian) · Premium
Alertes de citation Premium
Journal club Des slides pour le présenter Premium
Pour les journalistes Kit presse et détecteur de hype Premium

Posez des questions sur cet article à notre assistant IA

Vous pouvez aussi discutez avec plusieurs papiers à la fois ici.

⚠La licence de l'article ne nous permet pas de nous appuyer sur son contenu et l'assistant IA ne peut se servir que des métadonnées de l'article plutôt que de l'article complet.

Figures et graphiques

Posez une question sur une figure en indiquant son numéro ou en utilisant son bouton de question pour demander une analyse visuelle. Au maximum deux figures et quatre panneaux par question. Les valeurs lues sur les graphiques sont approximatives ; vérifiez les données originales.

Instructions pour utiliser l'assistant IA ?

Évaluez la qualité du contenu généré par l'IA en votant

Note : 1

Pourquoi avons-nous besoin de votes ?

Les votes sont utilisés pour déterminer si nous devons réexécuter nos outils de synthèse. Si le compte atteint -10, nos outils peuvent être redémarrés.

Le résumé précédent a été créé il y a plus d'un an et peut être réexécuté (si nécessaire) en cliquant sur le bouton Exécuter ci-dessous.

⚠La licence de cet article spécifique ne nous permet pas de nous appuyer sur son contenu et les outils de synthèse seront exécutés en utilisant les métadonnées de l'article plutôt que l'article complet. Cependant, l'outil produira quand même un bon résultat, et vous pouvez également essayer nos outils sur des papiers avec des licences plus ouvertes.

Articles similaires résumés avec nos outils d'IA

Naviguez à travers encore plus d'articles similaires en utilisant une

représentation arborescente

Avertissement : Notre outil de synthèse basé sur l'IA et l'assistant virtuel fournis sur ce site Web peuvent ne pas toujours fournir des résumés complets ou des réponses exactes. Nous vous encourageons à examiner attentivement et à évaluer le contenu généré pour vous assurer de sa qualité et de sa pertinence par rapport à vos besoins.