MiniLMv2: Multi-Head Self-Attention Relation Distillation for Compressing Pretrained Transformers
Wenhui Wang, Hangbo Bao, Shaohan Huang, Li Dong, Furu Wei · arXiv: 2012.15828v1 · Page du résumé
Votre présentation de journal club, prête en une minute. Une dizaine de slides avec les figures de l'article quand sa licence le permet, ce qu'il faut dire sur chacune, les points forts et les limites de l'article, et des questions pour lancer la discussion. Présentez-la en plein écran ou enregistrez-la en PDF.