Stabilizing Transformer Training by Preventing Attention Entropy Collapse
Shuangfei Zhai, Tatiana Likhomanenko, Etai Littwin, Dan Busbridge, Jason Ramapuram, Yizhe Zhang et al. · arXiv: 2303.06296v1 · Page du résumé
Votre présentation de journal club, prête en une minute. Une dizaine de slides avec les figures de l'article quand sa licence le permet, ce qu'il faut dire sur chacune, les points forts et les limites de l'article, et des questions pour lancer la discussion. Présentez-la en plein écran ou enregistrez-la en PDF.