KV Cache is 1 Bit Per Channel: Efficient Large Language Model Inference with Coupled Quantization
Tianyi Zhang, Jonah Yi, Zhaozhuo Xu, Anshumali Shrivastava · arXiv: 2405.03917v1 · Page du résumé
Votre présentation de journal club, prête en une minute. Une dizaine de slides avec les figures de l'article quand sa licence le permet, ce qu'il faut dire sur chacune, les points forts et les limites de l'article, et des questions pour lancer la discussion. Présentez-la en plein écran ou enregistrez-la en PDF.