# A Characterization of Mean Squared Error for Estimator with Bagging

**Authors:** Martin Mihelich, Charles Dognin, Yan Shu, Michael Blot  
**arXiv:** [1908.02718](https://arxiv.org/abs/1908.02718)  
**Date:** 2019-08-07  
**Summary page:** https://www.summarizepaper.com/fr/paper/1908.02718v1/

## Key points

- Étudier théoriquement comment la méthode de bagging peut réduire l'erreur quadratique moyenne (MSE) lorsqu'elle est appliquée à un estimateur statistique.
- Prouver que pour tout estimateur, augmenter le nombre d'estimateurs baggés $N$ dans la moyenne ne peut qu'améliorer la MSE.
- Se concentrer sur l’estimateur standard de variance appelé variance échantillonnée non biaisée et développer une expression analytique exacte de la MSE pour cet estimateur avec le bagging.
- Discuter rigoureusement du nombre d’itérations $N$ et de la taille du lot $m$ de la méthode du bagging.
- Analyser que seule si la courbure de la distribution est supérieure à $\frac{3}{2}$, la MSE de l'estimateur de variance peut être réduite avec le bagging.
- Proposer un algorithme générique novateur permettant d’estimer avec une grande précision la variance d’un échantillon.

## Summary

Dans cet article, nous étudions théoriquement comment la méthode de bagging peut réduire l'erreur quadratique moyenne (MSE) lorsqu'elle est appliquée à un estimateur statistique. Nous prouvons que pour tout estimateur, augmenter le nombre d'estimateurs baggés $N$ dans la moyenne ne peut qu'améliorer la MSE. Nous nous concentrons ensuite sur l’estimateur standard de variance appelé variance échantillonnée non biaisée et développons une expression analytique exacte de la MSE pour cet estimateur avec le bagging. Cela nous permet de discuter rigoureusement du nombre d’itérations $N$ et de la taille du lot $m$ de la méthode du bagging. Notre analyse montre que seule si la courbure de la distribution est supérieure à $\frac{3}{2}$, la MSE de l'estimateur de variance peut être réduite avec le bagging. Enfin, nous proposons un algorithme générique novateur permettant d’estimer avec une grande précision la variance d’un échantillon.