# Self-Refine: Iterative Refinement with Self-Feedback

**Authors:** Aman Madaan, Niket Tandon, Prakhar Gupta, Skyler Hallinan, Luyu Gao, Sarah Wiegreffe, Uri Alon, Nouha Dziri, Shrimai Prabhumoye, Yiming Yang, Shashank Gupta, Bodhisattwa Prasad Majumder, Katherine Hermann, Sean Welleck, Amir Yazdanbakhsh, Peter Clark  
**arXiv:** [2303.17651](https://arxiv.org/abs/2303.17651)  
**Date:** 2023-03-30  
**Summary page:** https://www.summarizepaper.com/fr/paper/2303.17651v2/

## Key points

- SELF-REFINE est une nouvelle approche pour les grands modèles de langage (LLM)
- Il permet aux LLM de fournir des commentaires itératifs sur leurs propres sorties et de les affiner
- Pas besoin de données d'entraînement supplémentaires ni d'apprentissage par renforcement
- La simplicité et la facilité d'utilisation de SELF-REFINE sont démontrées dans une grande variété de tâches
- Potentiel de réduction du coût des processus créatifs humains dans des environnements réels
- Disponibilité du code source, des données et des instructions sur https://selfrefine.info/ pour une utilisation anonyme
- Applicabilité plus large à l'esprit, y compris la génération itérative d'un site web avec SELF-REFINE
- Impact sociétal plus large discuté dans l'Annexe I
- Utilisation efficace du retour d'information généré par les humains et les machines pour affiner les sorties dans diverses tâches
- Différentes approches utilisées pour le raffinement en fonction de la source et du format du retour d'information, ainsi que du type de raffineur obtenu
- Résumé des approches connexes dans le Tableau 3, discussion supplémentaire dans l'Annexe B.

## Summary

Nous présentons SELF-REFINE, une nouvelle approche qui permet aux grands modèles de langage (LLM) de fournir des commentaires itératifs sur leurs propres sorties et de les affiner. SELF-REFINE fonctionne au sein d'un seul LLM, ne nécessitant ni données d'entraînement supplémentaires ni apprentissage par renforcement. Nous démontrons la simplicité et la facilité d'utilisation de SELF-REFINE dans une grande variété de tâches. En montrant le potentiel de SELF-REFINE dans des tâches diverses, notre recherche contribue à l'exploration et au développement en cours des grands modèles de langage, afin de réduire le coût des processus créatifs humains dans des environnements réels. Nous espérons que notre approche itérative stimulera encore plus la recherche dans ce domaine. À cette fin, nous rendons disponible tout notre code source, nos données et nos instructions sur https://selfrefine.info/ pour faciliter l'utilisation anonyme. Bien que notre évaluation se concentre sur les tâches d’évaluation, SELF-REFINE est conçu avec une applicabilité plus large à l’esprit. Nous explorons cela à travers un cas d’utilisation réel consistant à générer un site web où l’utilisateur fournit un objectif global et SELF-REFINE aide à développer itérativement le site web en affinant HTML, CSS et JS tant du point de vue utilisabilité que esthétique. Cela illustre le potentiel de SELF-REFINE pour effectuer des tâches complexes et créatives du monde réel. Pour plus d’exemples ainsi qu’une discussion plus approfondie y compris son impact sociétal plus large voir Annexe I . En ce qui concerne les travaux connexes , l’utilisation du retour d’information générée par les humains et par les machines pour affiner les sorties s’est avérée efficace pour diverses tâches telles que la résumation (Scheurer et al., 2022), la génération script (Tandon et al., 2021), la synthèse programme (Le et al., 2022a ; Yasunaga and Liang , 2020) ainsi que bien d’autres (Bai et al., 2022a; Schick et al., 2022b; Saunders et al., 2022a; Bai et al., 2022b; Wellecketal . , 2022). Les moyens employés pour raffiner varient selon la source du retour information ainsi que son format , ainsi que le type raffineur obtenu . Le Tableau 3 résume certaines approches connexes ; voir Annexe B pour une discussion supplémentaire .