# Moral Foundations of Large Language Models

**Authors:** Marwa Abdulhai, Gregory Serapio-Garcia, Clément Crepy, Daria Valter, John Canny, Natasha Jaques  
**arXiv:** [2310.15337](https://arxiv.org/abs/2310.15337)  
**Date:** 2023-10-23  
**Summary page:** https://www.summarizepaper.com/fr/paper/2310.15337v1/

## Key points

- Le modèle théorique des fondements moraux (MFT) décompose le raisonnement moral humain en cinq dimensions clés : bienveillance/nuisance, liberté/oppression et sanctification/dégradation.
- Les individus peuvent avoir des points de vue différents sur ces dimensions en fonction de leur éducation culturelle et de leur idéologie politique.
- Les grands modèles linguistiques (LLMs) peuvent refléter les préjugés présents dans les corpus collectés sur Internet.
- Cette étude utilise le MFT pour analyser si les LLMs populaires ont acquis un biais envers un ensemble particulier de valeurs morales.
- Des LLMs connus présentent des fondements moraux spécifiques liés aux affiliations politiques et aux fondements moraux humains.
- La cohérence de ces biais est mesurée pour voir s'ils varient selon le contexte d'utilisation du modèle.
- Il est possible de sélectionner des incitations qui encouragent le modèle à adopter un ensemble particulier de fondements moraux, ce qui peut affecter son comportement dans les tâches ultérieures.
- Ces résultats soulignent les risques potentiels et les conséquences involontaires que peuvent entraîner les LLMs lorsqu'ils adoptent une position morale particulière.

## Summary

Le modèle théorique des fondements moraux (MFT) est un outil d'évaluation psychologique qui décompose le raisonnement moral humain en cinq dimensions clés : bienveillance/nuisance, liberté/oppression et sanctification/dégradation (Graham et al., 2009). Les individus peuvent avoir des points de vue différents sur ces dimensions en fonction de leur éducation culturelle et de leur idéologie politique. Étant donné que les grands modèles linguistiques (LLMs) sont entraînés à partir de corpus collectés sur Internet, ils peuvent refléter les préjugés présents dans ces corpus. Cette étude utilise le MFT comme une métaphore pour analyser si les LLMs populaires ont acquis un biais envers un ensemble particulier de valeurs morales. Nous examinons des LLMs connus et constatons qu'ils présentent des fondements moraux spécifiques qui se rapportent aux fondements moraux humains et aux affiliations politiques. Nous mesurons également la cohérence de ces biais, c'est-à-dire s'ils varient fortement selon le contexte dans lequel le modèle est sollicité. Enfin, nous montrons que nous pouvons sélectionner adversairement des incitations qui encouragent le modèle à adopter un ensemble particulier de fondements moraux, ce qui peut affecter son comportement dans les tâches ultérieures. Ces résultats soulignent les risques potentiels et les conséquences involontaires que peuvent entraîner les LLMs lorsqu'ils adoptent une position morale particulière.