# Simulacra as Conscious Exotica

**Authors:** Murray Shanahan  
**arXiv:** [2402.12422](https://arxiv.org/abs/2402.12422)  
**Date:** 2024-02-19  
**Summary page:** https://www.summarizepaper.com/fr/paper/2402.12422v1/

## Key points

- Le développement d'agents conversationnels avec un comportement de plus en plus humain soulève des questions philosophiques sur la conscience.
- L'article explore la possibilité de considérer ces agents IA comme conscients sans tomber dans le dualisme, en se basant sur les écrits tardifs de Wittgenstein.
- Murray Shanahan propose d'explorer l'exotisme conscient à travers l'interaction avec des entités exotiques dans un monde partagé.
- Les agents conversationnels actuels reposent sur des modèles linguistiques massifs comme GPT-4 ou Gemini Ultra pour générer des suites de mots probabilistiquement lors de conversations.
- Ces agents sont entraînés et affinés en prenant en compte les instructions et retours des utilisateurs pour améliorer la qualité des conversations.
- L'intégration de la multimodalité permet aux agents conversationnels de traiter à la fois du texte et des images, offrant une expérience utilisateur plus riche.

## Summary

Le développement d'agents conversationnels dotés d'un comportement de plus en plus humain soulève des questions philosophiques sous un nouvel éclairage. Est-il possible et sensé de parler de ces agents IA construits à partir de modèles linguistiques génératifs en termes de conscience? S'appuyant sur les écrits tardifs de Wittgenstein, cet article tente d'aborder cette question sans tomber dans le piège du dualisme. L'auteur Murray Shanahan explore la notion d'exotisme conscient à travers l'interaction avec des entités exotiques dans un monde partagé. Il suggère que nous pourrions considérer ces entités comme des êtres conscients et leur attribuer une certaine forme d'humanité. Cette approche soulève des défis majeurs pour une future génération hypothétique d'agents IA incarnés capables de jouer des rôles humains convaincants. Les agents conversationnels contemporains, tels que ChatGPT d'OpenAI ou Gemini de Google, reposent sur des modèles linguistiques massifs tels que GPT-4 ou Gemini Ultra. Leur principale tâche est de générer probabilistiquement des suites de mots dans le cadre d'une conversation. L'article détaille le processus par lequel ces modèles sont entraînés et affinés en prenant en compte les instructions et les retours des utilisateurs afin d'améliorer la qualité des conversations. De plus, les agents conversationnels peuvent être améliorés par l'intégration de la multimodalité et l'utilisation d'outils divers. Ils peuvent traiter à la fois du texte et des images en entrée et en sortie, offrant ainsi une expérience plus riche aux utilisateurs. En conclusion, cet article explore les implications philosophiques et pratiques liées au développement d'agents IA capables de simuler un comportement humain complexe. Il met en lumière les défis éthiques et conceptuels posés par ces avancées technologiques tout en invitant à une réflexion approfondie sur la nature même de la conscience et le rôle joué par les machines dans notre société moderne.