# ClinicalBERT: Modeling Clinical Notes and Predicting Hospital Readmission

**Authors:** Kexin Huang, Jaan Altosaar, Rajesh Ranganath  
**arXiv:** [1904.05342](https://arxiv.org/abs/1904.05342)  
**Date:** 2019-04-10  
**Summary page:** https://www.summarizepaper.com/fr/arxiv-id/1904.05342v1/

## Key points

- Les notes cliniques contiennent des informations sur les patients au-delà des données structurées
- Les notes cliniques sont sous-utilisées en raison de leur complexité
- Le modèle ClinicalBert utilise des transformateurs bidirectionnels pour représenter les notes cliniques de manière plus efficace
- ClinicalBert est capable d'identifier des relations de haute qualité entre les concepts médicaux
- ClinicalBert surpasse les modèles de référence dans la prédiction de réadmission à l'hôpital à 30 jours
- ClinicalBert améliore la prédiction des réadmissions hospitalières
- Le code et les paramètres du modèle sont disponibles pour une utilisation par d'autres professionnels de santé.

## Summary

Les notes cliniques contiennent des informations sur les patients qui vont au-delà des données structurées telles que les valeurs de laboratoire et les médicaments. Cependant, ces notes ont été sous-utilisées en raison de leur nature complexe : elles sont multidimensionnelles et clairsemées. Pour remédier à cela, Kexin Huang, Jaan Altosaar et Rajesh Ranganath ont développé un modèle appelé ClinicalBert qui utilise des transformateurs bidirectionnels pour représenter les notes cliniques de manière plus efficace. Les résultats de l'évaluation montrent que ClinicalBert est capable d'identifier des relations de haute qualité entre les concepts médicaux, telles qu'évaluées par des humains. De plus, ce modèle surpasse les modèles de référence dans la prédiction de réadmission à l'hôpital à 30 jours en utilisant à la fois les résumés de sortie et les premiers jours de notes dans l'unité de soins intensifs. En conclusion, cette étude démontre l'efficacité du modèle ClinicalBert dans la représentation des notes cliniques et sa capacité à améliorer la prédiction des réadmissions hospitalières. Les chercheurs mettent également à disposition le code et les paramètres du modèle, ce qui facilite son utilisation par d'autres professionnels de santé.