# Human-centred test and evaluation of military AI

**Authors:** David Helmer, Michael Boardman, S. Kate Conroy, Adam J. Hepworth, Manoj Harjani  
**arXiv:** [2412.01978](https://arxiv.org/abs/2412.01978)  
**Date:** 2024-12-02  
**Summary page:** https://www.summarizepaper.com/fr/arxiv-id/2412.01978v1/

## Key points

- Besoin de garantir que les applications d'IA dans le domaine militaire soient éthiques et centrées sur l'humain
- Implication des utilisateurs humains tout au long du cycle de vie du développement et du déploiement des systèmes d'IA
- Adaptation des méthodes traditionnelles d'évaluation centrées sur l'humain pour les systèmes d'IA nécessitant une surveillance continue
- Modification du langage autour des systèmes basés sur l'IA pour inclure explicitement le(s) humain(s) comme composante du système
- Dialogue continu entre technologues et décideurs politiques sur l'évaluation centrée sur l'humain avec un objectif précis
- Communication améliorée entre les communautés techniques et non techniques pour garantir la compréhension des risques liés à l'utilisation des systèmes
- Tests et évaluations prenant en compte l'impact humain pour refléter la performance opérationnelle réelle du système
- Communication des résultats du TEVV aux utilisateurs prenant des décisions concernant l'utilisation des systèmes basés sur l'IA
- Le rapport "Human-centred Test and Evaluation of Military AI" met en avant ces points clés lors de la conférence Responsible AI in the Military Domain 2024 à Séoul.

## Summary

Le rapport "Human-centred Test and Evaluation of Military AI" issu du panel sur l'évaluation et les tests centrés sur l'humain de l'intelligence artificielle militaire lors de la conférence Responsible AI in the Military Domain 2024 à Séoul met en avant le besoin de garantir que les applications d'IA dans le domaine militaire soient éthiques et centrées sur l'humain. Il souligne que les humains doivent rester responsables et redevables de leur utilisation et de leurs effets. Le développement de cadres rigoureux d'évaluation et de test, ainsi que de vérification et validation (TEVV), contribuera à des mécanismes de surveillance robustes. Il est essentiel d'impliquer les utilisateurs humains tout au long du cycle de vie du développement et du déploiement des systèmes d'IA. Les méthodes traditionnelles d'évaluation centrées sur l'humain issues des facteurs humains doivent être adaptées pour les systèmes d'IA déployés nécessitant une surveillance continue et une évaluation régulière. Il est également recommandé de modifier le langage autour des systèmes basés sur l'IA pour inclure explicitement le(s) humain(s) comme composante du système. Des normes et exigences soutenant cette définition ajustée sont nécessaires, tout comme des métriques et moyens pour les évaluer. Le dialogue entre technologues et décideurs politiques sur l'évaluation centrée sur l'humain doit être continu, mais il doit être initié avec un objectif précis pour être productif. Le développement du TEVV tout au long du cycle de vie du système est crucial pour soutenir cette évolution, y compris la question de la scalabilité humaine et son impact sur l'échelle des tests réalisables. Une communication améliorée entre les communautés techniques et non techniques est nécessaire pour garantir que les opérateurs et les décideurs comprennent les risques liés à l'utilisation des systèmes, afin d'informer au mieux la recherche et le développement. Les tests et évaluations en soutien au déploiement responsable de l'IA doivent prendre en compte l'impact humain pour refléter la performance opérationnelle réelle du système. La communication des résultats du TEVV aux utilisateurs prenant des décisions concernant l'utilisation des systèmes basés sur l'IA sera essentielle pour informer ces décisions basées sur le risque. Enfin, il est souligné que les systèmes d'IA sont conçus pour améliorer les résultats en matière de justice pour l'humanité, mettant ainsi en lumière leur potentiel positif dans divers domaines sociétaux.