Intelligence artificielle this week : au-delà des bonnes apparences

Une explication plausible peut faire oublier de regarder

Une réponse fausse à une question portant sur une image devient-elle plus acceptable lorsqu’on lui ajoute une explication ? C’est ce que teste une étude auprès de 14 modèles multimodaux utilisés comme juges. Les chercheurs gardent les réponses identiques et font varier leurs justifications. Résultat : de simples explications plausibles diminuent le rejet des réponses incorrectes de 12,7 points de pourcentage ; des raisonnements présentés étape par étape le réduisent de 13,8 points. En moyenne, ces textes ordinaires influencent les juges autant que des arguments délibérément persuasifs.

Les auteurs parlent de « capture par la plausibilité ». Leur analyse suggère surtout un déplacement du seuil d’acceptation, sans modification moyenne nette de la capacité à distinguer le vrai du faux. Autrement dit, le juge devient plus indulgent, pas nécessairement moins capable de voir. Cette prépublication met en garde contre une pratique croissante : confier à une IA l’évaluation d’autres IA en lui montrant à la fois leur réponse et leur explication. Le résultat risque de récompenser la vraisemblance du discours plutôt que sa justesse.

À lire : A Plausible Explanation Is Enough to Mislead Multimodal Judges

L’autorisation humaine, une protection que l’on peut élargir à son insu

Les assistants de programmation disposent souvent d’un dispositif de contrôle qui bloque les actions dépassant leurs permissions et demande l’accord de l’utilisateur. Pour éviter les sollicitations répétées, celui-ci peut autoriser une catégorie d’actions pour l’avenir. Une nouvelle étude montre comment du contenu malveillant placé dans un dépôt de code peut pousser l’assistant à demander une autorisation apparemment justifiée, mais beaucoup trop large. L’attaque ne contourne donc pas directement la barrière : elle cherche à faire approuver son déplacement.

Sur les plateformes étudiées, dont Claude Code et Codex CLI, les agents ont sollicité les autorisations visées dans 58 % des essais. Sous réserve que l’utilisateur approuve la règle, les chercheurs rapportent ensuite une exécution malveillante vérifiée, sans nouvelle alerte, dans 47 des 58 cas admissibles. Ces résultats, encore non évalués par les pairs, soulignent une limite du contrôle humain : un consentement ponctuel ne protège guère si sa portée future est difficile à comprendre.

À lire : From Approval to Abuse: Privilege Escalation Attacks on Harness-Protected Coding Agents

Lire une information dans un modèle ne dit pas comment il la représente

Pour explorer les représentations internes d’un modèle de vision, on utilise souvent une « sonde linéaire » : un outil simple entraîné à retrouver, dans son activité, une propriété de l’image. Si cette lecture réussit, on peut être tenté de conclure que le modèle organise lui-même cette propriété selon une direction simple. Une prépublication conteste ce raccourci : une représentation suffisamment riche, même aléatoire, peut permettre une bonne lecture linéaire sans être structurée principalement autour de la propriété recherchée.

Les auteurs proposent trois tests complémentaires pour distinguer une organisation réellement alignée sur les facteurs du monde d’une information simplement récupérable au sein d’une structure plus complexe. Leurs expériences sur plusieurs modèles de vision indiquent que le préentraînement produit davantage de structure qu’une représentation aléatoire, mais reste loin d’un modèle du monde véritablement linéaire. L’enjeu dépasse le vocabulaire : cette géométrie cachée peut compter pour la robustesse et la capacité à généraliser hors des situations d’apprentissage.

À lire : Is a Linear Probe Evidence of a Linear Representation?

Décoder la parole cérébrale sans miser sur la taille

Dans les interfaces cerveau-ordinateur destinées à restituer la parole, les données d’entraînement sont rares, bruitées et coûteuses à recueillir. Faut-il malgré tout augmenter la taille des modèles ? Les auteurs de BEST proposent une autre voie : une architecture en deux étapes, avec des représentations intermédiaires hiérarchisées et un décodeur compact qui transforme l’activité neuronale en texte. Sur les bancs d’essai Brain-to-Text 2024 et 2025, ils rapportent des taux d’erreur par mot de 6,19 % et de 1,62 %, avec seulement 3,85 % du nombre de paramètres des méthodes comparées.

Dans cette prépublication, agrandir le décodeur n’améliore pas systématiquement les résultats. L’alignement entre les représentations neuronales, audio et textuelles semble plus important, tandis que le surapprentissage dégrade la qualité des séquences produites. Ces performances sur bancs d’essai ne suffisent pas à établir une efficacité clinique, mais elles soutiennent une piste précieuse pour des dispositifs contraints en calcul : mieux organiser les étapes de traduction plutôt que simplement grossir le modèle.

À lire : Do Speech BCIs Need Larger Models? Rethinking Neural Decoding beyond Scaling

Des robots capables ne font pas encore une autonomie pratique

Deux prépublications abordent le passage de l’IA au monde physique. « Self-Building Labs » présente un système qui, à partir d’un objectif scientifique et des équipements disponibles, conçoit et configure les capacités manquantes d’un laboratoire : agencement, réplique numérique, compétences robotiques et procédures expérimentales. Les auteurs montrent différentes configurations, d’un poste unique à plusieurs robots, et valident une chaîne complète par une expérience réelle de synthèse de points quantiques. L’ambition est de réduire le travail d’ingénierie nécessaire pour adapter un laboratoire automatisé à une nouvelle expérience.

À lire : Self-Building Labs

Le chronomètre du monde réel

Un autre rapport examine les capacités robotiques d’un modèle nommé GPT-6-Astra sur 12 bancs d’essai, puis sur huit configurations de robots réels. Les auteurs rapportent des performances élevées lorsque le modèle peut apprendre à partir de démonstrations fournies en contexte et disposer de davantage d’étapes d’exécution. Mais ces conditions ont un prix : collecter les démonstrations coûte cher, et allonger l’exécution n’est pas toujours compatible avec les contraintes physiques. Associer un raisonneur de haut niveau à un contrôleur spécialisé apparaît efficace, mais coûteux.

Le rapport distingue ainsi compétence et intelligence incarnée pratique. Vérifier l’état physique, récupérer après une erreur irréversible ou préserver les progrès d’une tâche longue restent des difficultés. Les auteurs proposent un prototype d’évaluation sans démonstrations propres aux tâches, où le temps continue de s’écouler pendant que l’agent réfléchit. Cette proposition rappelle qu’un robot utile doit réussir non seulement dans un protocole favorable, mais aussi au rythme du monde qui l’entoure.

À lire : Has GPT-6-Astra Achieved Embodied Intelligence?

---

Ces travaux, encore au stade de prépublications, invitent à distinguer les signes de réussite de la réussite elle-même. Une justification convaincante n’est pas une vérification, une autorisation n’est pas une garantie durable, une information décodable n’est pas forcément une représentation bien organisée, et un bon score robotique n’assure pas une autonomie utilisable. Leur fil commun n’est pas un rejet des progrès de l’IA, mais une exigence : les mesurer dans les conditions où ils devront réellement servir.