Une étude de l’université Penn State révèle que les agents conversationnels d’IA prennent des décisions plus rapides mais moins nuancées que les médecins lorsqu’il s’agit d’attribuer un rein. Confrontés à des scénarios opposant deux patients éligibles, les modèles privilégient souvent un seul critère (notamment la consommation d’alcool) alors que les humains pondèrent plusieurs facteurs, dont l’âge, et reconnaissent l’ambiguïté morale de ces choix.
Les chercheurs ont constaté que l’IA ne manifeste quasiment aucune hésitation, contrairement aux participants humains, qui intègrent l’incertitude dans leur jugement. Selon Hadi Hosseini, les systèmes s’écartent fréquemment des valeurs humaines en simplifiant des dilemmes complexes. John Dickerson, de Mozilla.ai, rappelle que l’allocation de ressources rares repose sur un débat moral que les modèles ne reproduisent pas.
Alors que les LLM sont de plus en plus utilisés dans la santé, notamment pour optimiser les parcours de soins et la gestion des ressources, les auteurs soulignent que les décisions d’attribution d’organes exigent un alignement strict sur les valeurs humaines. Ils estiment que le rôle de l’IA dans ces choix vitaux doit être défini avec prudence, l’objectif n’étant pas de remplacer le jugement médical, mais de comprendre les biais et les limites de ces systèmes.
 Pascal Lemontel
|
21/09/2026 | 
03/02/2025
| 
Anglais
Arabic
Deutsch
Français
Español
Italien
Português
Russian