Le "problème du chariot" de l'IA : L'utilisation de l'eye tracking pour révéler le développement moral des enfants

Basé au Laboratoire clé de la cognition et du comportement humain de la province de Hunan à Université normale du Hunan le professeur associé Yan Zhiqiang et son équipe se sont consacrés à l'étude du lien entre la cognition et le comportement social des enfants.

Le dilemme moral de l'ère de l'homme-robot

À mesure que l'utilisation des robots de service se développe, l'équipe s'est attachée à étudier le fonctionnement de la moralité dans un monde où coexistent des humains et des robots. Leur objectif est de comprendre comment les gens, en particulier les enfants à des stades clés de leur développement, voient les robots et les valeurs morales qui leur sont attribuées.

Des études antérieures ont montré que les adultes font souvent preuve d'un "spécisme" évident lorsqu'ils prennent des décisions de sacrifice : ils donnent la priorité à la vie humaine. Mais cette préférence morale est-elle innée ou s'apprend-elle par la socialisation ? Les enfants d'âge préscolaire présentent-ils un schéma décisionnel différent de celui des adultes lorsqu'ils sont confrontés à des choix de vie ou de mort impliquant des robots et des humains ?

Eye tracking dans le problème du chariot

Dans une étude publiée dans Cognitive Development, l'équipe a utilisé un modèle mixte 2 (âge) × 4 (condition) pour examiner les effets de l'âge et des différentes combinaisons "victime-survivant" sur le jugement moral. Les chercheurs ont recruté 72 participants en Chine, dont 36 enfants d'âge préscolaire (environ 6 ans) et 36 adultes. L'expérience consistait à présenter divers scénarios de dilemmes moraux, dans lesquels les participants devaient faire un choix et évaluer ensuite l'acceptabilité éthique de ce choix sur une échelle de Likert en sept points.

Pour aller au-delà des réponses comportementales, l'équipe a utilisé le logiciel Tobii Pro Fusion Eye tracker sous écran pour enregistrer les mouvements des yeux pendant la prise de décision. Contrairement aux résultats comportementaux seuls, l'eye tracking capture le chemin de recherche visuel et la répartition de l'attention avant la prise de décision. Le professeur Yan estime que les données de l'eye tracking révèlent le degré d'attention accordé aux différentes "espèces" (humains vs robots), décodant ainsi le traitement cognitif à l'origine des jugements moraux.

Enfants utilitaires et adultes pro-humains

Les résultats ont montré des différences apparentes entre les âges. Dans les situations de conflit impliquant des humains et des robots, les adultes affichaient un fort penchant "pro-humain", choisissant rarement de sacrifier des humains pour sauver des robots, et prenaient des décisions rapidement. En revanche, les enfants d'âge préscolaire avaient une plus grande tendance à l'"utilitarisme", donnant la priorité au nombre de vies sauvées, même lorsque ce choix impliquait de sacrifier un humain pour sauver des robots.

Les données d'Eye tracking ont permis de préciser ces résultats comportementaux. Les enfants d'âge préscolaire ont montré des temps de première fixation et des temps de fixation totaux significativement plus longs que les adultes pendant la prise de décision. Cela indique que lorsqu'ils sont confrontés à des dilemmes moraux inter-espèces, les enfants ont besoin d'un effort cognitif plus important pour évaluer leurs options et n'ont pas encore développé le schéma ferme (ou stéréotypé) "l'humain d'abord" que l'on observe chez les adultes. En outre, le temps de fixation plus long sur la zone de la victime chez les enfants d'âge préscolaire peut refléter un niveau de préoccupation plus élevé pour la victime potentielle.

En outre, l'étude a mis en évidence une corrélation négative entre l'empathie et les décisions utilitaires ou l'acceptabilité morale. L'analyse de régression a révélé que des niveaux d'empathie plus élevés étaient associés à une plus grande tendance à favoriser certaines espèces lors du jugement moral.

Favoriser la coexistence entre l'homme et le robot à l'avenir

En se basant sur les données de l'Eye tracking de Tobii, l'équipe du professeur Yan suggère que la préférence des humains pour leur propre espèce ("spécisme") pourrait ne pas être entièrement innée, mais pourrait être renforcée au fil du temps par des normes sociales intériorisées. L'observation de l'"égalité" et "utilitarisme"observés chez les enfants offrent une nouvelle perspective sur le déroulement du développement moral.

À propos du laboratoire

À l'aide d'équipements d'Eye tracking de haute précision comme Tobii Pro Fusion, le Cognition and Human Behavior Key Laboratory of Hunan Province explore systématiquement l'esprit humain —, de la cognition de base et du traitement du langage au développement de l'enfant. Le laboratoire se concentre sur la transformation de ces résultats de recherche fondamentaux en preuves scientifiques qui soutiennent l'éducation, la santé mentale et l'interaction homme-robot à l'ère de la technologie intelligente.

Références

Zhou, K., Chen, M., Xu, H., Cao, Y. et Yan, Z. (2024). Les enfants d'âge préscolaire priorisent les humains sur les robots moins que les adultes : une étude d'eye tracking.. Cognitive Development, 72, 101505.