고객 사례

인공지능 '트롤리 문제': 시선추적을 통해 아이들의 도덕적 발달을 밝혀내는 방법

후난사범대학교 고객 사례

후난성 인지 및 인간 행동 핵심 연구소에 본사를 둔 후난사범대학교의 얀 지치앙 부교수와 그의 팀은 아동의 인지와 사회적 행동 사이의 연관성을 연구하는 데 전념해 왔습니다.

인간과 로봇 시대의 도덕적 딜레마

서비스 로봇의 사용이 증가함에 따라 연구팀은 인간과 로봇이 공존하는 세상에서 도덕성이 어떻게 작동하는지 연구하는 데 초점을 맞췄습니다. 이들의 목표는 사람들, 특히 주요 발달 단계에 있는 어린이들이 로봇과 로봇에 부여된 도덕적 가치를 어떻게 바라보는지 이해하는 것입니다.

이전 연구에 따르면 성인은 희생적인 결정을 내릴 때 다른 무엇보다 사람의 생명을 우선시하는 명백한 '종족주의'를 보이는 경우가 많다고 합니다. 하지만 이러한 도덕적 선호는 타고난 것일까요, 아니면 사회화를 통해 학습된 것일까요? 미취학 아동은 로봇과 인간이 관련된 생사의 갈림길에서 성인과 다른 의사 결정 패턴을 보일까요?

“

With the rapid development of artificial intelligence, interactions between people and robots in daily life are becoming more common. However, research on how individuals of different ages approach moral decisions involving humans versus robots is still limited. Understanding how children and adults perceive robots — especially how they evaluate the value of humans compared to robots in complex moral dilemmas — is an essential basis for designing and improving future human-computer interaction systems.

Yan Zhiqiang, Ph.D., Associate Professor, Department of Psychology, Cognition and Human Behavior Key Laboratory of Hunan Province, Hunan Normal University

트롤리 문제에서의 시선추적

인지 발달에 발표된 연구에서 연구팀은 2(연령) × 4(조건) 혼합 설계를 사용하여 연령과 다양한 '피해자-생존자' 조합이 도덕적 판단에 미치는 영향을 조사했습니다. 연구진은 중국에서 미취학 아동(약 6세) 36명과 성인 36명 등 총 72명의 참가자를 모집했습니다. 실험은 다양한 도덕적 딜레마 시나리오를 제시하고 참가자가 선택을 한 후 그 선택의 윤리적 수용 가능성을 7점 리커트 척도로 평가하는 방식으로 진행되었습니다.

그림 1. 도로 사고 딜레마의 예시 이미지(왼쪽)와 세 개의 AOI를 플롯한 이미지(오른쪽).

행동 반응을 뛰어넘기 위해 팀은 다음을 사용했습니다. Tobii Pro Fusion 화면 기반 아이 트래커를 사용하여 의사 결정 중 눈의 움직임을 기록했습니다. 시선추적은 행동 자체의 결과와 달리 의사 결정이 이루어지기 전의 시각적 검색 경로와 주의 분포를 포착합니다. 얀 교수는 시선추적 데이터를 통해 서로 다른 '종'(인간 대 로봇)에 얼마나 많은 주의를 기울이는지 파악함으로써 도덕적 판단 뒤에 숨겨진 인지적 처리를 해독할 수 있다고 믿습니다.

공리주의적 어린이 대 친인간적 성인

그 결과 연령에 따른 뚜렷한 차이가 나타났습니다. 인간과 로봇이 충돌하는 상황에서 성인은 로봇을 구하기 위해 인간을 희생하는 선택을 거의 하지 않는 '친인간' 편향이 강했으며, 신속하게 결정을 내리는 것으로 나타났습니다. 반면, 미취학 아동은 로봇을 구하기 위해 인간을 희생해야 하는 상황에서도 구할 수 있는 생명의 수를 우선시하는 '공리주의' 성향이 더 강했습니다.

시선추적 데이터는 이러한 행동 결과를 더욱 상세하게 설명해줍니다. 미취학 아동은 의사 결정 과정에서 성인보다 첫 번째 고정 시간과 총 고정 시간이 훨씬 더 긴 것으로 나타났습니다. 이는 종간 도덕적 딜레마에 직면했을 때 어린이는 선택지를 평가하는 데 더 많은 인지적 노력이 필요하며 아직 성인에게 나타나는 확고한(또는 고정관념화된) "인간 우선" 스키마를 발달시키지 못했음을 나타냅니다. 또한, 미취학 아동이 피해 영역에 더 오래 고정되어 있는 것은 잠재적 피해자에 대한 우려의 수준이 더 높다는 것을 반영할 수 있습니다.

또한 이 연구는 공감과 공리주의적 결정 또는 도덕적 수용성 사이에 음의 상관관계가 있음을 발견했습니다. 회귀 분석 결과, 공감 수준이 높을수록 도덕적 판단을 내릴 때 특정 종을 선호하는 경향이 더 큰 것으로 나타났습니다.

인간과 로봇의 공존을 위한 미래 지원

얀 교수팀은 토비의 시선추적 데이터를 바탕으로 인간의 자기 종에 대한 선호("종족주의")가 전적으로 타고난 것이 아니라 내면화된 사회적 규범을 통해 시간이 지나면서 강화될 수 있다고 제안합니다. 관찰된 "평등"와 "공리주의"는 도덕 발달 과정에 대한 새로운 관점을 제시합니다.

“

Our research combines moral judgment with visual attention patterns to examine the differences between preschoolers and adults in moral dilemmas involving humans and robots," says Professor Yan. "Tobii's eye tracking technology enabled us to accurately capture the focus and duration of participants' gaze in these moral situations, revealing their attention levels and preferences for different roles—whether human or robot.

Yan Zhiqiang, Ph.D., Associate Professor Department of Psychology, Cognition and Human Behavior Key Laboratory of Hunan Province，Hunan Normal University

연구실 소개

후난성 인지 및 인간 행동 핵심 연구소는 Tobii Pro Fusion과 같은 고정밀 시선추적 장비를 사용하여 기본 인지 및 언어 처리에서 아동 발달에 이르기까지 인간의 마음 — 을 체계적으로 탐구합니다. 이 연구소는 이러한 기초 연구 결과를 스마트 기술 시대에 교육, 정신 건강 및 인간과 로봇의 상호작용을 지원하는 과학적 증거로 전환하는 데 중점을 두고 있습니다.