[논문리뷰] Psychological insights into the research and practice of embodied conversational agents, chatbots and social assistive robots: a systematic meta-review

Psychological insights into the research and practice of embodied conversational agents, chatbots and social assistive robots: a systematic meta-review (2024)

챗봇·가상 에이전트·소셜 로봇 연구 315편을 종합한 체계적 메타리뷰

대화형 에이전트 연구의 다음 단계는 더 자연스럽게 말하는 AI를 만드는 것이 아니라, 인간이 AI와 어떤 관계를 형성하며 그 관계가 인간의 감정·자기 인식·사회적 삶에 어떤 영향을 미치는지를 이해하는 것이다.

• 저자: Keita Kiuchi, Kouyou Otsu, Yugo Hayashi
• 학술지: Behaviour & Information Technology
• 연구 유형: 체계적 메타리뷰(Systematic Meta-review)(체계적 문헌 검색에 기반한 내러티브 메타리뷰)

1. 개요

이 논문은 가상 대화형 에이전트, 챗봇, 사회적 보조 로봇에 관한 기존의 체계적 문헌고찰을 다시 종합한 메타리뷰이다. 개별 시스템의 성능이나 특정 실험 결과를 분석하는 것이 아니라, 여러 분야에서 축적된 리뷰 연구를 종합하여 대화형 에이전트 연구의 전체 지형을 파악한다.

저자들은 대화형 에이전트를 의료, 정신건강, 노인 돌봄, 교육, 산업 등에서 활용되는 기술로 바라보는 동시에, 사람과 신뢰·공감·애착·관계를 형성할 수 있는 사회적 존재로 접근한다. 따라서 이 논문의 핵심 관심은 단순히 “에이전트가 과업을 정확하게 수행하는가”가 아니라, “사람이 에이전트를 어떻게 인식하고 받아들이며 관계를 형성하는가”에 있다.

2. 주요 개념 정리

Figure 14는 ECA, 챗봇, 사회적 보조 로봇이 주로 연구된 적용 영역을 개념적으로 보여준다. ECA와 챗봇은 정보 제공, 심리 지원, 행동 변화와 같은 대화 중심 과제에 주로 활용되는 반면, 물리적 실재감을 가진 SAR은 노인·아동·인지장애 사용자와의 상호작용, 재활 및 돌봄 영역에서 많이 연구되었다. 다만 이 도식은 정량적 분포가 아니라 연구 영역 간의 대략적인 관계를 표현한 개념도이다.

대화형 에이전트(Conversational Agent, CA)

사용자와 문자, 음성 또는 비언어적 표현을 통해 대화하는 컴퓨터 시스템을 의미한다. 이 논문에서는 ECA, 챗봇, 사회적 보조 로봇을 포괄하는 상위 개념으로 사용한다.

체화된 대화형 에이전트(Embodied Conversational Agent, ECA)

화면 안에서 사람이나 캐릭터의 외형을 가지고 대화하는 가상 에이전트이다.

표정, 시선, 몸짓, 자세 등 비언어적 표현을 사용할 수 있다는 점에서 일반적인 텍스트 챗봇과 구별된다.

챗봇(Chatbot)

문자 또는 음성을 중심으로 사용자와 대화하는 시스템이다. 정해진 규칙과 응답을 사용하는 검색·규칙 기반 챗봇과, 머신러닝 및 자연어처리 기술을 이용하여 응답을 생성하는 생성 기반 챗봇으로 구분할 수 있다.

사회적 보조 로봇(Socially Assistive Robot, SAR)

물리적 신체를 가지고 사회적 상호작용을 통해 사용자를 돕는 로봇이다. 노인 돌봄, 치매 지원, 아동 교육, 재활 등의 분야에서 주로 활용된다. 직접 물건을 옮기는 것보다 대화, 격려, 안내, 동반감 제공과 같은 사회적 지원에 초점을 둔다.

인간–에이전트 상호작용(Human–Agent Interaction, HAI)

인간과 자율성, 적응성, 페르소나를 가진 지능형 에이전트 사이의 상호작용을 연구하는 분야이다. 전통적인 HCI보다 에이전트의 사회적 행동과 인간다운 특성을 중요하게 다룬다.

사용자 수용성(Acceptability)

사용자가 에이전트를 유용하고 적절한 기술로 받아들이고 실제로 사용할 의향을 보이는 정도이다.

사용 편의성뿐 아니라 외형, 역할, 신뢰, 비용, 문화적 배경, 개인정보 우려, 보호자와 전문가의 태도 등이 함께 영향을 준다.

사회적 실재감(Social Presence)

사용자가 시스템을 단순한 인터페이스가 아니라 자신과 함께 존재하고 반응하는 사회적 대상으로 느끼는 정도이다.

심리적 애착(Psychological Attachment)

사용자가 에이전트에 정서적 유대감이나 애정을 형성하는 현상이다. 지속적인 사용과 정서적 지원에 도움이 될 수 있지만, 과도한 의존, 상실감, 기만 등의 윤리적 위험을 동반할 수 있다.

메타리뷰(Meta-review)

개별 연구가 아니라 기존의 체계적 문헌고찰과 메타분석을 다시 수집하고 종합하는 연구 방법이다. 넓은 연구 분야의 전체 흐름과 공통된 연구 공백을 파악하는 데 적합하다.

3. 연구 목적과 연구 질문

대화형 에이전트 연구는 심리학, HCI, 로봇공학, 의료, 교육 등 여러 분야에 분산되어 있다. 저자들은 이러한 연구를 한 번에 조망할 수 있는 메타리뷰가 부족하다고 판단한다.

이를 바탕으로 다음 세 가지 연구 질문을 제시한다.

1. ECA, 챗봇, 사회적 보조 로봇에 관한 연구는 어떤 분야에서 발전해 왔는가?
2. 각 분야에서 현재까지 무엇이 밝혀졌는가?
3. 각 분야의 향후 연구와 사회적 도입을 위해 해결해야 할 과제는 무엇인가?

이 논문은 대화형 에이전트가 어디에서 사용되고 있는지를 분류하고, 현재까지의 효과와 한계를 검토하며,
앞으로 필요한 연구 방향을 제안하는 것을 목적으로 한다.

4. 연구 방법

저자들은 PRISMA 2020 지침을 참고하여 체계적 문헌 검색을 수행한다. 검색 대상 데이터베이스는 PubMed, ScienceDirect, EBSCOhost, Web of Science, ACM Digital Library이다.

검색 결과에서 중복을 제거한 뒤 1,830편을 검토하였으며, 최종적으로 선정 기준을 충족한 315편의 체계적 문헌고찰을 분석한다. 포함된 논문은 동료평가를 거친 영문 학술지 논문이며, ECA·챗봇·사회적 보조 로봇에 대한 체계적 검색 절차를 명확히 보고한 리뷰 연구이다.

최종 논문들은 연구 주제에 따라 다음 11개 영역으로 분류한다.

정신질환 | 신경발달장애 | 치매 및 인지장애 | 기타 의료 영역 | 노인 지원 | 건강 증진 | 비임상 정신건강 | 교육 | 산업적 활용 | 에이전트 특성 | 로봇 특성 

체계적 리뷰의 수는 2019년과 2021년을 기점으로 크게 증가했으며, 특히 의료, 노인 지원, 치매·인지장애, 건강 증진, 교육 분야에 연구가 집중되어 있었다.

5. 주요 연구 결과

5.1 다양한 분야에서 가능성이 확인되지만 효과에 대한 근거는 아직 제한적이다

대화형 에이전트는 정신건강 지원, 질병 관리, 건강 행동 변화, 교육, 재활, 노인 돌봄 등 다양한 목적으로 활용되고 있다.

정신질환 분야에서는 우울과 사회적 고립 감소, 중독 치료, 심리교육, 행동 모니터링 등에 활용될 가능성이 보고된다.
신경발달장애 분야에서는 사회적 보조 로봇이 자폐 스펙트럼 장애 아동의 의사소통 및 사회적 기술 향상에 도움을 줄 가능성이 나타난다.

치매와 노인 지원에서는 초조, 불안, 우울, 외로움, 사회적 참여와 관련한 긍정적 결과가 일부 보고된다. 교육에서는 질의응답, 언어 학습, 멘토링, 학습 동기 지원 등에 활용된다.

그러나 저자들은 이러한 가능성을 곧바로 확정적인 효과로 해석해서는 안 된다고 지적한다. 많은 연구가 작은 표본과 짧은 실험 기간을 사용하며, 적절한 비교집단이나 표준화된 평가 방법이 부족하기 때문이다. 일부 분야에서는 메타분석이 수행되었지만, 전반적으로 대화형 에이전트의 효과를 명확하게 입증할 정도의 고품질 비교연구는 부족하다.

5.2 에이전트 유형에 따라 활용 분야가 다르다

ECA와 챗봇은 정보 제공, 진단 보조, 행동 변화, 심리적 지원과 같이 대화 중심의 과제에 주로 사용된다. 반면 사회적 보조 로봇은 물리적 실재감을 가지고 있기 때문에 문자나 음성만으로 상호작용하기 어려운 노인, 아동, 치매 환자 등을 대상으로 많이 연구된다.

사회적 보조 로봇은 재활, 신체활동, 아동 교육, 노인 돌봄에서 강점을 보인다. 그러나 로봇의 물리적 형태가 항상 더 나은 결과를 만드는 것은 아니다. 비용과 유지관리 부담이 크며, 특정 외형을 불편하거나 유치하게 느끼는 사용자도 존재한다.

따라서 특정 사용자 집단에 하나의 에이전트 유형만 제공하기보다, 사용 목적과 개인의 선호에 따라 챗봇, ECA, 로봇 중 적절한 형태를 선택할 수 있어야 한다.

5.3 기술적 성능만큼 사용자 수용성이 중요하다

특히 노인과 치매 환자를 대상으로 하는 연구에서는 시스템의 효과와 사용자 수용성을 분리하기 어렵다.

에이전트가 이론적으로 효과적이더라도 사용자가 불편하게 느끼거나 보호자와 의료진이 필요성을 인정하지 않으면 실제 생활에 도입되기 어렵다.

수용성에 영향을 주는 요인은 다음과 같다.

• 사용 편의성과 인지적 부담
• 외형과 친숙성
• 사용자의 문화적 배경
• 개인화 수준
• 비용과 유지관리
• 개인정보와 안전에 대한 우려
• 의료진, 교사, 보호자의 태도
• 시스템의 역할에 대한 기대

따라서 사용자 수용성은 단순한 만족도 지표가 아니라, 에이전트의 실제 효과와 사회적 도입 가능성을 결정하는 핵심 조건이다.

5.4 앞으로는 대화의 자연스러움보다 ‘관계 형성 능력’이 중요해진다

저자들은 대화형 에이전트가 단순한 정보 제공 도구에서 동반자, 코치, 교육자, 엔터테인먼트 에이전트로 발전하고 있다고 본다. 이러한 역할을 수행하기 위해서는 문법적으로 자연스러운 답변을 생성하는 것만으로는 부족하다.

에이전트는 사용자의 감정과 상태를 정확하게 파악하고, 그에 맞는 반응을 제공해야 한다. 언어뿐 아니라 표정, 시선, 몸짓, 움직임과 같은 비언어적 표현도 적절하게 활용해야 한다. 또한 공감, 일관된 성격, 신뢰, 개인화된 반응을 통해 장기적인 관계를 형성할 수 있어야 한다.

논문은 특히 다음과 같은 대화 능력을 주요 연구 과제로 제시한다.

• 자연스러운 개방형 대화
• 사용자의 감정 상태 인식
• 적절한 감정 표현
• 언어적·비언어적 공감 표현
• 일관된 성격과 페르소나
• 사용자 맞춤형 반응
• 신뢰 형성
• 관계의 형성과 유지

저자들은 인간–에이전트 관계를 설명하기 위해 사회학습이론, 사회교환이론, 사회적 촉진과 억제, 페르소나 효과 등 기존 심리학 이론을 적극적으로 적용해야 한다고 주장한다.

6. 윤리적 쟁점

해당 논문에서는 대화형 에이전트의 윤리적 쟁점을 아홉 가지 요소로 정리한다. 

 

윤리 요소핵심 내용

프라이버시	사용자의 대화와 개인정보를 어떻게 수집·저장·활용하는가
안전	잘못된 정보, 신체적 위험, 심리적 피해를 어떻게 방지하는가
혁신	안전과 책임을 유지하면서 기술 발전을 어떻게 촉진하는가
사용자 수용성	사용자와 보호자, 전문가가 시스템을 적절하게 받아들이는가
심리적 애착	과도한 의존, 오인, 서비스 중단에 따른 상실을 어떻게 다루는가
돌봄 철학	에이전트가 인간 돌봄을 보완하는가, 비용 절감을 위해 대체하는가
평가	단기 효과뿐 아니라 장기적 효과와 부작용을 평가하는가
사회 시스템과의 적합성	복지·의료·교육 제도와 사회적 불평등을 고려하는가
규칙 개발	책임 소재, 동의 절차, 사용 범위와 행동 한계를 규정하는가

특히 심리적 애착은 양면적인 문제이다. 사용자와의 정서적 유대는 외로움을 줄이고 지속적인 상호작용을 촉진할 수 있다. 반면 사용자가 에이전트를 실제 생명체처럼 오인하거나 지나치게 의존할 가능성도 있다.

따라서 애착을 단순히 높여야 할 사용자 경험 지표로 볼 것이 아니라, 긍정적 동반감과 부정적 의존을 함께 검토해야 한다.

7. 향후 연구 과제

논문은 대화형 에이전트 연구의 향후 과제를 다음과 같이 제시한다.

첫째, 장기간 실제 환경에서 수행되는 고품질 비교연구가 필요하다. 단기간의 실험만으로는 사용자의 신기성 효과와 장기적인 관계 변화를 구분하기 어렵기 때문이다.

둘째, 분야별로 표준화된 평가 기준과 대화형 에이전트 모델을 개발해야 한다. 현재는 연구마다 효과를 측정하는 방식이 달라 결과를 직접 비교하기 어렵다.

셋째, 감정 인식과 표현, 공감, 개방형 대화, 관계 형성과 같은 대화 기능을 발전시켜야 한다.

넷째, UX와 사용자 수용성을 높이고, 심리학 이론에 근거한 개인화 방법을 개발해야 한다.

다섯째, 환자 모니터링, 실시간 상태 평가, VR·AR 등 다른 기술과의 통합을 연구해야 한다.

여섯째, 공학, 의학, 심리학, 사회복지, 법학뿐 아니라 서비스 관리와 커뮤니케이션 분야를 포함한 학제 간 접근이 필요하다.

사회적 도입을 위해서는 윤리 가이드라인, 분야별 표준 모델, 도입 및 유지관리 지침, 전문가 교육 자료, 사용자와 가족을 위한 설명 자료도 함께 마련해야 한다.

8. 논문의 의의

이 논문의 가장 큰 의의는 여러 분야에 흩어진 대화형 에이전트 연구를 하나의 구조로 정리했다는 점이다. 챗봇, 화면 속 가상 에이전트, 물리적 로봇을 분리해서 다루지 않고, 인간과 대화하고 관계를 형성하는 시스템이라는 공통 관점에서 비교한다.

또한 대화형 에이전트의 발전을 기술적 정확성만으로 평가하지 않는다. 분야별 연구량뿐 아니라 효과성, 수용성, 대화 기능, 윤리처럼 여러 영역에 공통으로 나타나는 과제를 도출한다. 특히 대화형 에이전트를 단순한 도구가 아니라 감정과 신뢰, 관계 형성에 관여하는 사회적 존재로 접근한다.

셋째, 연구 결과를 바탕으로 윤리 가이드라인, 분야별 표준 CA 모델, 도입 지침, 전문가 교육 자료, 사용자와 가족을 위한 설명 자료가 필요하다고 제안한다. 이는 연구 결과를 실제 사회적 도입 단계와 연결한다는 점에서 실무적 의미가 있다.

9. 논문이 제시한 한계 

저자들은 세 가지 한계를 직접 제시한다.

첫째, 이 연구는 체계적 리뷰 논문만 포함하고 개별 원연구를 직접 분석하지 않았다. 따라서 체계적 리뷰에서 아직 다루지 않은 일부 연구 주제가 포착되지 않았을 수 있다. 저자들은 유치원에서 SAR을 이용한 스토리텔링 연구를 이러한 사례로 언급한다.

둘째, CA 자체에 초점을 맞추었기 때문에 관련 분야의 머신러닝과 자연어처리 연구를 깊이 다루지 않았다. 그러나 정신질환 진단과 탐지, 심리치료 대화 분석 등의 기반 기술은 CA 연구에 중요하다고 설명한다.

셋째, 분야마다 학회 논문의 질과 중요성이 다르지만 학회 논문을 제외하였다. 이로 인해 학회에서 발표된 가치 있는 연구가 누락되었을 가능성이 있다.

10. 결론

이 논문은 대화형 에이전트가 의료, 정신건강, 교육, 노인 돌봄, 산업 등에서 폭넓게 연구되고 있지만, 아직 그 효과를 확정할 만큼 충분한 고품질 근거가 축적되지는 않았다고 결론 내린다.

앞으로의 핵심 과제는 단순히 인간과 유사한 문장을 생성하는 시스템을 만드는 것이 아니다. 사용자의 감정과 상황을 이해하고, 적절한 공감과 비언어적 표현을 제공하며, 신뢰와 관계를 장기적으로 형성할 수 있는 시스템을 설계해야 한다.

동시에 관계가 깊어질수록 프라이버시, 심리적 애착, 의존, 기만, 책임 소재와 같은 윤리적 문제가 중요해진다. 따라서 대화형 에이전트의 발전은 기술적 성능, 사용자 경험, 심리적 관계, 윤리적 통제가 함께 고려될 때 가능하다.

이 논문이 전달하는 핵심 메시지는 다음과 같이 정리할 수 있다.

대화형 에이전트 연구의 다음 단계는 더 자연스럽게 말하는 AI를 만드는 것이 아니라, 인간이 AI와 어떤 관계를 형성하며 그 관계가 인간의 감정·자기 인식·사회적 삶에 어떤 영향을 미치는지를 이해하는 것이다.