[논문리뷰] AI Companions Reduce Loneliness

AI Companions Reduce Loneliness(2024)

여섯 개 연구로 검증한 단기 효과, 일주일간의 변화, 그리고 이해받는 느낌

1. 논문 정보

• 저자: Julian De Freitas, Ahmet K. Uğuralp, Zeliha O. Uğuralp, Stefano Puntoni
• 문서 유형: Harvard Business School Working Paper 24-078
• 연구 유형: 관찰 데이터 분석, 무작위 실험, 종단 실험, 매개효과 분석으로 구성된 다중 연구 논문

2. 한 문장 요약

이 논문은 실제 AI 컴패니언 대화와 앱 리뷰, 단기 무작위 실험, 일주일간의 종단 실험을 통해

AI 컴패니언과의 대화가 사용자의 순간적인 외로움을 줄일 수 있으며,

그 효과는 대화 성능 자체보다 사용자가 ‘내 이야기가 이해받고 있다’고 느끼는 경험에 더 크게 좌우된다고 주장한다.

3. 논문 개요

AI 컴패니언은 사용자에게 우정, 연애, 정서적 지원과 같은 사회적 상호작용을 제공하도록 설계된 인공지능 애플리케이션이다. 고객 서비스 챗봇이나 범용 AI 어시스턴트가 과업 수행을 중심으로 한다면, AI 컴패니언은 사용자와의 정서적 관계 자체를 주요 기능으로 삼는다.

기존 AI 컴패니언 연구는 인터뷰나 사용자 설문을 통해 사람들이 Replika와 같은 시스템에서 사회적 지원을 경험한다고 보고해 왔다. 그러나 이러한 결과만으로는 원래 외로운 사람이 AI 컴패니언을 더 많이 사용하는 것인지, AI 컴패니언 사용이 실제로 외로움을 낮춘 것인지 구분하기 어렵다.

이 논문은 이러한 문제를 해결하기 위해 총 여섯 개 연구를 수행한다. 연구 1과 2에서는 실제 대화 및 앱 리뷰를 분석하여 사용자가 외로움 때문에 AI 컴패니언을 이용하는지를 탐색한다. 연구 3부터 6까지는 실험을 통해 AI 컴패니언이 외로움을 실제로 낮추는지, 효과가 일주일간 반복되는지, 어떤 설계 요소가 효과를 만드는지를 검증한다. 모든 실험 연구는 사전등록되었으며, 연구 데이터와 분석 코드는 공개되었다.

4. 주요 개념 정리

AI 컴패니언(AI Companion)

사용자에게 합성된 사회적 상호작용 상대를 제공하는 인공지능 애플리케이션이다. 정보 검색이나 과업 처리를 주요 목적으로 하는 AI 어시스턴트와 달리, 정서적 교류와 사회적 관계를 제공하도록 설계된다.

상태 외로움(State Loneliness)

특정 시점에 사용자가 느끼는 순간적인 외로움이다. 이 논문은 장기간 지속되는 만성적 외로움보다 대화 직전과 직후의 외로움 변화를 주로 측정한다.

이해받는 느낌(Feeling Heard)

자신의 생각, 감정, 선호가 상대에게 주의 깊게 전달되었으며, 상대가 이를 공감과 존중을 바탕으로 이해했다고 느끼는 경험이다. 단순히 시스템이 정확한 답을 제공하는 것과 구분되는 관계적 경험이다.

챗봇 수행성능(Chatbot Performance)

챗봇이 대화를 효과적으로 관리하는 능력이다. 응답 속도, 맥락 추적, 응답의 다양성, 신뢰성, 관련 지식 등이 포함된다.

정서 예측 오류(Affective Forecasting Error)

사람이 미래에 자신이 어떻게 느낄지를 부정확하게 예상하는 현상이다. 이 논문에서는 사람들이 AI 컴패니언과 대화한 뒤 외로움이 얼마나 줄어들지를 실제보다 낮게 예상하는 현상을 다룬다.

매개효과(Mediation Effect)

어떤 조건이 결과에 영향을 미치는 과정에서 중간 심리 요인이 작용하는지를 설명하는 분석이다. 연구 5에서는 AI 컴패니언이 외로움을 줄이는 효과가 이해받는 느낌과 챗봇 성능을 통해 발생하는지를 분석한다.

5. 연구 배경과 문제의식

외로움은 실제 사회적 연결과 자신이 원하는 사회적 연결 사이의 차이에서 발생하는 부정적인 주관적 상태이다. 사람은 외로움을 느끼면 다른 사람과의 관계를 찾지만, 인간관계에 항상 접근할 수 있는 것은 아니다. AI 컴패니언은 시간과 장소의 제약 없이 사회적 상호작용을 제공한다는 점에서 외로움에 대응할 수 있는 기술적 수단이 될 수 있다.

그러나 사회적 연결의 양이 늘어난다고 해서 외로움이 반드시 감소하는 것은 아니다. 기존 연구에서는 질 높은 일대일 관계와 사회적 지원이 외로움 감소에 도움이 되었지만, 일부 소셜미디어나 기술적 중재는 일관된 효과를 보이지 않았다.

저자들은 AI 컴패니언이 일반적인 기술적 중재와 다를 수 있다고 본다. AI 컴패니언은 맥락을 추적하고 적절한 시점에 반응하며, 사용자가 자신의 이야기를 들어주고 있다고 느끼도록 설계되기 때문이다. 따라서 연구의 핵심 문제는 단순히 대화량을 늘리는 것이 아니라, AI와의 대화가 인간에게 질 높은 사회적 상호작용과 유사한 심리 경험을 제공할 수 있는가이다.

6. 연구 목적과 핵심 질문

논문은 번호가 부여된 공식 연구 질문을 제시하지 않는다. 대신 전체 연구를 통해 다음의 핵심 질문을 다룬다.

1. 사람들은 실제로 외로움을 완화하기 위해 AI 컴패니언을 이용하는가?
2. AI 컴패니언과의 대화는 사용자의 외로움을 인과적으로 감소시키는가?
3. AI 컴패니언의 효과는 인간과의 대화, 유튜브 시청, 아무것도 하지 않는 조건과 비교하여 어느 정도인가?
4. 외로움 감소 효과는 반복 사용 중에도 유지되는가?
5. 사용자는 AI 컴패니언의 효과를 정확하게 예측하는가?
6. 외로움 감소는 챗봇의 일반적 수행성능과 사용자가 느끼는 ‘이해받는 경험’ 중 무엇에 더 크게 좌우되는가?

7. 연구 방법

논문은 서로 다른 자료와 실험 방법을 사용하는 여섯 개 연구로 구성된다.

연구분석 대상 및 조건주요 목적

연구 1	Cleverbot 실제 대화 3,201건	외로움이 실제 대화에서 언급되는지 분석
연구 2	Replika, Chai, iGirl, SimSimi, Cleverbot, ChatGPT 앱 리뷰	외로움과 이해받는 느낌이 리뷰에서 어떻게 나타나는지 분석
연구 3	AI 챗봇, 인간으로 소개된 챗봇, 실제 인간, 유튜브, 무활동 조건	AI 대화가 외로움을 인과적으로 낮추는지 비교
연구 4	GPT-4 AI 컴패니언과 7일간 매일 15분 대화	반복 사용 중 외로움 감소가 유지되는지 분석
연구 5	AI 컴패니언, 범용 AI 어시스턴트, 기능 제한 챗봇	이해받는 느낌과 성능의 매개효과 분석
연구 6	AI 컴패니언과 기능 제한 챗봇	사전 외로움 측정 없이 효과 재검증

연구 1과 2에서는 외로움 관련 표현을 분류하기 위해 Mistral-7B를 미세조정한다. 연구 1의 분류 모델은 테스트 데이터에서 F1 점수 0.92를 기록한다.

연구 3은 GPT-3 계열의 Text-Davinci-003을 사용하며, 참가자가 15분간 챗봇 또는 인간과 대화하도록 한다. 챗봇의 응답시간과 입력 표시를 인간과 유사하게 조정하고, 일부 참가자에게는 챗봇을 인간이라고 소개하여 파트너의 실제 정체성과 지각된 정체성을 구분한다.

연구 4부터는 GPT-4 기반 시스템을 사용한다. 이 시스템은 사용자 메시지를 주기적으로 200단어 이내로 요약하여 이전 대화 정보를 유지하고, 사용자가 2분간 응답하지 않으면 먼저 말을 거는 기능을 포함한다. 참가자는 동일한 AI 컴패니언과 일주일 동안 매일 15분씩 대화한다.

8. 주요 연구 결과

8.1 실제 AI 컴패니언 사용에서 외로움은 분명한 대화 동기 중 하나이다

연구 1에서 모델이 외로움 관련 대화로 분류하고 연구자가 다시 확인한 대화는 전체 3,201건 중 약 **4.9%**이다. 이는 모든 외로운 사용자가 자신의 외로움을 직접 언급하지는 않는다는 점을 고려하면 작지만 무시하기 어려운 비율이다.

외로움이 언급된 대화는 그렇지 않은 대화보다 훨씬 활발하였다.

• 평균 대화시간: 33.9분 대 17.9분
• 평균 대화 턴: 99.2회 대 48.2회
• 평균 단어 수: 407.0개 대 181.9개

따라서 외로움을 표현한 사용자는 AI 컴패니언과 더 길고 적극적으로 상호작용하는 경향을 보였다.

연구 2에서도 AI 컴패니언 앱 리뷰에 외로움이 반복적으로 등장하였다. 외로움 언급 비율은 앱마다 크게 달랐으며, 관계 중심으로 설계된 Replika에서는 19.5%였지만 범용 AI인 ChatGPT에서는 0.4%에 그쳤다. 외로움을 언급한 리뷰는 그렇지 않은 리뷰보다 평균 평점과 긍정적 정서 비율이 높았다.

그러나 저자들은 이 결과만으로 AI 컴패니언이 외로움을 줄였다고 결론 내릴 수 없다고 명시한다. 원래 외로운 사용자가 앱을 더 긍정적으로 평가했을 가능성 등 여러 설명이 존재하기 때문이다.

8.2 AI 컴패니언과의 15분 대화는 인간 대화와 비슷한 수준으로 순간적 외로움을 낮춘다

연구 3에서는 참가자가 15분 동안 AI 챗봇, 인간이라고 소개된 챗봇, 실제 인간과 대화하거나, 유튜브를 이용하거나, 아무것도 하지 않도록 한다.

대화 전후의 상태 외로움은 다음과 같이 변화한다.

• 실제 인간 대화: 38.40 → 31.29, d = 0.24
• AI 챗봇 대화: 33.51 → 26.75, d = 0.25
• 인간이라고 소개된 챗봇: 42.70 → 32.83, d = 0.30
• 유튜브 시청: 유의한 변화 없음
• 아무것도 하지 않음: 외로움 증가

AI 챗봇과 실제 인간의 효과크기는 유사하였다. 따라서 이 연구에서 AI 컴패니언은 순간적인 외로움 감소 측면에서 인간과의 짧은 대화에 뒤지지 않았다.

참가자들은 AI 챗봇 대화 후 자신이 얼마나 덜 외로워질지를 실제보다 낮게 예상하였다. 인간 대화에서는 이러한 예측 오류가 나타나지 않았다. 저자들은 AI가 정서적 이해나 지원을 제공할 수 없다는 선입견이 이러한 과소평가에 영향을 줄 가능성을 제시한다.

8.3 외로움 감소는 일주일간 매일 반복되지만, 첫날 이후 효과가 계속 커지지는 않는다

연구 4에서는 GPT-4 기반 AI 컴패니언을 사용하여 7일간 매일 대화하게 한다. 최종 분석에는 예측 조건 246명, AI 대화 조건 314명, 통제 조건 362명이 포함된다.

AI 대화 조건의 모든 날짜를 합하면 대화 직전 외로움은 평균 36.64, 대화 직후는 30.74이다.

• 대화 전후 차이: d = 0.20
• 일곱 날짜 모두 대화 후 외로움이 유의하게 감소함
• AI 대화 후 외로움은 통제조건보다 7일 중 4일에 유의하게 낮음
• 2일과 5일에는 통계적으로 경계 수준의 차이가 나타남
• 3일에는 방향은 같지만 유의하지 않음

가장 큰 감소는 첫날 나타나며, 이후 6일간은 비슷한 규모의 감소가 유지된다. 즉, 대화를 반복할수록 효과가 계속 커진다기보다는 초기 효과가 발생한 뒤 일정 수준으로 안정화되는 패턴이다.

다만 일주일 동안 AI 조건과 통제조건 모두에서 기본 외로움이 점차 낮아졌다. 저자들은 매일 상태를 묻는 반복적인 체크인 자체가 참가자에게 관심이나 지원처럼 느껴졌을 가능성을 제시한다. 따라서 이 결과는 AI 컴패니언이 만성적 외로움을 지속적으로 치료했다는 의미가 아니라, 매일의 대화 세션이 즉각적인 외로움 감소를 반복적으로 만들었다는 결과로 해석하는 것이 정확하다.

대화 중 더 많은 메시지를 보낸 참가자는 외로움 감소 폭도 더 컸다. 반면 한 메시지에 사용한 단어 수는 외로움 감소와 유의한 관계를 보이지 않았다.

8.4 외로움 감소에는 대화 성능보다 ‘이해받는 느낌’이 더 중요하다

연구 5에서는 세 가지 GPT-4 기반 챗봇을 비교한다.

• 친절하고 정서적으로 반응하는 AI 컴패니언
• 감정적 반응 없이 과업을 지원하는 범용 AI 어시스턴트
• 계산·단위 변환·문법 교정만 수행하는 기능 제한 챗봇

대화 전후 외로움 변화는 다음과 같다.

조건대화 전대화 후감소량

AI 컴패니언	36.26	27.53	8.73
AI 어시스턴트	35.80	33.70	2.10
기능 제한 챗봇	36.58	37.09	-0.51

AI 컴패니언의 외로움 감소는 범용 AI 어시스턴트와 기능 제한 챗봇보다 유의하게 컸다. 범용 AI 어시스턴트도 제한적이지만 유의한 외로움 감소를 만들었다.

AI 컴패니언은 다른 조건보다 사용자가 느끼는 ‘이해받는 느낌’과 지각된 수행성능 모두에서 높은 평가를 받았다. 매개효과 분석에서도 두 요소가 모두 외로움 감소를 설명하였다.

그러나 이해받는 느낌의 간접효과는 수행성능보다 훨씬 컸다.

• AI 컴패니언과 통제조건 비교: 이해받는 느낌의 계수가 수행성능보다 6배 이상 큼
• AI 컴패니언과 AI 어시스턴트 비교: 이해받는 느낌의 계수가 수행성능보다 2배 이상 큼

이는 외로움 감소가 단순히 더 정확하고 자연스러운 답변을 제공해서 발생하는 것이 아니라, 사용자가 자신의 이야기가 관심과 공감을 바탕으로 수용되었다고 느끼기 때문에 발생한다는 저자들의 핵심 해석을 뒷받침한다.

8.5 사전에 외로움을 묻지 않아도 효과가 나타난다

연구 3부터 5까지는 대화 전에 외로움을 측정한다. 이 과정에서 참가자가 외로움에 더 주의를 기울이게 되어 결과에 영향을 미쳤을 가능성이 있다.

연구 6은 이를 확인하기 위해 대화 전에 외로움을 측정하지 않고, 대화가 끝난 뒤에만 외로움을 평가한다. 그 결과 AI 컴패니언 조건의 외로움은 25.62, 기능 제한 챗봇 조건은 36.91로 나타난다.

• 조건 간 차이: d = 0.40, p < .001

따라서 주요 결과는 사전 외로움 측정으로 인해 발생한 단순한 측정 효과만으로 설명되지는 않는다.

9. 논문의 핵심 주장

핵심 주장 1. AI 컴패니언은 순간적인 외로움을 실제로 감소시킬 수 있다

AI 컴패니언 사용자는 단순히 앱이 도움이 된다고 보고하는 데 그치지 않는다. 무작위 실험에서도 대화 전보다 대화 후에 상태 외로움이 낮아지며, 그 효과는 짧은 인간 대화와 유사한 수준으로 나타난다.

핵심 주장 2. 사회적 효과를 만드는 핵심은 인간처럼 보이는 것이 아니라 이해받는 경험이다

AI 컴패니언의 일반적인 대화 성능도 중요하지만, 외로움 감소에는 자신이 존중받고 공감받으며 이해되었다고 느끼는 경험이 더 큰 역할을 한다.

핵심 주장 3. 사용자는 AI 컴패니언의 정서적 효과를 과소평가한다

참가자들은 AI 대화가 자신의 외로움에 미칠 긍정적 효과를 실제보다 낮게 예상한다. 이러한 예측 오류는 사용자가 AI 컴패니언을 시도하지 않아 잠재적인 효과를 경험하지 못하게 하는 장벽이 될 수 있다.

핵심 주장 4. 확인된 것은 단기적·반복적인 상태 외로움 감소이다

일주일간 매일 대화한 뒤에도 각 세션의 외로움 감소는 유지된다. 그러나 이 연구만으로 수개월 이상 사용했을 때의 효과나 만성적 외로움의 개선을 결론 내릴 수는 없다. 저자들도 더 장기적인 영향은 아직 열린 질문이라고 밝힌다.

10. 사회적 함의

저자들은 AI 컴패니언이 시간, 비용, 이동성의 제약을 상대적으로 적게 받는다는 점에서 외로움에 대응할 수 있는 확장 가능한 도구가 될 가능성을 제시한다. 이러한 결과는 AI 컴패니언뿐 아니라 대화형 기능을 도입하는 정신건강 애플리케이션과 범용 LLM 어시스턴트에도 적용될 수 있다.

다만 논문은 AI가 실제 감정이나 돌봄의 의도를 갖는 것은 아니라고 명시한다. AI는 감정을 느끼지 않지만, 사용자에게 공감받고 이해받는다는 지각을 생성할 수 있다. 이 논문이 입증하는 것은 AI가 실제로 사용자를 이해하거나 돌본다는 사실이 아니라, 그러한 경험을 지각하게 만드는 대화가 순간적인 외로움에 영향을 줄 수 있다는 점이다.

11. 논문의 의의

첫째, 실제 AI 컴패니언 대화와 앱 리뷰를 분석하고 실험 결과와 연결한다. 자연 발생 데이터와 통제된 실험을 함께 사용함으로써 사용자의 실제 요구와 인과적 효과를 단계적으로 검증한다.

둘째, 기존 연구가 주로 인터뷰와 상관관계에 의존했던 것과 달리, AI 컴패니언의 외로움 감소 효과를 여러 무작위 실험으로 검증한다.

셋째, 단일 세션에 그치지 않고 GPT-4 기반 AI 컴패니언과 일주일간 반복적으로 상호작용하는 종단 연구를 수행한다. 이 시스템에는 과거 대화 요약을 활용하는 기억 기능과 능동적 체크인 기능도 포함된다.

넷째, 외로움 감소 여부만 확인하지 않고 왜 효과가 발생하는지를 매개효과 분석으로 검증한다. 특히 이해받는 느낌과 대화 성능을 구분했다는 점이 중요하다.

다섯째, LLM을 미세조정하여 자연어 대화와 앱 리뷰에서 외로움 표현을 탐지하는 분석 방법을 제시한다. 저자들은 이 방법을 다른 드문 심리 상태나 복잡한 언어 표현을 분류하는 연구에도 적용할 수 있다고 설명한다.

12. 논문이 제시한 한계

첫째, 연구에서 사용한 AI 컴패니언은 친절하고 배려하는 방식으로 의도적으로 설계되었다. 다른 목적에 최적화된 앱이나 정서적 반응이 부족한 앱에서는 동일한 외로움 감소 효과가 나타나지 않을 수 있다.

둘째, 일주일보다 훨씬 긴 기간 동안 AI 컴패니언을 사용할 경우 외로움이 어떻게 변화하는지는 확인되지 않았다.

셋째, 사용자가 AI 컴패니언의 효과를 과소평가하는 이유는 충분히 밝혀지지 않았다. AI에 대한 익숙함 부족이나 AI는 진정한 정서적 이해를 제공할 수 없다는 고정관념 등이 가능한 설명으로 제시된다.

넷째, AI 컴패니언이 인간과의 대화 의향, 낯선 사람과의 사회적 상호작용 능력, 사회불안, 정신건강 등 다른 사회정서적 결과에 미치는 영향은 아직 검증되지 않았다.

다섯째, 연구는 미국이라는 특정 문화적 맥락에서 수행되었다. 따라서 AI 컴패니언에 대한 태도와 효과가 다른 문화에서도 동일하게 나타나는지는 확인이 필요하다.

여섯째, 연구 2의 앱 리뷰 결과는 상관관계 자료이므로 인과관계를 보여주지 않는다. 외로움을 언급한 리뷰의 평점이 높은 이유가 실제 외로움 감소 때문이라고 단정할 수 없다.

13. 향후 연구 방향

저자들은 사용자가 AI에게 이해받고 있다고 느끼게 만드는 구체적인 설계 요소를 추가로 규명해야 한다고 제안한다. 공감 표현, 질문 방식, 대화의 개인화, 맥락 기억 등 여러 요인이 독립적으로 또는 결합하여 작용할 수 있다.

수개월 또는 수년에 걸친 장기 사용에서 외로움 감소가 유지되는지도 확인해야 한다. 초기에는 긍정적인 효과가 나타나더라도 장기간 사용에서 효과가 감소하거나 다른 사회정서적 변화가 발생할 수 있기 때문이다.

AI 컴패니언이 인간과의 대화를 촉진하는지, 사회적 상호작용 연습에 도움이 되는지, 사회불안과 정신건강에 어떤 영향을 미치는지도 후속 연구 대상으로 제안한다.

마지막으로 미국 이외의 문화권에서도 연구를 반복해야 한다. 저자들은 외로움 수준이 높고 소셜 로봇에 대한 사회적 수용성이 다른 일본과 같은 문화권을 예시로 제시한다.

 

14. 결론

이 논문은 실제 서비스 데이터와 여러 무작위 실험을 통해 AI 컴패니언이 사용자의 순간적인 외로움을 감소시킬 수 있음을 보여준다. 15분간의 AI 대화는 인간과의 짧은 대화와 유사한 수준의 외로움 감소를 만들었으며, 효과는 일주일간 매일 반복적으로 나타났다.

그러나 모든 챗봇이 동일한 효과를 제공한 것은 아니다. 감정적 반응이 없는 범용 AI 어시스턴트의 효과는 작았으며, 기능이 제한된 챗봇에서는 외로움 감소가 나타나지 않았다. AI 컴패니언의 효과를 설명하는 가장 중요한 요인은 높은 기술적 성능보다 사용자가 자신의 이야기를 주의 깊게 듣고 이해받았다고 느끼는 경험이었다.

이 결과는 AI 컴패니언이 인간관계를 대체하거나 만성적 외로움을 치료한다는 의미가 아니다. 현재 확인된 근거는 주로 단일 대화 직후와 일주일간 반복된 상태 외로움 감소에 관한 것이다. 더 장기적인 효과와 인간관계에 미치는 영향은 후속 연구가 필요하다.

AI 컴패니언은 단순히 말을 잘하기 때문이 아니라,
사용자가 자신의 이야기를 이해받고 있다고 느끼게 할 때 순간적인 외로움을 줄일 수 있다.