AI에게 감정이 필요할까?
우리가 AI에게 원하는 건 정확한 답변이지, AI의 기분이 아니다.
오히려 감정 없이 일관된 답변을 제공하는 편이 더 좋지 않을까?
하지만 AI가 인간과 소통하는 상황이라면 이야기가 달라진다.
예를 들어 누군가 AI에게 이렇게 말했다고 생각해 보자.
"오늘 회사에서 잘렸어."
이때 실업급여 신청 방법을 알려주는 것보다 위로의 말을 건네는 것이 더 적절할 수도 있다.
실제로 2019년 발표된 논문
Towards Empathetic Open-domain Conversation Models에서는 감정적 상황을 고려하도록 학습한 AI가 일반적인 대화 데이터로 학습한 모델보다 인간 평가자들에게 더 공감적으로 인식된다는 결과를 보였다.
즉, AI가 인간의 감정을 고려하는 능력은 분명 유용하다.
그런데 여기서 한 가지 의문이 생긴다.
인간의 감정을 이해하고 적절하게 반응하기 위해, AI도 실제로 감정을 느껴야 할까?
이 질문에 답하려면 먼저 감정을 '가지는 것'과 '이해하는 것'의 차이를 살펴봐야 한다.
감정을 가지는 것과 이해하는 것
우리는 누군가 슬퍼하고 있다는 사실을 이해하면서도, 정작 자신은 슬프지 않을 수 있다.
그렇다면 감정을 이해하는 것과 실제로 느끼는 것은 무엇이 다를까?
이를 세 가지로 구분해 보자.
- 감정 표현 (Expression) : "나 지금 너무 슬퍼."라고 말하는 것
- 감정 이해 (Understanding) : 상대방이 왜 슬퍼하는지 파악하는 것
- 감정 경험 (Experience) : 실제로 슬픔이라는 감정을 느끼는 것
현재 AI는 감정을 표현할 수 있고, 텍스트나 상황을 분석해 타인의 감정을 어느 정도 추론할 수도 있다.
실제로 2020년 발표된 GoEmotions 연구에서는 약 58,000개의 댓글을 27가지 감정과 중립으로 분류한 데이터셋을 구축했다.
이를 활용하면 AI가 문장에서 다양한 감정을 구분하도록 학습시킬 수 있다.
하지만 감정을 구분할 수 있다는 것이 곧 감정을 느낀다는 의미는 아니다.
2023년 발표된 Consciousness in Artificial Intelligence에서도 AI의 주관적 경험과 의식 여부를 판단하는 문제를 다루었다.
연구진은 당시 검토한 AI 시스템에서 의식의 충분한 근거를 발견하지 못했지만, 미래 AI의 의식 가능성까지 부정하지는 않았다.
물론 의식과 감정은 동일한 개념이 아니지만, 감정을 실제로 '느낀다'는 문제는 주관적 경험과 밀접하게 연결된다.
결국 AI가 감정을 표현하고 이해하는 능력과 실제로 경험하는 능력은 구분해야 한다.
그렇다면 감정을 실제로 느끼는지는 잠시 제쳐두고, 한 가지를 더 알아보자.
AI는 인간의 감정을 어디까지 이해할 수 있을까?
AI는 감정을 어디까지 이해할 수 있을까?
AI가 감정을 구분할 수 있다는 건 알았다. 그렇다면 상대방이 왜 그런 감정을 느끼는지까지 이해할 수 있을까?
예를 들어 누군가 이렇게 말했다고 생각해 보자.
"드디어 회사를 그만뒀어."
누군가에게는 해방감을, 다른 누군가에게는 불안감을 느끼게 하는 상황일 수 있다.
즉, 감정을 이해하려면 단순히 문장을 분석하는 것을 넘어 상황과 맥락을 파악해야 한다.
AI의 감성지능을 측정하다
2024년 발표된 EmoBench는 LLM의 감성지능을 평가하기 위해 만들어진 벤치마크다.
연구진은 감정을 이해하는 능력뿐 아니라, 감정에 대한 이해를 실제 상황에 활용하는 능력까지 평가했다.
그 결과, 당시 평가된 LLM들은 평균적인 인간 참가자보다 낮은 성능을 보였다.
감정을 인식하는 것과 감정을 적절히 활용하는 것은 또 다른 문제였던 것이다.
AI는 감정의 원인까지 추론할 수 있을까?
2025년 발표된 Beyond Context to Cognitive Appraisal에서는 한발 더 나아가 AI가 상황을 바탕으로 감정을 추론할 수 있는지 연구했다.
연구진은 사건의 결과와 당사자의 관점을 고려해 감정을 추론하는 능력을 평가했다.
그 결과, LLM은 어느 정도 감정 추론이 가능했지만 상황에 대한 개인의 평가와 특정 감정을 연결하는 데 어려움을 보였다.
결국 AI는 감정을 단순히 분류하는 수준을 넘어 맥락까지 추론할 수 있지만, 복잡한 감정의 원인을 이해하는 데에는 여전히 한계가 있었다.
물론 이는 해당 연구에서 평가한 모델들의 결과이며, 모든 AI의 능력을 의미하지는 않는다.
그렇다면 마지막으로 처음 질문으로 돌아가 보자.
AI가 감정을 이해하고 적절하게 반응할 수 있다면, 정말 감정을 가질 필요가 있을까?
마무리
처음에는 단순히 AI가 감정을 가질 수 있을지 궁금했다.
하지만 여러 연구를 살펴보니 감정을 표현하는 것, 이해하는 것, 실제로 느끼는 것은 서로 다른 문제라는 사실을 알게 되었다.
AI는 이미 인간의 감정을 인식하고, 상황에 맞는 반응을 생성할 수 있다. 물론 복잡한 감정과 맥락을 이해하는 데에는 여전히 한계가 있다.
그렇다면 앞으로 AI가 인간의 감정을 완벽하게 이해하고, 인간보다 더 적절한 위로를 건넬 수 있게 된다면 어떨까?
그때도 우리는 AI가 감정을 느끼지 못한다는 이유로 공감할 수 없다고 말할 수 있을까?
그리고 문득 이런 생각이 들었다.
우리는 다른 사람이 실제로 감정을 느끼고 있다는 것을 어떻게 확신할까?
결국 AI의 감정에 대해 알아보려다, 오히려 인간의 감정이 무엇인지 궁금해졌다.
어쩌면 AI가 감정을 가질 수 있는지에 답하려면, 먼저 감정을 가진다는 것이 무엇인지부터 이해해야 할지도 모르겠다.
