프렌즈 앱은 하루에 한 번, 사용자가 감정을 기록할 수 있도록 되어 있다. 그런데 테스트하면서 문득 이런 생각이 들었다.
감정을 기록하려는 날은 어떤 날일까? 유독 감정이 강하게 느껴지는 날, 특히 부정적인 감정이 들었던 날이 아닐까?
감정 기록은 사용자의 선택에 따라 남겨진다. 그렇기에 자연스럽게 감정 데이터에 편향이 생길 가능성이 있다.
감정 데이터는 스스로 왜곡될 수 있다
테스트하는 동안 감정을 기록한 날들을 다시 살펴보니 대부분 우울하거나 짜증이 났던 날들이었다. 기분이 좋았던 날은 굳이 앱을 열지 않았던 것이다.
- 기분이 괜찮은 날은 기록하지 않고 넘어가게 되고
- 힘든 날엔 정리하고 싶은 마음에 기록하게 되는 경향
결과적으로 기록된 데이터는 실제 감정보다 더 우울하게 왜곡될 수 있다.
이런 상태에서 AI가 분석하게 되면
- 사용자가 대체로 우울한 사람으로 해석될 수 있고
- 긍정적인 흐름이 드러나지 않아 잘못된 피드백이 전달될 수 있다.
현재 구조의 한계
현재 프렌즈의 감정 분석 시스템은 감정 기록 데이터를 기반으로
- 가장 자주 느낀 감정
- 행복 백분율
- 감정 스트릭 등
을 계산하고 OpenAI API에 전달해 자연어 분석 결과를 생성한다.
하지만 데이터 자체가 이미 사용자의 선택적 기록에 의해 생긴 편향된 샘플이라면 생성된 분석 결과도 사용자 스스로를 부정적으로 인식하게 만들 위험이 있다.
아직은 설계되지 않았지만 고민 중인 방향
지금 프렌즈 앱에는 감정 편향을 정량적으로 보정하는 로직은 없다. 하지만 테스트를 거치며 이 문제를 계속 인식하게 되었고 아래와 같은 방향으로 개선 가능성을 열어두고 있다.
고민하고 있는 개선 아이디어
- 스트릭 기반 긍정 보정: 기록이 꾸준한 사용자의 경우, 감정 유형에 관계없이 자기관리 성향이 있다는 점을 분석에 반영
- 분포 보정 프롬프트: 기록이 부정 감정에 치우친 경우, AI에게 이 편향 가능성을 안내하는 문장을 함께 보냄
- 감정 기록 유도 UX: 평범하거나 행복한 날에도 자연스럽게 기록하도록 유도해 전체 데이터의 균형을 맞추기
사용자 감정 데이터는 선택적으로 쌓이기 때문에 분석 시스템은 그 데이터를 얼마나 객관적으로 받아들일 것인지, 그리고 불확실성까지 감안해 어떤 피드백을 줄 것인지에 대해 고민해야 한다.
프렌즈 앱에서는 아직 감정 편향을 다루는 별도 설계는 없지만 직접 사용해보며 이 문제를 계속 체감하고 있다.
앞으로는 감정 기록을 더 다양하게 유도하고 AI 분석 결과가 사용자에게 정확하고 따뜻한 피드백으로 느껴질 수 있도록 실험해나갈 예정이다.
