[Paper Review] AEQ-Bench
AEQ-Bench (2026 ACL findings)
대화를 한다는 것
우리가 대화를 할 때 비언어적인 요소들도 문맥을 파악하는데 많은 영향을 끼친다. 같은 내용의 문장을 말하더라도 다른 톤으로 말하면 다른 감정과 의도를 전달한다. 그러면 사람처럼 AI 모델들은 이러한 부분들을 잘 캐치하고 있을까? 최근에는 대화 모델에서 이러한 부분을 평가하는 방법을 고민하고 있다.
사용자의 감정이 담긴 음성을 듣고 생성한 응답이 내용과 음성 전달 방식 모두에서 적절한지를 어떻게 평가할 수 있을까?
최근에 읽은 AEQ-Bench: Measuring Empathy of Omni-Modal Large Models 역시 비슷한 고민을 한다. 이 논문은 멀티모달 모델이 사용자의 음성과 대화 문맥을 함께 이해해 공감적인 응답을 생성할 수 있는지, 그리고 다른 모델이 생성한 음성 응답의 공감 품질을 평가할 수 있는지를 다룬다. 특히 응답에서 무엇을 말했는가뿐 아니라 어떻게 말했는가도 평가 대상으로 본다는 점에서 관심이 갔다.
텍스트가 아니라 음성의 감정을 이해했는가?
감정 대화 모델을 평가할 때 가장 먼저 생기는 문제는 모델이 정말 음성의 감정을 이해했는지 확인하기 어렵다는 점이다.
일반적인 감정 음성 데이터에서는 문장의 내용과 감정이 함께 변하는 경우가 많다.
예를 들어 화난 음성에는 부정적인 단어나 공격적인 표현이 포함되고, 즐거운 음성에는 긍정적인 내용이 포함될 가능성이 크다. 이런 데이터로 모델을 평가하면 모델이 음성의 억양을 들은 것인지, 단순히 텍스트에서 감정을 추론한 것인지 구분하기 어렵다.
그래서 AEQ-Bench에서는 문장과 대화 문맥은 동일하게 유지하면서, 같은 문장을 angry, disgusted, amused, neutral의 네 가지 톤으로 다르게 발화하는 데이터셋을 구성한다. EMOV-DB subset은 총 109개의 문장과 네 가지 감정 음성으로 구성된 436개의 평가 인스턴스를 포함한다.
예를 들어 다음과 같은 문장이 있다고 하자.
“For the twentieth time that evening the two men shook hands.”
문장의 내용은 같지만, 화난 목소리로 말하면 반복되는 상황에 대한 짜증으로 해석할 수 있다. 반대로 즐거운 목소리로 말하면 반복되는 악수 상황을 재밌는 일로 받아들이고 있을 수 있다.
실제로 AEQ-Bench 데이터에는 같은 문장과 문맥에 대해 감정별 설명과 서로 다른 적절한 응답이 제공된다. 이처럼 모델에 들어가는 텍스트는 같고 음성의 감정만 달라지기 때문에, 모델의 응답이 변했다면 그 변화가 음성 정보에서 비롯되었을 가능성이 크다. 반대로 네 개의 감정 음성을 입력했는데도 모델이 거의 동일한 답변을 생성한다면, 모델이 음성의 감정을 제대로 활용하지 않았다고 볼 수 있다.
좋은 감정 응답은 무엇일까?
모델이 입력 감정에 따라 서로 다른 응답을 생성했다고 해서, 그 응답이 반드시 상황에 적절한 것은 아니다.
예를 들어 화난 사용자에게 모델은 여러 방식으로 반응할 수 있다.
- 사용자의 분노를 인정하고 감정을 받아주는 응답
- 사용자를 진정시키는 차분한 응답
- 사용자의 입장에 서서 단호하게 공감하는 응답
- 문제를 해결할 수 있는 구체적인 방법을 제안하는 응답
- 사용자가 화를 내는 대상에 함께 분노하는 응답
- 사용자에게 불쾌함이나 분노를 직접 표현하는 응답
이 중 어떤 반응이 적절한지는 사용자가 왜 화가 났는지, 그 분노가 누구를 향하고 있는지, 그리고 모델과 사용자가 어떤 관계와 역할을 갖는지에 따라 달라진다.
예를 들어 사용자가 부당한 일을 겪고 화를 내는 상황에서는 모델이 사용자의 감정에 동조하는 것이 적절할 수 있다. 반대로 사용자가 모델을 공격하거나 모욕하는 상황이라면, 모델이 사용자에게 불쾌함을 표현하거나 단호하게 대응하는 것도 하나의 가능한 반응이다.
따라서 감정 대화 모델을 평가할 때는 입력과 출력의 감정 라벨만 비교할 것이 아니라, 응답의 내용과 문맥, 감정의 대상, 의도와 표현 강도까지 함께 고려해야 한다.
무엇을 말했는가와 어떻게 말했는가
또한 평가를 수행함에 있어서는 응답 내용과 음성 전달을 분리해서 평가할 필요가 있다. 다음 문장을 생각해보자.
“그런 일을 겪었다니 정말 속상했겠어요.”
텍스트만 보면 충분히 공감적인 응답처럼 보인다. 하지만 모델이 이 문장을 지나치게 밝은 목소리나 무관심한 목소리로 말한다면, 실제 대화에서는 공감적으로 들리지 않을 수 있다. 반대로 슬프고 부드러운 목소리로 말했더라도, 사용자의 상황을 잘못 이해한 답변이라면 좋은 응답이라고 보기 어렵다.
AEQ-Bench의 Delivery는 생성된 응답 음성을 직접 듣고 목소리의 톤, 속도, 피치, 운율, 쉼과 타이밍이 공감이나 의도한 감정을 적절하게 전달하는지를 평가한다. 반면, 기존의 평가 방식은 종종 생성된 음성을 텍스트로 변환한 뒤, 텍스트의 공감성만 평가한다. 하지만 이 방식에서는 실제 음성에 담긴 감정이나 전달 방식을 잃게 된다.
Audio LLM을 평가자로 사용할 수 있을까?
응답 음성을 평가하려면 결국 누군가가 음성을 직접 들어야 한다.
가장 확실한 방법은 인간 평가지만, 모델이나 실험 조건이 많아지면 모든 샘플을 사람이 평가하기 어렵다. 그래서 audio-capable LLM을 자동 평가자로 사용하는 방법이 매력적으로 보인다.
AEQ-Bench에서는 GPT-4o-audio-preview, Qwen2.5-Omni, Qwen2-Audio 등의 모델이 생성된 응답 음성을 직접 듣고 평가한다.
Good, Fair, Poor처럼 큰 차이를 구분하는 coarse-grained 평가에서는 일부 모델이 인간 평가와 비교적 높은 일치도를 보였다. 논문에서는 GPT-4o-audio-preview가 Delivery 항목에서 인간 평가와 가장 높은 평균 일치도를 보였다.
하지만 평가 척도를 5점으로 세분화해 미세한 운율과 감정 표현의 차이를 평가했을 때는 인간 평가와의 일치도가 약 43%에 불과했다. 또한 인간 평가자는 Qwen-Omni 계열의 Delivery를 선호한 반면, OLM judge는 GPT 응답에 더 높은 점수를 주는 경향을 보였다.
이 결과는 audio LLM judge를 사용할 때 그 점수를 절대적인 정답처럼 받아들여서는 안 된다는 것을 보여준다. 현재의 audio LLM judge가 미세한 차이를 안정적으로 구분한다고 보기 어렵기 때문이다.
평가 파이프라인
결론적으로 AEQ-Bench를 참고하면 다음과 같은 평가 파이프라인을 구성할 수 있다.
1단계: 입력 감정 통제
동일한 문장과 동일한 대화 문맥을 유지한 채 감정 톤만 다른 음성을 입력한다. 이를 통해 텍스트 정보가 아닌 음성 감정에 따라 모델의 응답이 달라지는지를 확인한다.
2단계: 응답 유효성 검사
모델의 응답이 비어 있거나, 입력을 그대로 반복하거나, 대화와 무관한 경우를 먼저 분리한다. 이런 응답을 감정적으로 평가하는 것은 의미가 없기 때문이다.
3단계: 응답 내용 평가
사용자의 감정과 대화 문맥을 고려했을 때 응답 내용이 적절한지를 평가한다. 이때 단순히 “공감적인가”만 보는 것이 아니라 다음 항목을 함께 고려할 수 있다.
- 사용자의 감정을 이해했는가?
- 상황을 잘못 해석하지 않았는가?
- 응답이 지나치게 일반적이거나 템플릿 형태는 아닌가?
- 사용자의 감정에 맞는 대화 전략을 사용했는가?
4단계: 음성 전달 평가
생성된 응답 음성을 audio-capable judge에 직접 입력한다. 평가 기준은 단순한 음성 품질이 아니라 다음에 초점을 맞춘다.
- 응답의 톤이 대화 상황과 어울리는가?
- 응답 내용과 목소리 사이에 모순이 없는가?
- 감정 표현이 지나치게 약하거나 과장되지 않았는가?
- 속도, 쉼, 운율이 자연스러운가?
5단계: 인간 평가로 judge 검증
전체 데이터에 인간 평가를 수행하기 어렵다면, 일부 샘플만이라도 사람이 직접 평가해야 한다. 이를 통해 audio LLM judge가 인간의 판단과 어느 정도 일치하는지, 특정 감정이나 모델에 편향되어 있지는 않은지 확인할 수 있다.
