• 분류: XAI, Recommendation System
• 저자: Yongfeng Zhang, Xu Chen
• 소속: Rutgers University (Zhang), University of Science and Technology of China (Chen)
• paper: https://arxiv.org/pdf/1804.11192
  키워드: Explainable Recommendation, XAI, Interpretability

1. Introduction

1.1. Explainable Recommendation

💡

설명 가능한 추천(Explainbale Recommendation)

‘왜’라는 문제를 다루는 개인화 추천 알고리즘

단순한 추천 결과뿐만 아니라 왜 이렇나 항목이 추천되었는지에 대한 설명도 함께 제공

(장) 1) 추천 시스템의 투명성, 설득력, 효율성, 신뢰성, 사용자 만족도 향상,

   2) 시스템 설계자가 알고리즘을 진단, 디버깅, 개선하는 데에도 도움이 됨

추천 시스템 연구의 5W

• When: 시간 기반 추천(Time-aware)
• Where: 위치 기반 추천(Location-aware)
• Who: 사회적 추천(Social)
• What: 애플리케이션 기반 추천
• Why: 설명 가능한 추천

이 두 접근은 인간의 인지 심리학에서의 결정 방식과 관련됨

설명 가능한 추천은 단순히 모델을 개발하는 것을 넘어, 사용자와 시스템 설계자에게 어떻게 추천/설명을 전달할지에 관한 HCI(User Interaction) 연구와도 관련이 있다.

1.2. A Historical Overview

설명 가능한 추천이라는 용어는 비교적 최근에 등장, 그러나 그 개념은 초기 추천 시스템 연구부터 다뤄짐

• Schafer et al. (1999): ‘이 제품은 당신이 이전에 좋아했던 제품들과 비슷합니다.’ → 아이템 기반 CF의 근간이 됨
• Herlocker et al. (2000): Movielens에서 CF 결과를 설명하는 방식 실험
• Sinha and Swearingen(2002): 투명성의 중요성 강조

추천 대상에 따라 달라지는 해석 가능성

• 콘텐츠 기반 추천: 직관적(장르, 감독, 가격 등)
• 협업 필터링(CF)의 등장: 설명 곤란, 유사 사용자/아이템 기반 설명에서는 부분적인 해석 가능성 유지
• 잠재 요인 모델(LFM) 등장: 설명 어려움, 행렬 분해 기반 모델 - 성능 우수, 잠재 요인의 의미 파악 곤란으로 설명력 낮음

설명 가능한 추천을 위한 연구

• Zhang et al. (2014a): 명시적 요인 모델(Explicit Factor Model, EFM) 제안
• 이후 딥러닝 기반 추천이 등장했으나 블랙박스 성격으로 설명의 어려움이 다시 대부

1.3. Classification of the Methods

1.4. Explainability and Effectiveness

설명력(Explainability)과 정확도(Effectiveness)는 trade-off 관계

→ 단순한 모델은 설명이 쉽지만 성능이 낮을 수 있고, 복잡한 모델은 성능은 좋지만 설명이 곤란

그러나, 최근 연구들은 이 둘이 반드시 상충하지 않으며 동시에 추구 가능하다는 가능성을 보여줌

• 딥러닝 모델도 attention 메커니즘 등을 통해 설명력 확보 가능
• 설명 가능한 딥러닝 모델 개발은 전체 AI 분야에서 중요한 흐름

1.5. Explainability and Interpretability

• 해석 가능성(Interpretability): 모델 구조 자체가 사람이 이해할 수 있는 정도(예: 선형 회귀, 결정 트리)
• 설명 가능성(Explainability): 사용자의 이해를 돕는 설명을 생성할 수 있는 능력

해석 가능한 모델은 자연스럽게 설명을 제공할 수 있으나, 포스트-혹 방식은 블랙박스 모델에서도 별도 설명 모델로 설명 가능하게 만듦

2. Information Source for Explanations

💡

설명(Explanation)

특정 항목이 추천된 이유를 사용자에게 알려주는 정보의 단편

• 예시
  - 개인화된 텍스트 문장을 생성해 추천 설명 제공
  - 토픽 키워드 워드클라우드로 항목 주요 특징 강조
  - 이미지에서 특정 영역을 강조하는 시각적 설명 제안
  - 친구 리스트를 보여주는 사회적 설명 제시
  - 히스토그램이나 파이차트를 이용한 통계적 설명 제공
  - 시계열 이벤트에 대한 시각적 분석 제공

2.1. Relevant User or Item Explanation: 관련 사용자 혹은 항목 기반 설명

초기 추천 시스템 연구는 CF 기반의 사용자 기반(user-based) 및 아이템 기반(item-based) 추천이 중심

• 사용자 기반: ‘당신과 유사한 사용자가 이 아이템을 높게 평가했습니다.’
• 아이템 기반: ‘당신이 좋아했던 항목들과 이 아이템이 유사합니다.’

💡

사용자에게 익숙한 아이템 기반 설명이 더 직관적, 신뢰도가 높은 경향

사용자 기반 설명: 개인 정보 보호 문제/신뢰도 이슈 → 사회적 설명(Social Explanations) 발전

관련 연구

• Herlocker et al. (2000): MovieLens에서 이웃 사용자들의 평점 히스토그램을 시각화해 설명 제공
• Abdollahi and Nasraoui (2017): 유사 사용자가 추천 항목을 구매했다는 설명
• Tintarev (2007)의 사용자 연구를 통한 설명이 주는 7가지 효과
  • 투명성(Transparency)
  • 검증 가능성(Scrutability)
  • 신뢰성(Trustworthiness)
  • 효과성(Effectiveness)
  • 설득력(Persuasiveness)
  • 효율성(Efficiency)
  • 만족도(Satisfaction)

2.2. Feature-based Explanation: 특징 기반 설명

콘텐츠 기반 추천과 밀접하게 관련된 설명 방식

• 영화 추천: 장르, 감독, 배우 등
• 책 추천: 작가, 가격, 유형 등

관련 연구

• Vig et al. (2009): 태그 기반 추천 및 설명 시스템(Tagsplanation)를 통해 사용자에게 관련 태그를 기반으로 항목을 추천, 설명 제공
• Hout et al. (2018): 호텔, 게임 등에서 사용자 선호와 항목 품질을 레이더 차트로 시각화 하여 설명 제공

(+) 연구통계 기반 추천(demographic recommendation)도 이 범주에 포함됨.

예: ‘당신과 같은 연령대의 80%가 이 제품을 구매했습니다.’

2.3. Opinion-based Explanation: 의견 기반 설명

웹에 축적되는 사용자 생성 콘텐츠(UGC), 특히 리뷰 데이터는 세밀한 사용자 의견을 반경하는 데 유용

• 측면 수준(aspect-level): 배터리 수명 - 긍정적, 화면 해상도 - 부정적
• 문장 수준(sentence-level): 문장 전체로 설명 제공

관련 연구

• Zhang et al. (2014a): Sentires 툴킷을 통해 리뷰에서 ‘속성-의견-감정’ 삼중항 추출
• Wu and Ester (2015): 호텔 리뷰로부터 위치, 서비스, 방 관련 워드클라우드 생성
• Ren et al. (2017): 사용자 관점(viewpoint) 기반 사회적 설명 모델 제안
• Wang et al. (2018b): 텐서 부냏를 통한 사용자 선호와 설명 생성 통합

2.4. Sentence Explanation: 문장 기반 설명

문장을 이용해 직접적인 설명 제공

1. 템플릿 기반
   • 예: ‘이 상품은 당신이 관심 있는 [속성]에서 좋은 평가를 받았습니다.’
   • Zhang et al. (2014a), Wang et al.(2018b), Tao et al. (2019a), Gao et al.(2019)
2. 생성 기반 (NLG 기반)
   • LSTM, GRU, Seq2Seq 등을 활용해 자연어 문장을 생성
   • Costa et al. (2018), Li et al.(2017), Ni et al.(2019), Lu et al. (2018b), Chen et al. (2019a)

2.5. Visual Explanation: 시각 기반 설명

이미지 기반 제품(패션, 전가기기 등)에 시각 설명 적용

관련 연구

• Lin et al. (2019): 의상 추천 시 이미지 attention를 통해 어떤 부분이 중요했는지 시각적으로 제시
• Chen et al. (2019b): 리뷰와 이미지를 함께 분석하여 이미지의 중요 영역을 하이라이트로 제시

2.6. Social Explanation: 사회적 설명

익명의 유사 사용자보다 실제 친구의 활동을 설명으로 제시할 경우 신뢰도가 높아짐

관련 연구

• Papadimitriou et al. (2012): Facebook 친구 추천에 공통 친구 정보를 사용
• Sharma and Cosley (2013): 음악 추천 시 친구들이 좋아한 곡 정보를 사용
• Park et al. (2018): 소셜 네트워크와 평점을 통합한 그래프 기반 추천

3. Explainable Recommendation Models

3.1. Neighborhood-based Collaborative Filtering: 이웃 기반 협업 필터링

가장 초기의 추천 모델 중 하나, 설명 가능성이 가장 높은 모델 중 하나

• 사용자 기반 CF: 유사한 사용자의 평가 기반 “당신과 비슷한 사용자 A, B가 이 제품에 높은 평가를 했어요.”
  
• 아이템 기반 CF: 유사한 아이템 기반 “당신이 좋아했던 제품들과 유사한 제품입니다.”
  

관련 연구

• Herlocker et al. (2000): CF 기반 추천에 설명을 붙여 사용자의 신뢰도를 높이는 방식 실험
• Zhang et al. (2014a): 협업 기반 모델과 함께 문장 기반 설명을 생성하는 하이브리드 시스템 제안

장점

• 직관적이고 설명이 쉬움
• 사용자 수가 많을 경우 효과적

한계

• 희소성 문제
• 확장성 문제

3.2. Matrix Factorization Models: 행렬 분해 기반 모델

추천 시스템의 주류로 부상

사용자-아이템 평점 행렬을 잠재 요인(latent factor)로 분해하여 예측

• 대표 모델: SVD, PMF, SVD++

설명 가능성은 낮은 편 ← 잠재 요인의 의미가 명확하지 않기 때문

→ EPM(Zhang et al., 2014a): 리뷰로부터 명시적 속성 추출 → 잠재 요인에 의미 부여(’이 제품은 카메라 성능과 배터리 수명에서 높은 점수를 받았습니다.’)

관련 연구

• Explicit Factor Models(EFM)
  • Zhang et al. (2014a): 리뷰 데이터를 기반으로 ‘속성-의견-감정’ 삼중항을 추출하여 잠재 요인 대신 명시적 요인(explicit factors)으로 모델 구성
  • 각 사용자 /항목을 명시적 속성 공간에 임베딩
  • 설명: “ 당신은 이 제품의 [배터리 수명]과 [디자인]을 좋아합니다.”
• Topic-enhanced Factorization models
  • McAule and Leskovec(2013): 리뷰를 토픽 모델(LDA)로 분석한 뒤, 이를 행렬 분해와 통합
  • 각 사용자와 항목이 공유하는 토픽을 강조하는 방식으로 설명 제공
• Opinion-enhanced Models
  • Wang et al. (2018b): 토픽 텐서 분해를 통해 사용자-항목-속성 3차원 관계를 모델링
  • 사용자 선호와 속성 기반 설명을 통합적으로 제공 가능

3.3. Topic Modeling Based Models: 토픽 모델 기반 모델

리뷰나 텍스트 데이터에서 잠재 주제(latent topic)를 추출하여 사용자 및 아이템의 선호를 모델링

• 대표 기법: LDA(Latent Dirichlet Allocation)

관련 연구

• McAuley and Leskovec(2013): LDA로 리뷰의 숨겨진 주제를 모델링하여 설명 제공
• Zhang et al. (2014a): LDA와 MF 결헙
• Wu and Ester(2015): 키워드 클라우드 방식의 설명 ㅈ공

장점

• 사용자/아이템의 세부 속성을 다룰 수 있음
• 설명을 텍스트 기반으로 생성 가능

한계

• 모델 성능이 텍스트 품질에 의존
• 추출된 주제의 해석성 문제

3.4. Graph-based models: 그래프 기반 모델

사용자, 아이템, 속성, 리뷰 등 다양한 요소를 ‘노드’로 보고, 관계를 ‘엣지’로 표현하여 모델링

관련 연구

• Meta-path and Hetrogeneous Graph Models
  • Yu et al. (2013): 이종 정보 네트워크(HIN)를 사용한 메타패스 기반 추천
  • 예: User → Item → Tag → Item → User
  • 설명: ‘이 제품은 당신이 태그한 제품들과 유사한 태그를 갖고 있습니다.’
• Knowledge Graph-based Models
  • Zhang et al.(2016a): 상품 속성, 브랜드, 카테고리 등 지식 그래프(KG) 기반 추천
  • Xian et al. (2019): TransE 모델로 KG를 임베딩한 뒤 경호 기반 설명 제공
  • 예: ‘이 신반은 Nike 브랜드이며, 당신은 Nike를 좋아합니다.’
• Zhang et al. (2016): 리뷰, 사용자, 제품 간 관계를 리뷰 그래프로 구성
• Park et al. (2018): 평점 그래프와 소셜 네트워크 결함
• Zhang et al. (2019c): KGAT(Knowledge Graph Attention Network)
• Wang et al. (2019): RippleNet

장점

• 복잡한 관계를 명시적으로 모델링
• 경로를 따라 설명 가능(’이 친구가 이 제품을 좋아함 → 당신에게 추천’)

한계

• 모델이 복잡하고 학습 비용이 큼
• 설명 경로가 직관적이지 않을 수 있음

3.5. Deep Learning Based Models: 딥러닝 기반 모델

최근 가장 활발히 연구되는 영역, 그러나 일반적으로 설명력이 낮음

→ 설명 가능한 구조를 추가하거나 사후적 설명(post-hoc)을 결합하는 방식 필요

1. Attention 기반
   • 어떤 속성/문장/이미지에 주목했는지 설명 가능
   • 예: Chen et al. (2018), Seo et al. (2017)
2. Review Generation 기반
   • 리뷰를 자동 생성 → 사용자에게 자연어 설명 제공
   • 예: Ni et al. (2019)
3. Image Attention
   • 패션 추천 등에서 이미지 강조 부위 시각화
   • 예: Chen et al. (2019b), Zhang et al. (2019a)

한계

• 높은 설명력과 정확도를 동시에 달성하기 어려움
• 복잡한 구조와 해석의 어려움

3.6. Knowledge-based Models: 지식 기반 모델

지식 그래프(Knowledge Graph) 또는 외부 지식(ontology, schema)을 활용하여 사용자-아이템 관계를 풍부하게 표현

관련 연구

• Zhang et al. (2016): 리뷰 기반 그래프
• Wang et al. (2018a): RippleNet, 지식 경로 따라 추천 및 설명
• Wang et al. (2019): KGAT

장점

• 논리적이고 추적 가능한 설명 가능
• 다양한 관계를 통해 다면적 이해 가능

3.7. Hybrid Models: 하이브리드 모델

설명 가능한 다양한 모델을 결합하여 더 강력한 성능 및 설명력 확보

관련 연구

• Zhang et al. (2014a): 행렬 분해 + 리뷰 기반 속성 추출 → 문장 생성
• Tao et al. (2019a): 텐서 분해 + 리뷰 문장 생성
• Chen et al. (2019b): 리뷰 + 이미지 기반 attention

4. Evaluation of Explainable Recommendation

4.1. 평가 관점

추천 품질의 평가

일반적으로 정확도, 다양성, 정밀도와 같은 메트릭을 통해 측정

설명 품질의 평가

훨씬 더 복잡하고 주관적

Tintarev, Masthoff(2007, 2012)의 설명 품질 평가의 7가지 기준

• 효율성(Efficiency): 설명이 사용자가 더 빨리 결정을 내리는 데 도움을 주는가?
• 효과성(Effectiveness): 사용자가 더 나은 결정을 내리도록 돕는가?
• 투명성(Transparency): 시스템이 어떻게 작동하는지 이해할 수 있게 하는가?
• 검증 가능성(Scrutability): 사용자가 시스템을 점검하고 피드백을 제공할 수 있는가?
• 신뢰성(Trust): 시스템에 대한 신뢰를 향상시키는가?
• 설득력(Persuasiveness): 사용자가 추천을 따르도록 유도하는가?
• 만족도(Satisfaction): 전반적인 사용자 경험을 향상시키는가?

4.2. 사용자 연구

사용자 연구(User study)

시스템의 설명이 사람들에게 어떤 영향을 미치는지를 이해하는 데 유용, 실험 참가자에게 다양한 종류의 설명을 보여주고, 그들의 행동, 의견, 선호도를 관찰함으로써 설명의 효과 분석

• Herlocker et al. (2000): 다양한 설명 스타일(예: 히스토그램, 문장, 아이콘 등)을 사용하여 사용자에게 어떤 설명이 더 도움이 되는지를 조사. 그 결과, 일부 설명은 사용자가 추천을 수용하는 데 더 긍정적인 영향을 줌
• Gedikli et al. (2014): 텍스트 기반 설명과 시각적 설명의 효과를 비교하고, 서로 다른 설명 형식이 사용자 만족도에 미치는 영향 분석
• Sharma and Cosley (2013): 사회적 설명(social explanation)이 신뢰성에 어떤 영향을 미치는지 실험

장점

소규모이지만 심층적인 정성적 데이터 수집 가능

단점

연구 설계에 따라 편향이 발생할 수 있고, 결과를 일반화하기 어려움

4.3. 온라인 평가

온라인 평가

실제 추천 시스템 환경에서 사용자 행동을 관찰하는 방식. 일반적으로 A/B 테스트나 대규모 실험을 토앻 두 가지 이상의 설명 방식이 사용자 반응에 어떤 차이를 만드는지 분석

예) Amazon이나 JD.com과 같은 전자상거래 플랫폼은 추천 설명이 구매율, 클릭률, 체류 시간 등에 어떤 영향을 미치는지를 분석하기 위해 대규모 온라인 실험 수행

• Xiao et al. (2019): JD.com에서 리뷰 기반 설명이 사용자의 구매 의사 결정에 미치는 영향을 분석. 결과적으로, 잘 설계된 설명은 사용자 행동을 유의미하게 변화시킬 수 있다는 사실이 입증됨

장점

대규모 데이터를 통해 설명의 효과를 실용적으로 분석할 수 있음

단점

실험 제어가 어렵고 외부 요인의 영향을 받기 쉬우며, 특정 사용자 집단에 국한될 수 있음

4.4. 오프라인 평가

오프라인 평가

일반적으로 사용자 행동을 시뮬레이션 하는 환경에서 정량적인 메트릭을 기반으로 수행. 이는 사용자 로그, 리뷰, 평점 데이터를 활용하여 추천과 설명을 평가하는 방식

추천 품질 평가

기존의 정밀도(precision), 재현율(recall), 평균제곱오차(RMSE), NDCG와 같은 메트릭 사용

• 설명 정확도: 시스템이 생성한 설명이 사용자 실제 피드백과 얼마나 잘 일치하는가?
• 속성 일치도(attrivute-level fidelity): 생성된 설명이 사용자 선호 속성과 얼마나 일치하는가?
• 텍스트 유사도 지표(BLEU, ROUGE, METEOR 등): 리뷰 기반 설명을 생성할 때 참조 문장과의 유사도 측정

관련 연구

• Ni et al. (2019): 자연어 생성 기반의 설명에서 BLEU 점수를 사용해 설명 문장의 질을 측정
• Wang et al. (2018b): 추천 정확도와 동시에 리뷰 재생산 가능성(perplexity)을 측정

장점

반복 가능하고 저비용, 실험 설계가 용이

단점

실제 사용자 행동을 완전히 반영하지는 못함

4.5. 사례 기반 정성 평가

사례 기반의 정성적 평가

일반적으로 몇 가지 구체적인 사용자-아이템 예시를 선택한 후, 모델이 생성한 설명이 사람의 직관과 얼마나 잘 맞는지를 시각적으로/텍스트로 보여줌

• Chen et al. (2018c): 사용자와 항목 간의 연결을 나타내는 ‘지식 그래프 기반 경로’를 제공, 사용자가 왜 해당 항목에 관심을 가질 수 있는지를 설명. 제시된 예시는 사용자와 아이템 간의 의미 있는 연관성이 모델에 의해 정확하게 포착되었음을 보여줌, 이는 사람이 읽을 수 있는 방식으로 표현
  

• Hou et al. (2018): 템플릿 기반 텍스트 설명으로 특정 사용자가 추천받은 이유를 설명. 이 설명은 사용자의 이전 리뷰에서 나타난 선호 속성에 기반하여 제공되었으며, 사용자의 선호와 추천 항목 간의 일치를 직관적으로 보여주는 역할을 함

5. Applications of Explainable Recommendation

5.1. 전자상거래

• 투명성과 설득력 강화 목적(Chen et al. (2019)) 시스템은 사용자가 유사한 제품에 긍정적인 리뷰를 남긴 이력이 있다거나, 제푸밍 사용자의 선호 속성과 일치한다는 이유로 추천. 연구에서는 속성-의견 용어를 기반으로 텍스트 설명을 생성하기 위해 구조적이고 템플릿 기반의 생성 접근법을 사용하는 의견 인식 추천 프레임워크 제안
  
• 외부 지식(제품 속성, 브랜드, 기능 설명 등)을 추천 및 설명에 통합(Wang et al. (2018)) 지식 그래프 내 경로에 대한 어텐션 메커니즘을 사용하는 신경망 제안, 이는 사용자가 왜 특정 제품에 관심을 가질 수 있는지를 추론할 수 있도록 함. 이런 방식은 경로 기반의 사람이 읽을 수 있는 설명을 가능하게 함
  

전자상거래 환경에서 사용자는 대체로 목표 지향적. 설명은 구매 결정을 더 효율적으로 내리는 데 도움을 줘야 함. 따라서 설명은 정보적이며 속성 중심이고, 개인의 선호에 맞춰 맞춤화되어야 함. 이와 같은 설명은 상업적 맥락에서 제공되므로, A/B 테스트 또는 고객 피드백을 통해 평가되는 경우가 있음

5.2. 관심 장소(POI) 추천

위치 기반 서비스에서 핵심 분야 중 하나. 대표적인 응용은 관광객 또는 지역 주민을 위한 음식점, 호텔, 명소 추천. 이러한 시나리오에서 설명은 사용자가 어떤 장소를 방문할지 결정하는 데 도움이 됨

• Wang et al. (2018): 의견 기반 리뷰를 활용
• Zhang and Wang (2016): 구문 수준 감성 분석을 활용한 리뷰 기반 위치 인식 추천 시스템 제안
• Chen et al. (2017): POI의 이미지를 활용하여 시각적으로 사용자 선호에 부합하는 속성을 강조

POI 추천에서 요구되는 설명은 경험 기반이며 상황 중심적. 이는 설명이 거리, 가격, 평점 같은 객관적 특징뿐 아니라, 분위기, 맛, 청결도 같은 주관적 경험을 반영해야 한다. 이를 통해 사용자는 더 만족스럽고 개인화된 결정을 내릴 수 있음

5.3. 소셜 추천

소셜 네트워크, 사용자 간 상호작용, 사용자 생성 콘텐츠 등을 이용하여 추천 성능을 향상시킴. 이 경우, 추천 이유를 소셜 연결이나 유사 행동을 바탕으로 설명함으로써 사용자에게 신뢰성과 납득 가능성을 제공

시스템은 ‘당신의 친구 Alice가 이 항목을 좋아했습니다.’ 라는 설명을 통해 설득력을 높일 수 있다.

• Sharma and Cosley (2013): 다양한 스타일의 소셜 설명을 실험한 결과, 친구 기반 설명이 아이템 기반 또는 인기 기반 설명보다 설득력이 높음을 발견
• Quijano-Sanchez et al. (2017): 소셜 및 콘텐츠 정보를 결합해 설명을 생성함으로써 사용자 만족도를 높이는 모델을 제안
• Wu et al. (2019): 소셜 연결망 위에 그래프 어텐션 네트워크를 적용하여 사용자의 소셜 이웃이 선호에 미치는 영향을 추론하고 설명을 생성

소셜 추천에서는 사용자가 친숙한 행동 기반 설명에 대해 더 높은 신뢰를 보이므로, 소셜 영향을 강조한 설명이 사용자 참여도를 크게 높일 수 있음

5.4. 멀티미디어 추천

음악, 영화, 이미지와 같은 멀티미디어 도메인에서는 항목의 시각적/청각적 특성을 기반으로 설명이 제공될 수 있음

• Chen et al. (2019): 시각적 어텐션 신경망을 사용해 사용자의 관심을 끈 이미지 영역을 시각적으로 강조. 음악 추천에서는 가사, 장르, 템포, 분위기 등 다양한 해석 가능한 특징이 설명의 근거가 됨
• Hendrycks et al. (2018): 템포, 장르와 같은 요소를 기반으로 해석 가능한 음악 추천 모델 제안

멀티미디어 항목은 종종 감정적/미적 반응을 이끌어내므로, 설명도 사용자의 정서적 공감을 유도하도록 설계 가능

5.5. 개인화 검색

사용자가 질의를 입력하면 검색 엔진은 관련된 결과를 순위별로 반환. 이때 ‘이 항목이 왜 상위에 표시되었는가?’에 대한 설명은 사용자에게 시스템에 대한 이해와 신뢰 제공

• Chen et al. (2018): 리뷰 기반 설명 활용으로 개인화 상품 검색 시스템에서 검색 결괄르 설명. 이 설명은 리뷰 문장에서 추출된 구문이나 문장으로 구성
• Tao et al. (2019): 질의 인식 어텐션 메커니즘을 통해 질의 관련성과 사용자 선호를 결합하여 설명 가능한 검색 결과 생성

개인화 검색에서의 설명은 질의 관련성과 사용자 개인화 요소를 동시에 반영해야 하므로, 정보 검색 모델과 사용자 모델링 기법의 통합이 요구됨

6. Future Directions and Conclusions

6.1. 설명 가능한 추천의 미래 연구 방향

6.1.1. 사용자 중심 설명 연구

기존 연구들은 대부분 추천의 성능과 시스템 중심의 설명에 중점을 두었으나, 사용자 중심 설명의 필요성이 점점 커지고 있음. 실제 사용자들이 설명을 어떻게 해석하고 반응하는지를 고려한 연구가 향후 더욱 요구됨

설명은 단지 예측의 근거를 제시하는 것을 넘어, 사용자에게 유익하고 의미 있는 방식으로 정보를 제공해야 함. ㅣㅇ를 위해 당야한 사용자 그룹에 따른 설명 맞춤화 연구가 중요

• Chen et al. (2019): 사용자 유형에 따라 설득력 있는 설명의 형식이 달라질 수 있음을 보여줌

6.1.2. 인간-이해 가능한 표현과 인터페이스

설명이 기계 관점에서는 정합적이라도, 사람에게 이해되지 않으면 효과가 없음. 따라서 설명의 표현 형식과 인터페이스 디자인이 핵심이 됨

• Cedikli et al. (2014): 텍스트 설명과 시각적 설명이 사용자 만족도에 서로 다른 영향을 준다는 점을 보여줌

멀티모달 표현(ㅇ: 리뷰 + 이미지, 그래프 + 요약문)을 통해 복합적이고 직관적인 설명을 설계하는 연구가 더욱 필요

6.1.3. 정량/정성 평가 지표의 통합

설명 품질을 평가하는 통일된 프레임워크가 아직 부족. 앞서 살펴본 사용자 연구, 오프라인 실험, 온라인 평가 등은 모두 장단점이 있고, 이들을 통합적으로 활용하는 평가 방법이 요구됨

6.1.4. 공정성, 프라이버시, 윤리 문제

설명 가능한 추천은 단순히 성능 향상이 아니라, 시스템의 책임성과 공정성 확보에도 기여 가능. 예를 들어, 설명이 특정 그룹에 대해 불공정하거나 편향된 경우, 오히려 해가 될 수 있음

설명에 사용되는 정보가 사용자의 민감 정보일 경우 프라이버시 침해의 우려가 있음. 이와 관련된 연구는 아직 초기 단계, 설명 가능성과 프라이버시 간의 균형, 설명 생성의 윤리적 기준 설정 등이 중요

6.1.5. 범용성과 전이 가능성

현재 대부분의 설명 가능한 추천 시스템은 특정 도메인 또는 데이터셋에 최적화되어 있으며, 범용성이 부족. 향후에는 다양한 환경에서 재사용 가능하고 전이 가능한 설명 모델 개발 요구

이에는 도메인 불변 표현 학습이나 다중 도메인 학습 등이 활용될 수 있으며, 최종적으로는 설명을 구성하는 요소의 모듈화를 통해 재사용 가능성이 높아질 수 있음