MLP based Recommender Systems Architecture [2021]

1. Attention-based dynamic user preference modeling and nonlinear feature interaction learning for collaborative filtering recommendation

• 동적 사용자 선호도 모델링과 비선형 매칭 함수 학습을 사용하여 추천 성능을 향상시키는 새로운 CF 추천 방법을 제안
• 동적 사용자 선호도 모델링을 위해 attention network 사용. 비선형 매칭 함수 학습을 위해 기존 MF 모델 위에 단일 히든 레이어 신경망을 추가
• 동적 사용자 선호도 모델링: 2계층 신경망 네트워크를 사용하여 동적 사용자 선호도 모델링. 예측된 항목, 최근에 상호 작용한 이전 항목 및 상호 작용 시간을 고려하여 사용자 기본 설정 모델링에서 상호 작용된 각 항목의 기여 가중치를 추정
• 비선형 매칭 함수 학습: 비선형 매칭 함수 학습을 위한 기존 MF 모델 위에 단일 히든 레이어 신경망 추가. 몇 가지 추가 매개변수만으로 모델의 특징 상호 작용 학습 기능이 향상됨.
  

2. ADCF: Attentive representation learning and deep collaborative filtering model

• Attention 기반 표현 학습 구성 요소와 다중 입력 매칭 기능 학습 구성 요소를 사용하여 장기 사용자 선호도와 항목 잠재 기능의 표현을 구성하는 심층 협업 필터링 권장 모델을 제안
• 예측 항목, 최근 과거 상호 작용 항목 및 최근 과거 상호 작용 항목의 상호 작용 시간을 고려하여 단기 사용자 선호도를 구성하는 동적 사용자 선호도 모델링 방법을 도입.다양한 컨텍스트의 사용자에 대해 서로 다른 프레젠테이션 가능.
• 암시적 상호작용 매트릭스의 상호작용 이력 벡터를 사용하여 아이템 특징과 장기 사용자 선호도를 나타냄. multi hot 벡터로 ID 또는 특징 기반 onehot 벡터를 DL 모델의 입력으로 사용하는 기존 방법과는 다름.
• 암시적 피드백에 기반한 상호 작용 매트릭스를 데이터 소스로 사용하여 장기 사용자 선호도와 항목 잠재 기능을 나타냄.
• representation 학습에서는 time-aware attention network를 사용하여 단기 사용자 선호도 모델링에 대한 다양한 과거 상호 작용 항목의 가중치를 추정. 단기 선호도와 장기 선호도를 결합하여 동적 사용자 선호도 representation을 얻을 수 있음.
• 매칭 함수 학습에서는 다중 입력 딥러닝 모델 사용. 입력에는 동적 사용자 선호도 representation과 항목 잠재 기능 표현뿐만 아니라 두 표현 간의 선형 상호 작용도 포함되므로 모델은 더 강력한 기능 상호 작용 학습 능력을 가짐.
  

3. Attribute-based Neural Collaborative Filtering

• 사용자 선호도를 파악하는 데 있어 Dot Product 운영의 한계와 추천 결과를 개선하는 데 있어 속성 정보의 중요성에 대해 설명함.
• 어텐션 메커니즘을 사용하여 속성 정보의 중요성을 구분하는 새로운 속성 기반 신경 협업 필터링 (ANCF) 방법과, 다층 퍼셉트론을 사용하여 사용자와 항목 간의 고차원 상호 작용 관계를 캡처하는 새로운 속성 기반 신경 협업 필터링 (ANCF) 방법을 제안
• ANCF는 어텐션 메커니즘을 사용하여 속성 정보를 사용자 및 항목 특징 표현에 통합하고 다층 퍼셉트론을 사용하여 사용자와 항목 간의 고차 비선형 관계를 학습함.
  

4. BCFNet: A Balanced Collaborative Filtering Network with Attention Mechanism

• 표현 학습 기반 CF 방법과 매칭 함수 학습 기반 CF 방법의 강점을 결합한 균형 협업 필터링 네트워크 (BCFNet) 라는 새로운 추천 모델 제안.
• 암묵적 피드백 내에 숨겨진 정보를 더 잘 포착하고 신경망의 학습 능력을 강화하기 위한 어텐션 메커니즘 설계
• 일반화된 행렬 분해 모델 (GMF) 을 통해 DNN의 과적합 문제를 완화하기 위한 밸런스 모듈 도입.
• BCFNet 모델은 Attentive Representation Learning, Attentive Matching Function Learning, Balance Module의 세 가지 하위 모듈로 구성.
• Attentive Representation Learning : ID, 과거 행동 및 기타 보조 데이터를 포함한 데이터를 데이터베이스에서 추출하여 사용자 및 항목의 초기 표현을 구성
• Attentive Matching Function Learning : 사용자 항목 쌍을 매칭 점수에 매핑하는 복잡한 매칭 함수를 직접 학습
• 밸런스 모듈은 일반화된 행렬 분해 모델 (GMF) 을 통해 DNN의 과적합 문제를 완화하도록 설계
  

5. FG-RS: Capture user fine-grained preferences through attribute information for Recommender Systems

• 속성 정보를 통해 세분화된 사용자 선호도를 캡처하는 FG-RS라는 새로운 추천 알고리즘 제안
• 사용자 선호도를 보다 효과적으로 캡처하기 위해 대화형 기본 설정 모듈과 속성 세부 설정 모듈이라는 두 가지 모듈을 도입
• 어텐션 메커니즘을 사용하여 속성에 대한 사용자의 보다 세분화된 선호도를 파악
  

6. Cross-Domain Explicit–Implicit-Mixed Collaborative Filtering Neural Network

• 추천 시스템의 희소성 및 콜드 스타트 문제를 해결하기 위해 크로스 도메인 명시적 암시적 혼합 CF 신경망 (CEICFnet) 이라는 새로운 신경망 기반 CF 모델을 제안.
• 심층 신경망을 활용하여 명시적 등급 및 암시적 상호 작용뿐만 아니라 도메인 간 방식으로 잠재 요인 학습
• 도메인 공유 MLP 네트워크를 설계하여 도메인 간에 지식을 전달하는 가교 역할을 하는 명시적 평가와 암시적 상호 작용을 통해 사용자 등급 잠재 요인과 사용자 상호 작용 잠재 요인을 각각 학습합니다.
• 항목별 MLP 네트워크를 설계하여 항목 등급 잠재 요인과 항목 상호 작용 잠재 요인을 명시적 등급과 암시적 상호 작용으로부터 각각 학습.
• MLP를 사용하여 각 도메인의 각 사용자 항목 쌍에 대한 등급 예측 표현 및 상호 작용 예측 표현을 학습.
• 명시적 등급과 암시적 상호 작용을 크로스 도메인 모델에 통합하여 희소성 및 콜드 스타트 문제를 해결.
  

7. Deep collaborative filtering based on user’s long and short intention for Recommendation

• 순차 추천 작업을 위해 DeepLS라는 새로운 신경 순차 추천 알고리즘 제안.
• 데이터 희소성을 해결하고 추천 성과를 개선하기 위한 단기 및 장기 의도를 모델링하여 순차적 표현을 학습.
• 자기 주의 메커니즘을 사용하여 사용자의 단기 의도를 파악하고 표현 학습 기반 방법을 사용하여 사용자의 장기적 의도를 모델링.
• 두 가지 의도를 융합하여 연결 또는 경험적 체계 (KS) 를 사용하여 사용자와 항목의 표현을 공동으로 학습.
• joint representation을 완전 연결 계층으로 전송하여 예측을 위한 매칭 점수를 계산합니다.
  

8. Deep Rating and Review Neural Network for Item Recommendation

• 추천을 위한 딥 레이팅 및 리뷰 신경망 (DRRNN) 이라는 새로운 딥 모델을 제안.
• 학습 단계에서 주어진 사용자 항목 쌍의 목표 등급과 대상 리뷰를 오류 역전파에 대한 근거 자료로 간주하여 평점을 예측하는 동시에 리뷰의 의미 있는 정보를 유지하는 데 도움이 됨.
• 추천 시스템에서 오류 역전파에 대한 근거 자료로 rating만 사용하는 것의 한계를 강조하고 이러한 한계를 해결하기 위한 솔루션을 제안.
  

9. DeepPRFM: Pairwise Ranking Factorization Machine Based on Deep Neural Network Enhancement

• 사용자 및 항목의 고차 상호 작용 기능을 원래 입력 기능과 통합하여 더 나은 권장 사항을 제공하는 DeepPRFM이라는 새로운 맞춤형 순위 모델을 제안
• 음성 샘플의 비율을 늘려 쌍별 학습 방법의 콜드 스타트 문제를 해결. 시스템의 콜드 스타트 문제가 완화되는 동시에 모델의 효율성과 학습 속도가 향상 됨.
• 기존 방법의 몇 가지 단점을 해결하여 개인화된 순위 시스템의 정확성과 효율성을 개선하는 것을 목표로 함.
  

10. Dual-embedding based Neural Collaborative Filtering for Recommender Systems

• 두 가지 임베딩의 강점을 결합한 DNCF라는 이름의 일반적인 이중 임베딩 기반 협업 필터링 (CF) 프레임워크 제안
• 사용자가 상호 작용한 항목을 사용하여 사용자 표현력을 높이고 한 번 항목과 상호 작용한 사용자를 사용하여 항목 표현을 강화함.
• 주요 임베딩을 역사적 상호 작용의 관점에서 얻은 추가 임베딩과 통합하여 최종 표현을 얻음.
  

11. Neural Embedding Singular Value Decomposition for Collaborative Filtering

• RSS에서 일반적으로 사용되는 MF 알고리즘에 대한 기존 초기화 방법의 약점을 식별.
• MF 알고리즘 초기화를 위한 복잡도가 낮고 정확도가 높은 신경망 솔루션을 제안.
• MF 알고리즘 초기화를 위한 신경망 학습의 잠재력을 탐구하고 모델 일반화를 개선하는 데 중점을 둡니다.
  

12. Hierarchical Latent Relation Modeling for Collaborative Metric Learning

• 사용자 항목 및 항목-항목 관계를 공동으로 모델링하여 사용자 선호도의 기본 스펙트럼을 드러내고 추천 성과를 개선하는 계층적 잠재 관계 (HLR) 라는 신경 아키텍처를 제안.
• HLR 아키텍처는 주의 메커니즘, 증강 메모리 네트워크 및 메트릭 학습의 최근 발전을 활용하여 암시적 피드백 데이터로부터 적응형 사용자 항목 및 항목-항목 관계를 학습 함.
  

13. Together is Better: Hybrid Recommendations Combining Graph Embeddings and Contextualized Word Representations

• 그래프 임베딩과 상황에 맞는 단어 표현을 결합하여 추천의 예측 정확도를 향상시키는 하이브리드 추천 프레임워크 제안
• 그래프 임베딩과 상황에 맞는 단어 표현을 개별적으로 생성한 다음 단일 기능 그룹의 조합을 기반으로 하이브리드 표현을 학습하는 딥 아키텍처에 공급하여 결합하는 전략을 제시.