추천시스템의 Alternative Least Square (ALS)

Alternative Least Square (ALS)

ALS는 "Collaborative Filtering for Implicit Feedback Datasets" 논문을 통해 처음 소개되었다.

말그대로 Implicit Feedback 데이터에 적합하도록 MF 기반 모델을 설계해서 성능을 향상시켰다.

Concept

ALS의 컨셉은 유저, 아이템 Matrix를 번갈아가면서 업데이트시킨다.
-> 두 Matrix 중 하나를 업데이트시킬때, 나머지 하나는 상수로 취급
-> $p_u, q_i$ 가운데 하나를 고정하고 다른 하나를 least-square 문제를 푸는 것

확률적 경사하강법 (SGD)와 비교하면 sparse한 데이터에 대해 SGD보다 더 Robust하고,
대용량 데이터를 병렬 처리를 통해 빠른 학습이 가능하다.

Objective Function

일반 MF 모델의 목적함수는 아래와 같다.

이렇게 P, Q를 번갈아 가면서 업데이트 시킨다.

여기서 이 논문은 Implicit Feedback Datasets을 고려한 CF 모델이라고 했다.

따라서 Implicit Feedback Dataset에 맞게 변경이 필요하고 2가지 개념이 추가된다.

1. Preference
   유저가 아이템을 선호하는지 여부를 binary로 표현한다.
   

2. Confidence
   유저가 아이템을 선호하는 정도를 선형적으로 나타낸다.
   여기서 $\alpha$를 통해 rating에 대한 정도를 조절할 수 있다.
   

이 두가지 개념을 기존 목적함수에 추가하면 아래와 같이 목적함수가 변경된다.

그럼 P, Q를 업데이트하는 함수도 변경된다.