likelihood: 어떤 일이 일어날 가능성

likelihood가 뭘까?

likelihood: 어떤 일이 일어날 가능성을 나타내는 용어.

흔히 확률(probability)라는 단어와 함께 사용되는데, 둘의 차이는 다음과 같다.

• 확률(Probability): 어떤 특정한 사건이 일어날 확률을 수치로 표현한 것. 예를 들어, 주사위를 던졌을 때 6이 나올 확률은 1/6이다.

• 가능성(Likelihood): 이미 관찰된 데이터나 결과를 바탕으로, 특정 가설이 맞을 가능성을 평가하는 것. 예를 들어, 주사위를 10번 던졌을 때, 6이 7번 나왔다면, 이 주사위가 공정하지 않다는 거설이 맞을 가능성을 평가하는 것이다.

확률: 사건이 일어나기 전에 그 일이 일어날 가능성을 표현
가능성: 이미 일어난 일을 바탕으로 어떤 가설이 맞을 가능성을 평가하는 개념

머신러닝에서 사용되는 likelihood를 예로 들어보자.

머신러닝에서의 Likelihoode: 모델이 주어진 데이터를 얼마나 잘 설명하는가를 나타내는 척도.

예제: 고양이와 개를 구분하는 모델

1. 문제설정: 고양이와 개의 사진을 보고, 이것이 고양이인지 개인지 구분하는 모델을 만들고 싶다고 한다.
2. 모델훈련: 다양한 고양이와 개의 사진을 데이터로 사용해서 모델을 훈련시킨다. 이 모델은 주어진 이미지가 고양이일 가능성과 개일 가능성을 예측하게 된다.
3. Likelihood계산:

• 이제 모델이 특정 사진에 대해 "이건 고양이일 가능성이 70%다" 라고 예측했다고 가정한다.
• 실제로 그 사진이 고양이였을 때, 이 모델의 예측은 꽤 맞았다고 예측할 수 있죠? 이럴 때, 이 예측의 Likelihood가 높다고 할 수 있다.
• 반대로 모델이 "이건 개일 가능성이 90%다"라고 했는데, 실제로는 고양이였다면, 이예측의 "Likelihood"는 낮다.

요약:

• Likelihood : 모델이 주어진 데이터를 얼마나 잘 설명하는가, 예측이 얼마나 잘 맞는지를 평가하는 척도

• 머신러닝에서 이개념을 모델을 최적화할 때 많이 사용한다. 최대 가능도 추정(MLE, Maximum Likelihood Estimation)이라는 방법을 통해 모델이 주어진 데이터를 가장 잘 설명할 수 있도록 모델의 파라미터를 조정한다.

  쉽게 말해, "Likelihood"는 이 모델이 이 데이터를 이렇게 예측했을 때, 그 예측이 얼마나 타당한가? 를 평가하는 기준이라고 이해하면된다.