Simplex

심플렉스란?

• 점들을 최소한으로 연결해서 만든 도형
• Simple (간단한) + Complex (복합체) = Simplex
• "가장 간단한 복합 도형"을 의미

수식:
n차원 심플렉스 = (n+1)개의 점으로 만든 가장 간단한 도형

예를들면:

• 1차원: 선분
  점 2개를 연결 → 선분
  예: ●————————●

• 2차원: 삼각형
  점 3개를 연결 → 삼각형
  예: △

• 3차원: 피라미드 (사면체)
  점 4개를 연결 → 삼각뿔 모양
  예: 이집트 피라미드

머신러닝에서의 심플렉스 활용

2-심플렉스의 각 점이 의미하는 것:

• 🔴 빨간 점 [0.33, 0.33, 0.34]
  클래스 A: 33% 확률
  클래스 B: 33% 확률
  클래스 C: 34% 확률
  → 거의 동등하게 애매한 상황

• 🔵 파란 점 [0.6, 0.1, 0.3]
  클래스 A: 60% 확률
  클래스 B: 10% 확률
  클래스 C: 30% 확률
  → A일 가능성이 가장 높음

• 🟢 초록 점 [0.1, 0.8, 0.1]
  클래스 A: 10% 확률
  클래스 B: 80% 확률
  클래스 C: 10% 확률
  → 거의 확실히 B

소프트맥스 출력

신경망의 마지막 층에서 각 클래스에 대한 확률을 출력할 때, 모든 확률의 합이 1이 되도록 정규화한다.

다항 분포

텍스트 분류, 토픽 모델링에서 각 단어나 토픽의 확률 분포를 나타낼 때 사용된다.

베이지안 추론

사후 확률 분포를 표현할 때, 각 가설에 대한 믿음의 정도를 심플렉스 위의 점으로 나타낸다.

강화학습

정책(policy) 함수에서 각 행동을 선택할 확률 분포를 표현할 때 사용된다.

• 수학적 정의
  • n-심플렉스: n+1개 클래스에 대한 확률 벡터들의 집합
  • 조건: 모든 성분 ≥ 0, 모든 성분의 합 = 10
  • 표현: Δⁿ = {(x₁, x₂, ..., xₙ₊₁) | xᵢ ≥ 0, Σxᵢ = 1}