softmax 함수

Softmax(소프트맥스)는 입력받은 값을 출력으로 0~1사이의 값으로 모두 정규화하며 출력 값들의 총합은 항상 1이 되는 특성을 가진 함수이다.
분류하고 싶은 클래스의 수 만큼 출력으로 구성한다.
가장 큰 출력 값을 부여받은 클래스가 확률이 가장 높은 것으로 이용된다.
그러나, 소프트맥스 결과값이 [0.4, 0.3, 0.2, 0.1]으로 나와 1등한 0.4와
[0.7, 0.1, 0.1, 0.1]으로 나와 1등한 0.7은 다를 것이므로 그 정도에 따라 추가 판단하기도 한다.
입력값의 대소 순서가 출력값의 대소 순서와 같다는 것을 알 수 있다.
결국 가장 큰 값은 이미 소프트맥스 이전에 가장 큰 값이었다.
따라서 추론(운영)단계에서 연산속도를 빠르게하기 위해 생략하기도 한다.