Activation function 활성 함수
- 인공 신경망에서 각 뉴런의 출력을 결정하는 함수
강의 자료: 직선 2개를 합성할 때, 직선의 결과가 직선이 되지 않도록 어떤 함수를 적용하도록 하는 것
검색 자료
- 이 함수는 입력 신호의 가중치 합을 계산하고, 그 결과에 대한 출력을 생성합니다. 주로 비선형성을 도입하여 신경망이 복잡한 문제를 학습할 수 있도록 도움.
인공 신경망의 각 뉴런은 입력 신호에 가중치를 곱하고, 그 합을 활성화 함수에 적용하여 출력을 생성합니다. 이 활성화 함수를 통해 네트워크는 비선형성을 학습할 수 있게 되며, 이는 복잡한 문제를 해결하는 데 필수적입니다. 만약 활성화 함수가 선형이라면, 여러 층을 쌓아도 결국 하나의 층으로 축소될 수 있기 때문에 비선형성이 중요합니다.
activation function 종류
1. 시그모이드 함수 (Sigmoid Function)
: 주로 이진 분류 문제의 출력층에서 사용
2. 렐루 함수 (Rectified Linear Unit, ReLU)
: 가장 널리 사용되며 계산 효율성이 뛰어나다. 음수 입력에 대해 0을 출력하고 양수 입력에 대해서는 입력 값을 그대로 출력함.
