파라미터 (Parameters)
정의: 머신러닝 모델 내부에서 학습되는 변수입니다.
특징:
데이터로부터 자동으로 학습됩니다.
학습을 통해 모델이 최적화하려는 값입니다.
예: 신경망의 가중치(weight)와 편향(bias)
하이퍼파라미터 (Hyperparameters)
정의: 모델 학습 과정을 제어하는 외부 설정값입니다.
특징:
개발자가 직접 설정하며, 학습 과정에서 변경되지 않습니다.
모델이 어떻게 학습할지에 대한 설정값으로, 최적화를 위해 수동으로 조정해야 합니다.
예: 학습률(learning rate), 에포크(epoch) 수, 은닉층의 수 등
주요 차이점
학습 방식:
파라미터는 데이터로부터 자동으로 학습됩니다.
하이퍼파라미터는 수동으로 설정되며, 학습 과정 중에는 변경되지 않습니다.
변경 시점:
파라미터는 학습 중 지속적으로 업데이트되며, 모델이 최적의 결과를 내기 위해 학습 데이터를 통해 조정됩니다.
하이퍼파라미터는 학습이 시작되기 전에 설정되며, 학습 과정에서는 고정되어 있습니다.
모델 구조와 역할:
파라미터는 모델 내부의 구조를 형성하고, 모델이 데이터를 처리하는 과정에서 직접적인 역할을 합니다.
하이퍼파라미터는 모델의 학습 과정과 성능을 조절하는 역할을 하며, 모델의 외부적인 설정값입니다.
이와 같이, 파라미터는 모델의 내부에서 학습을 통해 자동으로 조정되는 값이고, 하이퍼파라미터는 학습을 어떻게 수행할지를 설정하는 외부 값이라는 점에서 차이가 있습니다.
