Inductive Bias란, 데이터를 설명할 수 있는 최적의 함수가 특정한 함수 공간에 존재할 것이라는 가설을 말합니다.
모든 데이터는 그 데이터가 무엇이냐에 따라 데이터를 잘 표현/예측할 수 있는 함수의 형태가 다릅니다. 어떤 데이터는 간단한 선형 함수만으로도, 어떤 데이터는 아주 복잡한 신경망으로 나타내야만 표현이 가능할 수도 있죠. 데이터에 대한 도메인 지식을 활용하면 데이터를 가장 잘 표현할 수 있는 함수는 어떤 형태일 것이라는 가설을 세울 수 있습니다. 더 좋은 모델을 만들기 위해서는 좋은 Inductive Bias가 필요합니다.
나는 킹고수다!!