
1. 벡터 1. 벡터 벡터는 숫자를 원소로 가지는 리스트 혹은 배열 벡터끼리 같은 모양을 가지면 성분곱을 계산할 수 있음 성분곱: x + y, x - y, x * y 2. 벡터의 노름 원점에서부터의 거리 L1, L2가 있음, 각각을 ||x||1, ||x||2로 나

1. 미분 변수의 움직입에 따른 함수값의 변화를 측정하기 위한 도구 최적화에서 제일 많이 사용하는 기법 고차원 공간에서는 어느 방향으로 움직여야 함수값이 증가/감소하는지 알기 어려우므로 미분을 이용하여 방향을 정함 증가시키고 싶다면 미분값을 더하기(오른쪽으로), 감소

지난 시간까진 선형모델을 다뤄보았고 이제부터는 비선형모델인 신경망을 다룸신경망을 수식으로 분해하면 선형 모델의 수식과 비선형 함수들의 결합으로 이루어져 있음 \-> 신경망을 다루려면 선형모델에 대해서도 잘 알아야 함 아래 그림은 X, W, b가 선형결합으로 이루어져
회귀 분석에서 손실함수로 사용되는 L2-노름은 예측오차의 분산을 가장 최소화하는 방향으로 학습하도록 유도 분류 문제에서 사용되는 교차엔트로피는 모델 예측의 불확실성을 최소화하는 방향으로 학습하도록 유도 분산 및 불확실성을 최소화하기 위해서는 측정하는 방법을 알아야