---

1. 함수

---

1.1. 함수

• 두 변수 $x$와 $y$에 대하여 $x$의 값이 변함에 따라 $y$의 값이 오직 하나씩 정해지는 대응 관계가 있을 때 $y$를 $x$의 함수라고 합니다.

 

• 일차함수는 $y$가 $x$에 관한 일차식으로 표현되는 함수를 말합니다.

  

  • 표현식
    $y = ax+b \; (a \neq 0)$

  • 위의 식에서 $a$는 기울기, $b$는 $y$ 절편이라 합니다.

 

• 이차함수는 $y$가 $x$에 관한 이차식으로 표현되는 함수를 말합니다.

  

  • 표현식
    $y = a(x-p)^2+q \; (a \neq 0)$

  • 위의 식에서 $a$는 포물선의 너비를 결정하고 양수이면 아래로 볼록한 형태이며 음수이면 위로 볼록한 형태를 가지게 됩니다. $p$와 $q$는 평행 이동을 시키는 값이며 $x=p$에서 최댓값 또는 최솟값을 가지게 됩니다.

 

 

---

2. 미분

---

2.1. 미분, 미분계수

• 미분은 극한을 이용하여 순간별화율을 구하는 과정이며, 순간변화율 또는 미분계수는 함수 위의 임의의 점에서의 접선의 기울기를 의미합니다.

• Expression
  $y'$ (프라임 표기법)

  $\displaystyle\frac{dy}{dx}$ (라이프니츠 표기법)

 

 

2.2. 편미분

• 다변수 함수를 다루는 경우 하나의 변수에 대한 일변수 함수로 취급하여 다른 변수들은 고정시키고 미분하는 것을 편미분이라고 합니다.

• Expresstion

  $f(x, y), \; \displaystyle\frac{\partial f}{\partial x}$

 

 

---

3. 지수함수

---

3.1. 지수

• 지수는 거듭제곱의 표현입니다. $a^b$라는 수가 있으면 $a$를 밑, $b$를 지수라 하며, 의미는 $a$를 $b$번 곱하라는 뜻입니다.

 

3.2. 지수함수

• 지수함수는 변수가 지수 자리에 있는 경우를 의미합니다.

• 표현식

  $y=a^x \; (a \neq 0, \; a > 0)$

 

 

---

4. 시그모이드 함수

---

4.1. 시그모이드 함수

• 딥러닝을 실행할 때 출력 값으로 얼마나 내보낼지를 계산하는 함수를 활성화 함수라고 합니다. 그 중 하나가 시그모이드 함수입니다. 시그모이드 함수는 exp 함수가 분모로 오는 함수를 말합니다.

• 시그모이드 함수는 이진수 논리값을 고를 때 유용하게 쓰입니다.

• 표현식

  $f(x)=\displaystyle\frac{1}{1+e^{-x}}$

 

 

---

5. 로그함수

---

5.1. 로그

• 로그는 밑과 진수에 대한 지수를 나타낸다.

• 표현
  $a^x=b$ (지수 표현)
  $log_a b=x$ (로그 표현)

 

5.2. 로그함수

• 로그함수는 지수함수의 역함수로 로그에서 진수가 변수인 형태이다.

• 표현식

  $y=log_a x \; (a>0)$

---

Reference
- 해당 글은 "모두의 딥러닝" 3장을 기반으로 작성되었습니다.

1. 조태호. 모두의 딥러닝 (개정3판). 길벗(2022)