2023 동계 모각코 1회차 결과(2022년 12월 31일)

서지혜·2023년 1월 1일
1

2023동계모각코

목록 보기
3/8

⌚ 활동 시간 : 2022년 12월 31일 오후 8시 ~ 오후 11시
✨ 목표 : [모두의 딥러닝] 1~3장 공부

모두의 딥러닝 1, 2, 3장 내용을 읽고 정리하였다.
책에서 기본적인 내용을 이해하기 쉽게 설명하기 때문에 이전에 공부한 기초 수학 지식들을 다시 정리할 수 있었다.
책에서 부족한 내용들은 인터넷 검색을 통해 채울 수 있었다.
나는 수학 공부를 어려워하는 편이지만 이 책을 통해 공부하면 나도 딥러닝을 천천히 이해할 수 있을 것이라는 용기가 생겼다.


🎈 1장

  • 딥러닝 관련 용어와 기본적인 과정을 설명함

학습(training) : 데이터를 입력하고 패턴을 분석하는 과정
loss : 예측이 빗나간 정도(예측값과 실제값의 차이)
accuracy : 예측이 성공할 확률
속성(attribute) : 학습 및 예측할 데이터의 특징, 항목
클래스(class) : 예측하고자 하는 항목

🎈 2장

  • 딥러닝에서 활용되는 기초 수학 내용을 설명함
  • 일차 함수, 이차 함수, 미분, 편미분, 지수 함수, 시그모이드 함수, 로그 함수

주요 미분 성질

  1. f(x) = a에서 a가 상수일 때 미분값은 0
  2. f(x) = x일때의 미분 값은 1
  3. f(x) = ax에서 a가 상수이면 미분값은 a
  4. f(x) = x^a에서 a가 자연수이면 미분값은 ax^(a-1)

편미분

  • 원하는 변수만 미분하고 그 외에는 모두 상수 취급함

시그모이드 함수

  • 지수 함수의 밑이 자연상수 e인 함수
  • x가 큰 값을 가지면 f(x)는 1에 가까워지고, x가 작은 값을 가지면 f(x)는 0에 가까워진다.

🎈 3장

  • 선형 회귀, 최소 제곱법 등에 대해 설명함

독립변수 : 다른 변수에게 영향 받지 않고 독립적으로 변하는 변수
종속변수 : 독립변수에 의해 종속적으로 변하는 변수

선형 회귀

선형 회귀는 독립변수를 사용하여 종속변수의 움직임을 예측하고 설명하는 작업이다. 독립변수 x가 1개일 경우 단순 선형 회귀이고 독립변수 x가 여러개일 경우 다중 선형 회귀이다.

최소 제곱법

예측을 위해서는 주어진 데이터와 오차가 가장 작은 함수 f(x)가 필요하다. 이때 최소제곱법을 사용할 수 있다. 최소 제곱법은 입력이 1개일 경우 사용가능하기 때문에 y = ax + b와 같은 일차함수를 찾을 때 사용한다.

오차를 줄이려면 기울기 a와 절편 b의 값을 적절하게 찾아야한다. a와 b를 구하기 위한 식은 아래와 같다.

 a=i=1k(xixiˉ)(yiyiˉ)i=1k(xixiˉ)2\displaystyle\ a \displaystyle\displaystyle= \frac{\sum_{i=1}^{k}\left(x_i-\bar{x_i}\right)\cdot\left(y_i-\bar{y_i}\right)}{\sum_{i=1}^{k}\left(x_i-\bar{x_i}\right)^2}
 b=yˉ(xˉa)\displaystyle\ b \displaystyle\displaystyle= \bar{y}-\left(\bar{x}\cdot a\right)

평균 제곱 오차(mean square error, MSE)

최소제곱법은 입력 값이 1개일 경우만 사용 가능하다. 다수의 입력이 들어올 경우 임의의 함수를 정한 뒤 오차를 평가하여 이를 수정하는 과정을 이용한다. 이때 사용되는 방법 중 하나가 평균 제곱 오차이다. 평균 제곱 오차의 식은 아래와 같다.

 MSE=1n(yiy^i)2\displaystyle\ MSE \displaystyle\displaystyle= \frac{1}{n}\cdot\sum\left(y_i-\hat{y}_i\right)^2

선형 회귀는 임의의 직선에 대한 평균 제곱 오차를 구하고, 이 값을 가장 작게 만드는 함수의 기울기와 절편을 찾는 과정이다.


참고한 자료
https://enjoybioinfo.blogspot.com/2020/06/feature-class-deep-learning.html
https://drhongdatanote.tistory.com/14
https://wikidocs.net/21670
https://hleecaster.com/ml-linear-regression-concept/

profile
개발자가 되고 싶은 감자

0개의 댓글