머신러닝을 위한 기초수학

대수학적 성질 Algebraic Properties변수, 상수 및 연산자를 포함하는 수학적 식을 어떻게 조작할 수 있는지를 규정하는 규칙 또는 법칙교환법칙(Commutative Property) : 덧셈 또는 곱셈의 순서는 결과에 영향을 주지 않는다.a + b = b

a collection of distinct and well-defined things(or elements)구분이 명확하고 구별되는 것들(또는 요소들)Enumerating Elements(Roster Form):요소들을 중괄호 { }로 묶어 나열하여 집합을 나타내는

Functions두 집합 X, Y에 대해 ∀x ∈ X가 y ∈ Y에 오로지 하나만 대응되는 관계Injective (단사): 같은 y에 대해 한 개 이상의 x가 대응되지 않는다.Surjective (전사): 모든 y에 대해 적어도 한 개의 x가 대응된다.Bijective

선형 함수(Linear Functions)y = ax + b여기서 a와 b는 상수x는 독립 변수이고, y는 종속 변수a는 기울기(slope)를 나타내고, b는 y절편(y-intercept)을 나타냄선형 함수의 그래프는 직선또한 x의 차수가 1차이기 때문에 다항식 함수(

매개변수 모델 (Parametric Models)은 매개변수(parameter)를 이용하여 함수를 표현하는 모델매개변수는 모델 내부의 값을 조정하는데 사용되며, 모델의 출력값을 제어다변수 함수(Multivariate Functions)는 하나 이상의 변수가 포함된 함수

Limits 극한x가 a에 접근할 때 f(x)가 L에 접근한다.하지만 x는 절대로 a와 같아지지 않는다.구체적으로, 임의의 양수 ε에 대해, |x-a| < δ인 경우 |f(x) - L| < ε가 되도록 양수 δ가 존재한다.좌극한과 우극한 (Left / Ri

평균변화율 (Average Rates of Change) / 순간변화율(Instantaneous Rates of Change)출처 : https://www.youtube.com/watch?v=VNwTmjYMJ7A 즉, 미분계수(Differential Coeff

다변수 함수(Multivariate Functions)와 그래디언드(Gradients)아래 그림에서 f(x1, x2)는 x1과 x2라는 두 개의 변수를 입력으로 받아y라는 하나의 값을 출력하는 함수이다.이 함수의 그래디언트 벡터 ∇f(x1, x2)는 다음과 같다∇f(x

벡터는 크기와 방향을 가진 양을 나타내는 개념!벡터는 보통 화살표로 표현되며, 화살표의 길이는 벡터의 크기를 나타내고,방향은 벡터가 가리키는 방향을 나타낸다.그래디언트는 벡터 계산의 한 종류로서, 함수의 기울기를 나타낸다.그래디언트는 다변수 함수의 각 변수에 대한 편미

야코비안(Jacobian)은 다변수 함수의 미분에 대한 개념으로, 벡터 함수의 미분을 나타낸다.일차 함수의 도함수는 해당 함수의 기울기를 나타내듯이,다변수 함수의 미분은 해당 함수의 입력 벡터에 대한 변화율을 나타낸다.추가로,야코비안 행렬은 다변수 함수의 모든 변수에

구분구적법과 정적법구분구적법은 주어진 구간을 여러 개의 작은 구간으로 나누어서, 각각의 작은 구간에서 함수값을 근사적으로 계산한 후 이 값을 더해 정적분 값을 근사하는 방법이 방법은 직사각형의 넓이를 계산하여 근사적인 값을 얻으므로, 정확도가 낮을 수 있다.정적법은 부

부정적분이란 미분과 반대되는 개념으로, 주어진 함수의 원래 함수를 찾는 것.적분은 함수의 기울기를 찾아내는 미분과 반대로 함수의 면적을 구하는 것!1\. 적분 공식기본적분 공식: ∫ x^n dx = (x^(n+1))/(n+1) + C (단, n ≠ -1)삼각함수 적분

벡터 : 크기(또는 길이)와 방향 모두를 가지는 수학적 객체실수의 문맥에서, ℝ^n 벡터는n개의 실수 모음으로 나타낸다.여기서 각각의 ui는 실수이며, 벡터 u는 n차원 공간에서의 한 점을 나타낸다.예를 들어, n = 2인 경우, u는 평면상의 한 점을 나타내고, n

행렬(Matrix) : 수학적인 객체로, 숫자들을 사각형 형태로 배열한 것이다.각 숫자들은 해당 행렬의 원소(element)라고 부른다.행렬은 선형 대수학과 컴퓨터 과학 분야에서 매우 중요한 역할을 한다.특히, 컴퓨터 그래픽스나 기계 학습 분야에서 이미지나 데이터를 다

선형 연립방정식(systems of linear equations)은 다음과 같은 형태의 방정식들의 집합이다.여기서 aij와 bi는 실수이다.이 식을 행렬과 벡터의 곱으로 표현하면 Ax = b가 된다.이때, A는 계수행렬(coefficient matrix)로서, aij

Reflection Matrices : 2차원 또는 3차원 공간에서 객체를 반사하는 데 사용2차원 공간에서 x축을 기준으로 객체를 반사시키는 Reflection Matrix는 다음과 같은 형태를 갖는다. 3차원 공간에서는 xy-평면에 대해 객체를 반사시키는 Reflec

Projection onto an Axis(축에 대한 사영)공간 상의 어떤 점이나 객체를 한 축(axis)에 대해 수직으로 내려서 투영시키는 것이 때, 투영되는 결과물은 해당 축에 대해 수직인 선분이 된다.위 식은 벡터 v를 벡터 u에 대해 정사영시키는 공식이다.이를

Invertible Transformations은 매트릭스 A가 역행렬을 가지는 경우에 해당된다.역행렬이란, A와 곱해서 항등행렬(identity matrix) I가 되는 행렬을 의미한다.역행렬이 존재하는 매트릭스 A를 가지고 있는 경우,Ax=b의 식에서 x는 다음과

확률random experiments(무작위 실험): 이는 결과를 확실하게 예측할 수 없으며, 대신 여러 가능한 결과가 있는 실험을 의미ex. 동전 던지기 / 주사위 던지기 / 카드 뽑기 / 로또 등sample space(표본 공간): 표본 공간은 무작위 실험의 모든

Conditional Probabilities 조건부 확률사건 B가 발생했다는 것을 알고 있을 때, 사건 A가 발생할 확률을 나타내는 조건부 확률여기서 P(A ∩ B)는 사건 A와 B가 동시에 발생하는 확률(교집합), P(B)는 사건 B가 발생할 확률을 나타낸다.즉,

베이즈 정리 : 새로운 정보나 증거를 기반으로 사건에 대한 믿음이나 확률을 업데이트하는 확률 이론의 기본 개념P(A|B)는 사건 B가 발생한 경우 사건 A가 발생할 조건부 확률P(B|A)는 사건 A가 발생한 경우 사건 B가 발생할 조건부 확률P(A)는 사건 A가 발생할

확률변수(Random Variables) => Funcion 함수라 생각랜덤 변수 X는 표본 공간에서 각 결과 s에 대해 실수 x를 할당하는 함수이다.즉, 각 가능한 결과 s에 대해 X(s)는 실수!X가 취할 수 있는 모든 가능한 값의 집합을 X의 범위(Range)라고

확률 변수 X의 분산의 정의 = 산포도(Variances)X의 분산인 σ^2는 X와 X의 평균인 μ의 제곱 차이의 제곱의 기댓값과 같다.여기서 EX^2는 X의 제곱의 기댓값이며, (EX)^2는 X의 기댓값의 제곱따라서 확률 변수 X의 분산(산포도)을 계산하려면먼저 X

Binomial Distributions 이항분포각각의 시행이 독립적이며, 성공 확률이 동일한 고정된 횟수의 시행에서 특정한 성공 횟수가 나올 확률을 나타내는 확률 분포이항 분포는 n과 p 두 개의 매개변수를 가지며, n은 시행 횟수이고 p는 각 시행에서 성공할 확률n

로짓(logit) : 어떤 사건의 성공 확률을 나타내는 P(A)와 실패 확률을 나타내는 1-P(A)의 비율의 로그값어떤 사건 A의 확률값 P(A)를 실수값인 로짓(logit) 또는 로그 오즈(log-odds) 값으로 매핑한다.구체적으로, 어떤 사건 A의 확률값 P(A)

샤논 정보량(Shannon Information) 또는 샤논 엔트로피(Shannon entropy): 확률 분포에서의 불확실성 또는 무작위성의 정도를 측정하는 방법 중 하나사건 A의 샤논 정보량은 I(P(A))로 표기되며, A의 확률의 음의 로그로 정의된다.샤논 정보량