# Cross Entropy

13개의 포스트

Cross Entropy

모델 학습에서 이미지를 보고 실제 분포를 예측하게 한다. 하지만 실제 분포는 정답이 있기 때문에 [0, 1, 0] 이런식으로 불확실도가 0으로 두고 계산한다. [개, 고양이, 물고기] 중에 정답은 고양이 1개로 정해지기 때문이다.

2022년 9월 21일
·
0개의 댓글
·
post-thumbnail

Cross entropy

(사진 출처 : https://medium.com/data-science-bootcamp/understand-cross-entropy-loss-in-minutes-9fb263caee9a)

2022년 8월 7일
·
0개의 댓글
·
post-thumbnail

cross entropy

이번 포스트에서는 개인적으로 딥러닝에서 가장 중요하다 생각하는 loss function, optimizer중 loss function의 cross entropy를 설명하려합니다. cross entropy를 알기 전 먼저 정보이론에 대해 알고 가겟습니다. 컴퓨터는 전기

2022년 6월 27일
·
0개의 댓글
·
post-thumbnail

이미 슬픈 Cross Entropy..

이미 슬픈 Cross Entropy 복습하기.

2022년 6월 27일
·
0개의 댓글
·
post-thumbnail

Entropy 이야기

Entropy 에 대해 이야기 해보자!

2022년 2월 9일
·
0개의 댓글
·
post-thumbnail

회귀(Regression)

지도학습의 경우 문제가 두 가지 분류(Classification)와 회귀(Regression) 문제로 나뉜다.분류는 입력 데이터의 특성(feature)을 이용해 해당 데이터의 클래스(label)를 추론하는 것회귀는 입력 데이터의 특성(feature)을 통해 연관된 다른

2022년 1월 29일
·
0개의 댓글
·
post-thumbnail

손실 함수

예측 정확도를 매개 변수 갱신의 지표로 사용하지 않는 이유를 소개하며 손실 함수의 필요성을 설명한다. 이어 평균 제곱 오차(Mean Squared Error, MSE)와 교차 엔트로피 오차(Cross-Entropy Error, CEE) 손실 함수를 소개한다.

2022년 1월 17일
·
0개의 댓글
·
post-thumbnail

선형 회귀와 로지스틱 회귀

이번 포스팅에서는 선형회귀(Linear Regression)와 로지스틱 회귀(Logistic Regression)에 대해 알아보려 한다. 회귀(Regression) 회귀분석(Regression Analysis) 이란 통계학에서 전통적으로 많이 사용되던 분석 방법이다.

2021년 7월 23일
·
0개의 댓글
·
post-thumbnail

Softmax Regression

softmax regression이란 : 함수를 통해 분류해야 되는 정답지(클래스)의 총 개수를 k라고 할 때, k차원의 벡터를 입력 받아서, 각 클래스에 대한 확률을 추정하는 회귀방식. Softmax Regression를 활용할 수 있는 상황 _ 1. binary

2021년 5월 3일
·
0개의 댓글
·
post-thumbnail

Multinomial Logistic Regression - [Softmax 함수, Cross Entropy ]

다항 로지스틱 회귀(Multinomial Logistic Regression)는 종속변수가 범주 형이면서 3개 이상의 범주를 가질때, 적용할 수 있는 Logistic Regression 모델입니다.

2021년 3월 19일
·
0개의 댓글
·