Deep Learning

CNN이란?  CNN(Convolutional Neural Network)은 인간의 시각 처리 방식을 모델링한 것으로, 시각적인 데이터 처리를 위한 딥러닝의 한 형태이다.  기존의 DNN(Deep Neural Network)은 MLP에서 은닉층

손실 함수의 종류엔 제곱오차합과 크로스 엔트로피 함수가 있다. 그렇다면 이런 의문이 든다. 이 두 개의 손실 함수 중 무엇을 사용하는 것이 효율적일까? 그리고 그 이유는 무엇일까? 오늘은 그 이유에 대해 알아볼 것이다.

 자연어를 컴퓨터에게 이해시키기 위해선 '단어의 의미'를 먼저 이해시켜야 한다.시소러스 : 유의어 사전으로, 동의어나 유의어가 한 그룹으로 분류됨. (ex) WordNet'상위와 하위', '전체와 부분' 등 세세한 관계까지 정의해 두기도 함.모든 단어에 대한 유의어 집

 딥러닝의 학습 과정을 모르는 건 아니지만... 한 번쯤은 정리해 두는 것이 좋을 것 같아서 기록을 남긴다 ! 딥러닝 학습 과정  딥러닝의 학습 과정은 "Forward Propagation -> Loss 계산 -> Backward Propagatio

CIFAR-10은 컴퓨터 비전 입문에서 가장 널리 쓰이는 이미지 분류 데이터셋이다.총 10개 클래스 (airplane, automobile, bird, cat, deer, dog, frog, horse, ship, truck)학습 데이터 : 50,000장 / 테스트

깊은 네트워크 학습을 어렵게 만드는 대표적인 문제로 gradient vanishing/exploding이 있다. 하지만 ResNet 논문에서 강조한 degradation problem은 단순히 gradient vanishing 때문만은 아니며, 깊은 plain net

핵심 : 문장, 음성 신호, ECG 파형, 수요 곡선 같은 데이터는 단순히 독립적인 값들의 집합이 아니라 순서가 있는 객체이다. 따라서 순서를 고려할 수 있는 sequence model이 필요하다.기존 feed-forward layer는 입력 x 하나를 받아서 선형 변

기존 RNN 기반 Sequence-to-Sequence 모델은 입력 문장을 순서대로 읽고, 마지막 hidden state 또는 하나의 context vector c에 입력 전체의 정보를 압축한 뒤 decoder로 전달하는 구조이다. 예를 들어 영어 문장 we see

멀티모달 AI는 이미지, 텍스트, 음성처럼 서로 다른 형태의 데이터를 함께 다루는 AI이다. 예를 들어, 이미지와 텍스트를 함께 다루는 경우, 사진과 문장을 비교하고 모델은 이미지와 각 문장이 얼마나 잘 맞는지 계산할 수 있다. CLIP은 이미지와 텍스트를 같은 벡터

LLM은 Large Language Model의 약자로, 대량의 텍스트를 학습한 언어 모델이다. LLM은 완성된 문장을 한 번에 만들어내는 것이 아니라, 앞에 나온 token들을 보고 다음 token의 확률분포를 예측하는 방식으로 문장을 생성한다. 즉, LLM의 기본