부스트캠프 AI Tech

우연치 않게, 인터넷 검색 도중 네이버 부스트캠프 AI Tech 라는 좋은 기회를 발견하였다. 평소 AI 에 관심을 가지고 있었고, 체계적인 교육에 대한 갈증을 느끼고 있었기에 주저하지 않고 지원하게 되었다. 📄 선발 과정 선발과정은 다음 아래와 같았다. 코

OS(Operating System,운영체제)는 크게 다음과 같이 정의된다.

변수(Variable) 이란 가장 기초적인 프로그래밍 문법 개념으로, 데이터(값)을 저장하기 위한 메모리 공간의 프로그래밍상 이름이다. 변수는 메모리 주소

LIFO(Last In First Out) 구조이며, 데이터의 입력을 push, 출력을 pop 이라고 한다. 파이썬에서는 list를 이용하여 구현 가능하다.FIFO(First In First Out) 구조이며, 데이터의 입력을 enqueue, 출력을 dequeue 라고

절차지향 프로그래밍의 경우 순차적인 전개 로 과정 을 쉽게 파악할 수 있는 장점이 있지만 유지보수 및 코드의 재사용성은 어려움이 있을 수 있다. 이러한 문제를 해결하기 위해 기능별로 묶어 모듈화하고 모듈 재활용을 통해 코드의 재사용성을 높인 객체지향 프로그래밍 이 등장

사용자의 모든 반응을 예상하여 프로그램을 만드는 것은 생각보다 쉬운일이 아니다. 그렇지만 예상치 못한 반응

파이썬의 고성능 과학 계산용 패키지로, Matrix 와 Vector 와 같은 Array 연산의 표준 으로 불리운다. 넘파이(Numpy) 는 일반 List에 비해 빠르고, 메모리 효율적이다. 또한 반복문 없이 데이터 배열에 대한 처리를 치원하고 선형대수와 관련된 다양한

확률적 경사하강법(Stochastic Gradient Descent)

구조화된 데이터의 처리를 지원하는 python 라이브러리로 numpy와 통합하여 강력한 스프레드시트 처리 기능을 제공한다. 데이터 처리 및 통계 분석을 위해 많이 사용되고 있다.

추후 업데이트추후 업데이트

이번 주말 업데이트 이번 주말 업데이트

데이터가 새로 추가되었을 때, 정보 또는 모수(Parameter)를 업데이트 하는 방식 에 기반이 되는 베이즈 정리를 살펴보도록 한다.

최적화(Optimization)의 concept 과 다양한 method 들, 그리고 Generalization performance 를 높이기 위한 Regularization 들을 정리하고, CNN(Convolutional Neural Ne...

CNN 기본 개념 에 이어서 추가적인 개념들을 알아보도록 한다.

Sequence 데이터 는 음성, 자연어(Natural Language) , 주가 등 연속적인(Sequential) 시계열(Time Series)...

📌 DL Basics 📄 Generative Model1 📄 Generative Model2

자연어(Natural Language) 를 다루는 분야는 여러가지가 있는데, 크게 다음과 같이 분류할 수 있다

Vanila RNN 의 개념과 정리는 미리 살펴봤으므로, 여기선 RNN의 다양한 모델 구조 ...

Seq2Seq 는 many-to-many 구조로 sequence 데이터의 입력을 받아 또 다른 sequence 데이터로 변환하는 모델이다. 일반적인 many-to-many 구조의 경우 입력과 출력의 길이는 정해져 있어...

📌 NLP(Natural Language Processing) 📄 Transfomer(Self-attention) 📚 Reference

📌 NLP(Natural Language Processing) 📄 Self-supervised Learning 📄 Transfer Learning 📄 GPT-1 📄 BERT 📚 Reference

한 예로, 우리가 살아가고 있는 사회를 생각해본다면 70억인구로 구성된 복잡계(complex system) 이다. 이 외에도 통신시스템, 정보와 지식, 뇌, 신체등 여러 구조들을 복잡계로 생각할 수 있다. 이것들이 가지는 공통적인 특성에는 구성 요소간의 복잡한 상호

페이지랭크(PageRank)는 월드 와이드 웹과 같은 하이퍼링크 구조를 가지는 문서에 상대적 중요도에 따라 가중치를 부여하는 방법으로, 웹사이트 페이지의 중요도를 측정하기 위해 구글 검색에 쓰이는 알고리즘이다.

인간 관계 사이에서, 화학 물질 내부에서 등 어디서나 군집을 발견할 수 있다. 그렇다면 그래프에서 어떻게 군집을 잘 찾고 나눌수 있을까?

Node Embedding 이란 그래프의 정점을 벡터로 표현하는 방법 이다. Node Embedding 의 결과를 바탕으로 벡터 형태의 데이터를 위한 도구들을 그래프에도 적용할수 있게 된다. 또한 Node Classification , Community Detectio

이전에 변환식 노드 임베딩(Transductive Node Embedding)에 대해 살펴봤지만, 여러 단점이 있었다. GNN 은 대표적인 귀납식 노드 임베딩(Inductive Node Embedding)으로 임베딩 그 자체가 아닌 encoder를 생성..

이미지 분류(Image Classification) 은 CV에서 가장 기본적인 task 이다. 가령, 강아지와 고양이의 이미지가 주어졌을때, classifier 를 통해 주어진 이미지가 강아지인지 고양이 인지를 구분하는 것이다. 가장 이상적인 classifier는 ..

이전에 알아본 CNN 모델에 이어 추가적으로 SENet,EfficientNet에 대해 살펴보도록 한다.

📌 CV(Computer Vision) ✏️ Deformable Convolutional Network Deformable Convolutional Network

📌 CV(Computer Vision)

📌 CV(Computer Vision)

Lightweight modeling techniques 를 이해하기 위한 기초적인 개념 정의와 배경지식을 간단하게 살펴보도록 한다. 그리고 결정 문제 (Decision problem) 와 최적화 문제 (Optimization problem) 의 관계를 이해하여 모델

경량화의 목적 중 하나인 모델의 시간복잡도를 줄이는 방법과 압축(Compression) 에 대해 살펴보도록 한다. 또한 정보이론의 entropy 를 이해하여 딥러닝에서 널리 활용되고 있는 cross-entropy 의 개념을

📌 Lightweight Modeling

대표적인 경량화 방법중 하나인 Quantization 에 대해 알아보도록 하고, 이를 이해하기 위해 필요한 기초적인 개념에 대해 살펴보도록 한다.컴퓨터는 0 과 1 로 이루어진 기계어로 표현된다. 그래서 우리가 사용하는 10진수를 2진수로 변환하여 컴퓨터가 이해할 수