LSTM 논문 과제
1. 기존 RNN에는 어떤 문제가 있었는가? 기존 RNN(Recurrent Neural Network)은 이전 시점의 은닉 상태를 다음 시점으로 전달하므로, 순서가 있는 데이터를 처리할 수 있다. 예를 들어 문장, 음성, 주가처럼 앞의 정보가 뒤의 결과에 영향을 주
LSTM 논문 리뷰
LSTM 논문 리뷰 > Hochreiter, S. & Schmidhuber, J. (1997). > Long Short-Term Memory. Neural Computation, 9(8), 1735-1780.
[프로그래머스] 카운트 다운
문제 요약 목표 점수 target을 정확히 만들기 위해 다트를 던진다. 최적의 방법은 다음 우선순위로 결정한다. 던지는 다트 수를 최소화한다. 다트 수가 같으면 싱글 또는 불을 맞힌 횟수를 최대화한다. [최소 다트 수, 최대 싱글 또는 불 횟수]를 반환한다. 핵심 아이디어 dp[score]를 정확히 score점을 만드는 최적의 결과라고 정의한다....
[프로그래머스] 연속 펄스 부분 수열의 합
문제 요약 수열의 연속 부분 수열 하나를 선택하고, [1, -1, 1, -1, ...] 또는 [-1, 1, -1, 1, ...] 형태의 펄스 수열을 곱한다. 만들어진 연속 펄스 부분 수열의 합 중 최댓값을 구한다. 핵심 아이디어 펄스 수열의 부호 패턴은 두 가지뿐이다. 원본 수열의 인덱스 기준으로 두 패턴을 미리 곱한 변환 수열을 생각한다. 어떤...
[프로그래머스] 최고속도
문제 요약 도로는 수평 또는 수직 선분이며, 교차하거나 만나는 지점에서 서로 연결된다. 각 도로의 중앙에는 제한 속도를 가진 카메라가 있다. 1번 도시에서 출발해 각 도시까지 일정한 속도로 이동할 때, 경로에서 통과하는 모든 카메라 제한 속도를 만족하는 최대 속도를 구한다. 카메라를 전혀 지나지 않는 경로가 있으면 제한 없이 이동할 수 있으므로 0을 반...
[72일차] Denoising AutoEncoder, VAE와 GAN
기본 AutoEncoder는 입력을 잠재 표현으로 바꾼 뒤 원본과 비슷하게 복원한다. 여기서 입력에 노이즈를 추가하거나 잠재 공간에 제약을 주면 다른 목적의 모델로 확장할 수 있다. 이번에는 Denoising AutoEncoder, Sparse AutoEncoder, VAE(Variational AutoEncoder)를 살펴본다. 이어서 생성자와 판별자가...
[프로그래머스] 고고학 최고의 발견
문제 요약 n x n 시계 격자에서 한 시계를 조작하면 자기 자신과 상하좌우 인접 시계가 시계 방향으로 90도 회전한다. 모든 시곗바늘을 12시 방향인 0으로 만들기 위한 최소 조작 횟수를 구한다. 시계 방향은 0, 1, 2, 3으로 표현하며 모든 변화는 mod 4 연산으로 처리할 수 있다. 핵심 관찰 1. 같은 시계는 최대 3번만 조작하면 된다 ...
[71일차] Transformer 구조와 AutoEncoder
Transformer는 RNN처럼 Token을 순서대로 처리하지 않고, Attention을 이용해 시퀀스 전체의 관계를 한 번에 계산한다. AutoEncoder는 입력 데이터를 압축한 뒤 다시 복원하면서 데이터의 핵심 특징을 학습한다. 이번에는 Transformer의 Multi-Head Attention, 위치 정보, Encoder와 Decoder 구조를...
[70일차] LSTM, GRU와 트랜스포머의 Attention
기본 RNN은 이전 시점의 정보를 hidden state에 담아 다음 시점으로 전달한다. 하지만 시퀀스가 길어지면 오래전 정보가 제대로 학습되지 않는 장기 의존성 문제가 발생할 수 있다. 이번에는 기본 RNN의 한계를 보완한 LSTM과 GRU를 살펴보고, 입력 시퀀스를 출력 시퀀스로 바꾸는 Seq2Seq, 필요한 정보에 직접 집중하는 Attention까...
[69일차] 텍스트 벡터화와 RNN 시계열 예측
텍스트 벡터화와 워드 임베딩을 살펴보고, 순서가 중요한 데이터를 처리하는 RNN(Recurrent Neural Network)으로 다음 거래일의 KOSPI 종가를 예측한다. 1. 텍스트 벡터화 벡터화(Vectorization)는 텍스트를 머신러닝과 딥러닝 모델이 계산할 수 있는 숫자 벡터로 바꾸는 과정이다. 텍스트를 숫자로 표현하는 대표적인 방법은...
[프로그래머스] 디펜스 게임
문제 요약 병사 n명으로 순서대로 등장하는 적을 막는다. 한 라운드를 일반적으로 막으면 적 수만큼 병사가 줄어든다. 무적권은 최대 k번 사용할 수 있고, 사용한 라운드에서는 병사가 줄지 않는다. 최대로 막을 수 있는 라운드 수를 구한다. 핵심 아이디어 어떤 시점까지 막은 라운드들 중에서 무적권은 적 수가 가장 많은 k개 라운드에 쓰는 것이 항상 최...
[프로그래머스] 자동완성
문제 요약 중복 없는 학습 단어들이 주어졌을 때, 각 단어를 다른 단어와 구분해 자동완성하려면 몇 글자를 입력해야 하는지 구한다. 모든 단어에 필요한 입력 글자 수의 합을 반환한다. 핵심 아이디어 단어를 사전순으로 정렬하면, 어떤 단어와 가장 긴 접두사를 공유할 수 있는 단어는 정렬된 목록에서 바로 앞 또는 바로 뒤에 있다. 따라서 현재 단어가 ...
[프로그래머스] 숫자 게임
문제 요약 A팀의 출전 순서는 이미 정해져 있고, B팀은 출전 순서를 자유롭게 정할 수 있다. B팀 선수가 A팀 선수보다 큰 숫자를 낼 때만 1점을 얻는다. B팀이 얻을 수 있는 최대 승점을 구한다. 핵심 아이디어 실제 출전 순서보다 어떤 숫자가 어떤 숫자를 이기는지가 중요하다. 따라서 A와 B를 모두 오름차순 정렬한다. B의 작은 숫자부터 확인하...
[프로그래머스] 단어 퍼즐
문제 요약 주어진 단어 조각을 원하는 만큼 사용해 문자열 t를 완성한다. 문자열을 완성하는 데 필요한 단어 조각 수의 최솟값을 구하고, 만들 수 없다면 -1을 반환한다. 핵심 아이디어 dp[i]를 t의 앞에서부터 i글자까지 완성하는 데 필요한 최소 조각 수라고 정의한다. 어떤 위치 i까지 만들 수 있고, 그 위치부터 시작하는 조각 piece가 t와...
Malware Detection 정리
1. Project Overview (프로젝트 개요) 1.1 프로젝트 명과 개발 배경 | 항목 | 내용 | | ----------- | -----------------------------------------------------------...
[68일차] 자연어 처리 기초와 토큰화
자연어 처리(Natural Language Processing, NLP)는 컴퓨터가 사람이 사용하는 언어를 분석하고 이해하며 생성할 수 있게 만드는 인공지능 분야다.
[프로그래머스] 카드 짝 맞추기
문제 요약 4 x 4 보드에서 같은 그림 카드 두 장을 선택해 제거한다. 방향키 이동, Ctrl + 방향키 이동, Enter 입력은 각각 1회 조작으로 센다. 현재 커서 위치에서 모든 카드 쌍을 제거하는 최소 조작 횟수를 구한다. 핵심 아이디어 이 문제에는 두 종류의 탐색이 필요하다. BFS: 현재 남은 카드 상태에서 한 커서 위치에서 다른 위치까...
[프로그래머스] 트리 트리오 중간값
문제 요약 트리에서 서로 다른 세 정점 a, b, c를 골랐을 때, 세 쌍의 거리의 중간값을 f(a, b, c)라고 한다. 모든 세 정점 조합 중 f의 최댓값을 구한다. 핵심 아이디어 트리에서 가장 먼 두 정점 사이의 거리를 지름이라고 하자. 어떤 세 정점을 골라도 두 정점 사이의 거리는 지름을 넘을 수 없으므로, f의 최댓값도 지름을 넘을 수 없다...
[프로그래머스] 선입 선출 스케줄링
문제 요약 처리 시간이 서로 다른 여러 CPU 코어에 작업을 순서대로 배정한다. 시작 시각에는 모든 코어가 비어 있으므로, 앞 번호 코어부터 작업을 하나씩 받는다. 어떤 코어의 작업이 끝나면 즉시 다음 작업을 받는다. 같은 시각에 여러 코어가 비면 번호가 작은 코어부터 작업을 받는다. n번째, 즉 마지막 작업을 처리하는 코어 번호를 반환한다. 핵심...
[프로그래머스]빛의 경로 사이클
각 칸에 S, L, R이 적힌 격자에서 빛은 현재 칸의 지시에 따라 직진, 좌회전, 우회전한 뒤 다음 칸으로 이동한다. 격자 밖으로 나가면 반대편으로 이어지는 토러스 구조다.모든 빛의 경로 사이클 길이를 구해 오름차순으로 반환해야 한다.빛의 경로는 위치만으로 결정되지