profile
물리학 전공 / 인공지능 개발자로의 한 걸음
post-thumbnail

알고리즘 - 조이스틱: Greedy: Python

조이스틱 문제를 풀었습니다. 그리디라고 할 수 있을지는 모르겠습니다

2021년 10월 28일
·
0개의 댓글
post-thumbnail

Pytorch로 ResNet 구현, torch summary 살펴보기

ResNet은 우측의 그림처럼 skip-connection을 주어 residual을 학습할 수 있기 때문에 ResNet이라는 이름이 붙었습니다.(ResNet34의 layer)(ResNet34, ResNet50)의 구조ResNet50, ResNet101, ResNet15

2021년 10월 27일
·
0개의 댓글
post-thumbnail

[Transformer]-2 Self Attention 어떻게 계산할까? 차원은?

Transformer의 Self Attention은 무엇일까요?

2021년 10월 20일
·
0개의 댓글
post-thumbnail

SentencePiece 알고리즘

Sentencepiece tokenizer는 언어에 무관하고, 띄어쓰기 유무에 영향을 받지 않으며, 매우 빠르고, 더 발전된 언어 모델을 만들 수 있습니다. 그 원리는 무엇일까요?

2021년 10월 11일
·
0개의 댓글
post-thumbnail

Batch Normalization - backpropagation 유도하기

Batch Normalization은 2015년에 제안된 이래로 꾸준히 쓰이고 있는 정규화 기법입니다. Backpropagation은 어떨지 살펴봅시다

2021년 9월 19일
·
0개의 댓글
post-thumbnail

[Transformer]-1 Positional Encoding은 왜 그렇게 생겼을까? 이유

트랜스포머의 입력은 RNN과 달리 한꺼번에 모든 요소가 들어가기 때문에, 위치관계의 패턴을 Encode해주는데요. 주로 사용되는 Sinusoidal Positional Encoding의 장점에 대해 알아보겠습니다.

2021년 9월 10일
·
2개의 댓글
post-thumbnail

Backpropagation 함께 편미분하기

Gradient Descent 방법을 사용할 때 필수적인 알고리즘, Backpropagation을 살펴봅니다. 딥러닝은 어떻게 학습하는 걸까요?...

2021년 9월 4일
·
2개의 댓글
post-thumbnail

Ex12-간단한 Session을 정의하는 방법, apply로 적용하기

Session based learning에서 Session을 분류하는 방법을 pandas apply 로 실습해보았습니다

2021년 9월 1일
·
0개의 댓글
post-thumbnail

Backpropagation, 벡터로 미분하기

Gradient Descent 방법에서 backpropagation이나 가중치 업데이트 등의 토픽을 다루다보면 Loss function을 가중치로 미분하는 연산이 등장합니다. 이때, 가중치는 행렬이므로 스칼라 함수를 행렬로 미분하는 연산을 정의해야 합니다.

2021년 8월 30일
·
0개의 댓글
post-thumbnail

Ex10 - 뉴스 요약 전처리 및 추론

자연어 전처리와 추론을 중점으로 정리한 글입니다. 깃헙 코드의 목차를 따라가겠습니다 상대적으로 긴 문장으로 짧은 문장으로 변환는 기법을 텍스트 요약이라고 합니다. Ex 10에서는 추상적 뉴스 요약을 해보겠습니다.

2021년 8월 22일
·
0개의 댓글
post-thumbnail

책 리뷰 - 파이토치 딥러닝 프로젝트 모음집(신간 나눔)

TF-KR에서 신간 나눔에 당첨되어 받은 한 줄씩 따라 해보는 파이토치 딥러닝 프로젝트 모음집 - 다양한 AI 프로젝트로 실전 감각 익히기에 대한 리뷰입니다.

2021년 8월 20일
·
0개의 댓글
post-thumbnail

Ex8-Shallow_Focus 구현

cv2와 DeepLab를 함께 사용하여 원하는 부분을 제외하고 blur 시키는 Soft Focus를 구현해 봅니다.

2021년 8월 17일
·
0개의 댓글
post-thumbnail

Ex8-비율이 서로 다른 이미지와 배경 합치기

원본 이미지와 배경이 서로 비율이 다른 경우, 둘 중의 한 쪽이 늘어지는 단점이 있는데요. 이를 해결하여 공유드립니다.

2021년 8월 17일
·
0개의 댓글
post-thumbnail

Ex7-네이버 영화리뷰 전처리 및 예측

자연어 처리의 시작인 네이버 영화리뷰를 도전해 보았습니다.

2021년 8월 13일
·
0개의 댓글
post-thumbnail

Ex6-ray tune 으로 XGBoost 하이퍼파라미터 튜닝하기

ray를 사용하면 간편하게 좋은 성적을 낼 가능성이 낮은 시도를 빠르게 멈추고 서치를 할 수 있습니다. ray공식 홈페이지에 있는 xgb 튜토리얼을 Ex6에 맞게 바꾼 코드를 공유드립니다

2021년 8월 10일
·
0개의 댓글
post-thumbnail

Ex5-가장 닮은 얼굴 고르는 게임 만들기

Ex5를 진행하다가, 어떤 얼굴이 가장 닮은 얼굴인지 고르는 게임이 있으면 재밌겠다는 생각이 들어서, 만들어보았습니다.

2021년 8월 2일
·
0개의 댓글
post-thumbnail

Ex5-colab에서 한글폰트 깨짐 현상 해결

시각화에 한글을 사용하고 싶을 때가 있는데요.그 과정에서 에러를 고치는 방법을 공유드립니다

2021년 8월 2일
·
0개의 댓글
post-thumbnail

Ex3-고양이 수염달기_회전에 강건하게(2)

이미지 처리 과정을 함수로 정리하고, 예외처리를 강화했습니다.

2021년 7월 30일
·
0개의 댓글
post-thumbnail

Ex3-고양이 수염 달기_회전에 강건하게(1)

스티커를 3 부분으로 나누어 진행, 회전에 대해 강건하게 만들기고양이 수염을 보고 저것을 왼쪽, 오른쪽, 코로 나누어 진행하면 좋겠다는 생각으로 나누어봤습니다.

2021년 7월 30일
·
0개의 댓글
post-thumbnail

Ex4-Ray의 간단한 사용방법. (Hyperparameter Tuning)

하이퍼파라미터 튜닝을 도와줄 수 있는 모듈 ray에 대해서 간략하게 사용 방법을 적어보았습니다.

2021년 7월 30일
·
0개의 댓글