profile
성장하는 AI Research Engineer
post-thumbnail

[The Matrix Calculus You Need For Deep Learning] Review - 3 Introduction to vector calculus and partial derivatives

3. Introduction to vector calculus and partial derivatives Neural Network의 layers는 $f(x)$와 같이 하나의 파라미터를 가진 하나의 function이 아니다. 따라서, 여러 개의 파라미터를 가진 함수

2023년 7월 15일
·
0개의 댓글
·

[The Matrix Calculus You Need For Deep Learning] Review - 2 Review: Scalar derivative rules

2. Review: Scalar derivative rules 다음의 main scalar derivative rules 를 기억하기 바란다. 아래의 수식들이 너무 생소하거나 이해가 어렵다면 Khan Academy코스를 참고하기 바란다. Reference The M

2023년 7월 11일
·
0개의 댓글
·

[The Matrix Calculus You Need For Deep Learning] Review - 1 Introduction

Abstract 이 자료는 딥러닝을 위한 모든 행렬 미적분에 대해서 설명하고 있다. 미적분 1에서 배운 것 이상의 수학 지식이 없다고 가정하고 관련된 수학지식들을 같이 설명한다. 이 자료는 신경망에 대해 알고 있고, 기초 수학에 대한 이해를 심화시키고 싶은 사람들을

2023년 7월 5일
·
0개의 댓글
·

인공지능 수학 공부 - 논문으로 공부하자! [The matrix calculus you need for Deep Learning

인공지능을 이해하고, 활용하려면 수학 지식이 반드시 필요하다.여러 수업들을 들어봤지만, 무료로 공개되어 있는 강의들은 기초-입문 수준의 강의들이 많았다. 그리고 커리큘럼이 인공지능에 꼭 맞춰져 있지 않기도 했다. 그래서 열심히 찾아보던 중, 수학 논문을 찾았다. 인터넷

2023년 7월 3일
·
0개의 댓글
·

Machine Translation 모델에서 UNK Token 처리 방법

UNK token이란 unknown token을 말한다.기계번역은 source 언어 sentence를 target 언어 sentence로 번역한다. 모델이 배우지 못한 단어이거나, 학습이 덜 되어있으면 모델이 번역을 하지 못하고, 모르는 단어라는 뜻의 unk token

2023년 7월 2일
·
0개의 댓글
·

[Python] Collections.Counter 모듈 사용법

Collections.Counter collections docs 본 포스팅은 공식문서를 읽고 정리하는 용도이며, Python 3.9를 기준으로 합니다 Collections.Couter tool은 편리하고, 빠른 집계 모듈이다. 즉, 더 간편한 dictionary라고

2023년 6월 21일
·
0개의 댓글
·