[Paper] Why Is Prompt Tuning for Vision-Language Models Robust to Noisy Labels?
Paper link: arxiv.org/abs/2307.11978Code link: github.com/CEWu/PTNL이 논문은 실험으로 결과를 입증하고 설득하는 형식이라서 table을 통해 설명을 이어갈 것 같습니다.이걸 일주일 동안 붙잡으며 읽은 결과, 복잡한 a
[Paper] CLIP-Adapter: Better Vision-Language Models with Feature Adapters
Paper: LINKLarge-scale contrastive vision-language pre-training은 vision representation learning의 많이 발전되어 왔습니다. 전통적인 visual system은 고정된 discrete labels
[Paper] CLIPstyler: Image Style Transfer with a Single Text Condition 논문 리뷰
Abstract Keyword: only single text condition, patch-wise text-image matching loss, CLIP(pre-trained text-image embedding model) 원래 존재하는 스타일 트랜스퍼 방법
[CS224W] 7. Graph Neural Networks 2: Design Space
강의 자료 출처: \[CS224W Lecture 7]GNN Layer = Message + Aggregation이 관점에서 다른 인스턴스화GCN, GraphSAGE, GAT, …Connect GNN layers into a GNNStack layers sequentia
[Python] 리스트 반환 보단 제너레이터 사용
이미지 출처: 파이썬 코딩 도장시퀀스를 결과로 만들어내는 함수를 만들 때 가장 간단한 방법은 원소들이 모인 리스트를 반환하는 것입니다.예로 문자열에서 찾은 단어의 인덱스를 반환하고 싶을 떄, append 메서드를 사용해 리스트에 결과를 추가하고 함수 마지막에 리스트를
[Python] ':=' 왈러스 연산자로 대입식을 사용한 컴프리헨션
컴프리헨션에서 같은 계산을 위해 여러 위치에서 공유하는 경우가 흔합니다.아래의 예씨는 회사에서 주문을 관리하기 위한 프로그램이고 재고를 확인하는 과정입니다.{'나사못': 4, '나비너트': 1}{'나사못': 4, '나비너트': 1}앞의 코드 보다는 짧으나 get_bat
[CS224W] 6. Graph Neural Networks 1: GNN Model
강의 자료 출처: CS224W Lecture6노드 임베딩은 Lecture 3에서 다뤘던 내용입니다. 노드를 d-차원 임베딩으로 매핑합니다. 이는 그래프에서 비슷한 노드들이 서로 가깝게 임베딩 된다는 걸 의미합니다.목표는 노드 $u,v$의 유사도를 계산하는 것이었고, 이
[CS224W] 5. Label Propagation for Node Classification
강의 자료 출처: CS224W Lecture 5정리는 위 출처의 자료를 바탕으로 모든 페이지를 옮겨 정리한 것입니다. 그래프를 처음 공부해서 잘못 이해한 내용이 있을 수 있습니다. 오류를 댓글로 알려주시면 수정하겠습니다. 감사합니다.Message Passing and
[CS224W] 3. Node Embeddings
강의 자료 출처: CS224W Lecture 3정리는 위 출처의 자료를 바탕으로 모든 페이지를 옮겨 정리한 것입니다. 그래프를 처음 공부해서 잘못 이해한 내용이 있을 수 있습니다. 오류를 댓글로 알려주시면 수정하겠습니다. 감사합니다.Node EmbeddingsEncod
[Python] 함수 데코레이터 정의 (functools.wrap)
함수에 적용할 수 있는 데코레이터(decorator)를 정의할 수 있음자신이 감싸고 있는 함수의 입력 인자, 반환 값, 오류에 접근 가능→ 함수의 의미 강화 또는 디버깅, 등록 등에 유용하게 사용됨trace() 함수는 함수를 인자로 받으며, 내부에 wrapper()
[Paper] Neural Machine Translation by jointly Learning to Align and Translate
참고 출처\[Paper Review] Neural Machine Translation by Jointly Learning to Align and Translate15\. 어텐션 메커니즘 (Attention Mechanism)\[NLP | 논문리뷰] NEURAL MACH
[ML] 비지도 학습 - (K-means, 가우시안 혼합 모델)
비지도 학습이란 알고 있는 출력값이나 정보 없이 학습 알고리즘을 가르쳐야 하는 모든 종류의 머신러닝을 의미학습 알고리즘은 입력 데이터만으로 데이터에서 지식을 추출할 수 있어야 함클러스터링(clustering)차원 압축(dimensionality reduction)이상
[ML] What is 'Kernels'?
The kernel calculates the inner product of two vectors in a different space (preferably without explicitly representing the two vectors in the differe
[최적화] Optimization problems
Optimization problems?최적화 문제(optimization problems)란 여러 개의 선택 가능한 후보 중에서 최적의 해(optimial value)를 찾는 것 또는 최적해의 근접한 값을 찾는 문제를 일컫습니다.머신러닝 분야에서는 이를 비용 함수(c
[최적화] Convex optimization problem
Convex optimization problem: f(x)가 convex이고 feasible set이 convex이다.$<convex \\ function>$$<convex \\ set>$local minimum이 global minimum이다.
[핸즈온머신러닝] 4장 모델 훈련
1장부터 3장까지는 머신러닝 모델과 훈련 알고리즘을 살펴보았습니다. 챕터 4는 모델이 어떻게 구현되고 작동되는지를 살펴보는 단원입니다. 모델이 어떻게 작동하는지를 알면 적절한 모델 선택 올바른 훈련 알고리즘 작업에 맞는 좋은 하이퍼 파라미터
머신러닝 공부 중 - 추천 교재, 강의, 블로그
이번 게시글의 목적은 그냥 잠깐 포스팅을 쉬어갈 겸, 작성합니다.공부를 한 사람이라면 누구나 다 알 수도 있는 정보이겠지만, 그래도 누군가에게 도움이 된다면 좋겠네요.전 요즘 머신러닝을 공부 중입니다! 핸즈온 머신러닝 책으로 공부한지 한 달 정도 되었습니다. 해당 책은
[ML ]지도학습(supervised learning) - 분류(classification)
지도학습의 분류를 살펴보려고 합니다.다룰 내용 목차는 아래와 같습니다!ClassificationMaximum likelihood estimationLogistic regressionCross entropy errorMultinomial logistic regressio
머신러닝에 필요한 기초 수학 정리
저는 한빛미디어의 '파이썬으로 배우는 머신러닝의 교과서' 책을 바탕으로 내용을 직접 필기하여 정리하였습니다.내용의 출처는 모두 해당 책임을 밝히며, 책으로 보고 싶으신 분들은 'CHAPTER 4 머신러닝에 필요한 수학의 기본'을 참고하시면 됩니다.필기 자료를 사용하실
[Linear Algebra] Orthogonal Vector and Subspace (직교 벡터와 부분공간)
Lecture 14 직교 벡터(Orthogonal Vector)와 부분 공간(Subspace)저는 위 블로그를 참고하여 그대로 정리하였습니다. Gilbert Strang 교수의 Linear Algebra 강의를 정리한 포스팅입니다. 굉장히 정리가 잘 되어 있어서 강추합