ML

sklearn에서 제공하는 Sequential Feature Selector

이미지를 패치로 변경 후 Flatten시킨다.그 후 Embedding을 거침.class token과 positional encoding 을 추가함으로서 특정 패치 단위로 학습되게끔.가로 세로 96인 3channel 이미지를 패치사이즈 6, emb_vec_size 64로

feature selection 을 하기 위해 constrastive learning 을 적용해봤다.anchor, positive, negative가 들어간다.이때 positive는 anchor와 같은 라벨, negative는 anchor와 다른 라벨이며, 이 posi

cos similarity는 벡터간 유사도를 구하기 위한 방법으로 식은 다음과 같다.분자에 두 벡터의 내적, 분모의 벡터의 norm이 들어가 있다.연산시 hidden dim = 64인 10000 개의 벡터, 즉 x = (1, 10000, 64)의 벡터에서 각각에서의 p

chennel wise conv와 depth wise conv를 반복하며 feature를 학습한다. patch embedding 을 통해서 각 가로 세로로 이루어진 패치들을 embedding 시켜준 후 반복한다.내 경우 3d 데이터라서 conv 3d로 대체하여 conv