메모

backpropagation을 forward하는 도중에 하면 안되나? 실시간으로 지나치면서 update하는거, 스처지나가면서 gradient 즉각 update하는loop하는 구간을 만들수 없나? layer을 재사용하는것ReLU 대신 input을 편식하는 구조?auxil

바닷가를 산책하다가 바위에 부딪혀 부서지는 파도를 봤다. 그 장면을 소설로 써야한다면 어떻게 써야할까 고민하다가, 그 묘사가 1초후의 파도와 어떻게 다른지 생각했다. 내 답은 언어가 두 순간을 완전히 표현할 수 없다는 거였다.세상의 distribution을 언어가 완전

MIT The Human Brain 강의 (1/24)https://ocw.mit.edu/courses/9-13-the-human-brain-spring-2019/pages/syllabus/Kaggle tutorialhttps://www.kaggle.c

지난 사유에 이어서 이런 생각이 들었다.내가 말로 1초 전과 후의 파도를 완벽히 구분가능하게 표현할 수 없는것은 근본적으로 언어가 세계의 정보를 완벽히 포함할 수 없기 때문인데 그런 게 가능한, 예컨대 외계인이 있고 그들의 의사소통 형식은 완전히 원본의 정보를 담아낼

읽은거/읽을거 정리철학 관련 정보우파니샤드바가바드 기타마하바라타붓다서양 철학

헷갈리는 용어/개념 정리용mAPmAP(mean Average Precision)혹은 인공지능 강의 22강feature map, activation maphttps://jisuhan.tistory.com/34

몇달 전 차를 타면서 라디오로 뉴스를 듣다가 출생율 감소에 대한 뉴스를 들었다. 다음 날 뉴스에선 (정확히 기억은 안 나지만) 시민 수 감소와 도시 소멸 예측에 대한 보도를 들었다. 나는 내가 두 뉴스를 듣고도 아무런 감흥을 느끼지 않았다는 사실에 깜짝 놀랐다. 뉴스는

저번에 '언어와 시각과 본질에 대한 고찰' 포스트에서 나는 파도를 보며 언어가 세계의 일부분만을 설명해주는 latent space라고 표현했다. 마찬가지로 시각도 세계의 일부분만을 비출 뿐인 '도구'라고 말했다.나는 철학책을 읽다가 나의 이러한 생각이 칸트의 철학과 상

분석철학, 실존주의, 칸트에 입각한 내 생각을 두서없이 늘어놓는 글이다.진리, 도덕, 신처럼 철학이 종종 의미없는 이야기를 하는데, 나는 이것이 언어의 불완전성에서 오는 함정이라고 주장한다.언어는 실용을 위해 불완전하게 창조됐다. 우리의 선조들, 원시인들이 최초로 말을

더 조사해볼것WandBhttps://pebpung.github.io/wandb/2021/10/06/WandB-1.htmlSweephttps://pebpung.github.io/wandb/2021/10/10/WandB-2.html

역시 우주는 고립계 아닐까? 세계 이외의 것이 존재하지 않고, 인식할 수 없다는 점에서 그런 것 같다.빅뱅 이후 가속도 운동으로 항성들이 멀어지고 있는 것은 그들이 세계의 경계를 향해 질주하기 때문 아닐까?세계의 크기가 무한하다면 이를 표현하는 정보량 또한 무한할 텐데

https://lute3r.tistory.com/240input() 내장 함수는 sys.stdin.readline()과 비교해서 prompt message를 출력하고, 개행 문자를 삭제한 값을 리턴하기 때문에 느리다.

복무기간 1/4이 지난 시점에서 중간 점검지금까지 한일논문 70편 리뷰헬스 3대 180 > 380책 21권백준 언랭 > 골드5소해까지 목표는논문 200편 리뷰3대 500책 50권백준 플레딥러닝 플젝추가 목표CV 전공서(원서) 읽기뇌과학 공부언어학 공부철학 공부

Anomaly Detection 개요： 2 Out-of-distribution(OOD) Detection 문제 소개 및 핵심 논문 리뷰https://hoya012.github.io/blog/anomaly-detection-overview-2/

복귀할 때 안까먹게 메모용

비트겐슈타인 관련 책을 읽고 다시금 언어에 관하여 생각해보게 되었다. 내 입장은 앞선 메모들과 변함이 없다. 비트겐슈타인의 입장에 비추어 내 생각을 다시 한 번 가다듬을 뿐이다. 나는 비트겐슈타인의 언어게임이라는 개념이 '맞긴 맞지만 구태여 장황한 설명'(내 어휘력이

훈련소의 시간은 느리게 흐른다. 특히 개인정비, 불침번 중에 더욱 그렇다. 나는 그 시간을 세 가지로 유용하게 사용할 수 있었다. 첫째는 운동이고 둘째는 독서이고 셋째는 사유이다. 나는 비록 원전 텍스트는 아니지만 사르트르와 비트겐슈타인에 대한 책을 읽으며 나의 사유를

논문 읽는법/쓰는법/투고하는법https://theorydb.github.io/dev/2019/08/27/dev-papertomath-paper-io/

논문리뷰 200편 보류현재 100편을 넘겼는데 200편까지 읽는 데 집중하면 이게 차지하는 시간과 노력의 비율이 많이 커서 다른 목표를 달성할 여유가 없으리라고 생각했다. 그래서 당장은 2020년 이전의 역사적인, 유명한 논문들을 리뷰했다는 것에 의의를 두고 앞으로는