아침에 일어나는 건 힘들다. 오프라인을 하면 더 일찍 일어나야 하는데, 할 수 있을지 걱정이 벌써 된다. 다음 주에 1번째 해커톤이 있을 예정이라는 이야기를 지난주에 들어서 후기를 찾아보았다. 1번째 해커톤에 대한 후기는 찾을 수 없었지만, 나머지 해커톤 후기에서 나온 이야기를 대충 종합해보면 팀별로 캐글을 한다고 한다. 어떤 것을 할지는 모르겠지만 잘 할 수 있을지 걱정된다. 프로젝트도 허덕이면서 하고 있는데, 해커톤이라니. 〣(ºΔº)〣 2학기에는 다른 수업도 들으면서 해커톤 준비도 해야 한다고 한다. 그때가 되면 나도 할 수 있을까? 벌써부터 두근두근하다.
Node
오전에는 조원들과 프로젝트와 해커톤 이야기를 하고, 개인적으로 볼 일을 이것저것 하다 보니 시간이 많이 지났다. 다행히 오늘의 노드는 그나마 조금 아는 내용이 포함되어 있어 금세 끝냈다. 핵심어는 선형 회귀 분석, (다항) 로지스틱 회귀 분석, softmax, cross-entropy. 선형 회귀 분석의 경우는 통계 시간에 배운 내용이고, SPSS와 R로 그려보고 해석해 본 적이 있어서 그다지 어렵지는 않았다. 그때 정말 힘들었다. 잘 모르는 내용을 영어로 들으면서 영어로 답하고 토론하고. 필요도 없는 걸 왜 들었을까 하고 처음에는 후회했던 수업이었는데, 인제야 감사함을 느낀다.
로지스틱 회귀 분석의 경우는 배우지 않았지만 그리 어려운 내용이 아니었다. 어려웠던 것은 softmax와 cross-entropy. CS231n 강의에서 손실 함수를 배울 때 나왔던 개념이지만 수식이 많았고, 이론적인 배경 등이 많이 나와 어려웠다. 아직 다 이해는 하지 못해서 나중에 다시 봐야겠다. (그런데 나중이 과연 있을까? (｡•́︿•̀｡) )
오늘부터 매시 30분에 출석 체크를 하러 가야 한다. 뭘 하려다 보면 찍으러 가고 해서 흐름이 끊긴다. 출결방에 매시간 들어가야 해서 그냥 계속 있었다. 계속 있다가 사람들이 들어오면 소리가 나니, 그때 같이 찍는 것이 나을 것 같았다.
풀잎스쿨 CS231n
오늘은 우리 조가 발표하는 날이다. 점심을 먹고, 발표 자료를 마지막으로 1번 더 보았다. 막상 발표하게 되니 떨렸다. 발표할 때는 화면 공유를 하는데, 내 화면만 보이고 다른 것이 안 보이는 데다가 반응도 없어서 혼자 말하는 느낌이 들었다. 떨어서인지 말해야 할 단어들을 빼먹은 것이 있다. 내적이라던가, 보폭이라던가. 암튼 퍼실님들의 기분을 조금 알 것 같은 시간이었다.
오늘의 들은 6강의 제목은 Training Neural Networks이고 배운 내용은 Activation Functions, Data Preprocessing, Weight Initialization, Batch Normalization. 다른 부분은 어느 정도 이해가 되는데, Batch Normalizating은 말도 빠르고 용어도 조금 낯설어서 이해되지 않았다. 다음 시간에 다시 보기로 했으니 다행이다.
출결방에서 퇴실처리를 하고 조원들과 이야기를 나누었다. 처음에는 인사도 안 하고 헤어졌는데, 어느 순간 매일 인사하는 것이 습관이 되었다. 한 분이 unit variance, unit standard deviation, zero-mean과 관련된 질문을 하셨는데, 처음에는 정규화라고 답했다. 그런데 아무리 생각해도 뭔가 찝찝해서 다시 질문을 하고, 알아보니 질문에 대한 답은 표준화였다. mean= 0과 SD=1로 확률 분포 함수를 만드는 것이 표준화이고, 정규화는 평균, 최댓값, 최솟값으로 계산하여 데이터를 0과 1 사이의 데이터로 만드는 것이었다. 정규화가 정규분포와 비슷한 이름이라서 헷갈렸나 보다. 게다가 통계에서는 표준화는 디폴트라서 처음 개념 배울 때 빼고는 특별히 언급을 안 하기도 하고. (네, 변명입니다.)
unit variance, unit standard deviation, zero-mean이라는 용어는 처음 들었는데, 평균 0, 표준편차 1로 만드는 분포라고 표현하는 것보다 더 직관적인 것 같다. 아무튼 그 질문 덕분에 통계 개념에 대해 다시 살펴볼 수 있는 좋은 시간이었다.
이제부터는 프로젝트7 시각화해보고, 시간이 남으면 파이썬 300문제를 조금 풀고, CS231n 복습을 해야겠다.
