해커톤
오전에는 각자 공부를 했다. 팀장님이 갑자기 logit, sigmoid, softmax에 대해서 공부해오라고 해서 급하게 정리를 했다. 정리하면서 신경망의 출력에 logit이라는 개념을 사용할 수 있다는 것을 처음 알았다. 공부하고 보니 BERT에서 NSP와 MLM 문제를 풀 때, logit이 사용되고 있는 것이 보였다. 예전에는 그냥 넘겼던 것인데, 팀장님 덕에 logit이 보이고, 그 의미가 무엇인지 배울 수 있었다. 사실 명확하게 logit이 뭔지 구체적으로 설명한 블로그는 찾을 수 없었지만 대충 어떤 의미인지는 조금은 알 것 같다. 딥러닝에서 logit은 확률화되지 않은 예측 결과라고 한다. 그래서 softmax를 통과해 확률로 바꿔주는 것이다. 이해가 될 것 같으면서도 명확히 잘 되지 않는다. 하지만 너무 깊이 들어가면 더 혼란스러울 것 같아서 지금의 수준에서는 이정도로 만족해야 할 것 같다.
오후에는 팀장님 집에 가서 BERT를 설명했다. 발표였지만 함께 얘기를 나누었다는 게 더 맞는 것 같다. 명확히 이해가 안 되는 부분이 많았기 때문이다.
3시 반에 면접 준비를 했다. 점심 때쯤 담임 쌤이 연락이 와서 면접 준비를 하자고 하셨다. 자소서를 보고 안 되겠다고 생각하셨나 보다. 담임쌤과 퍼실님께서 질문을 하셨다. 연습이었지만 긴장을 많이 해서인지 말도 빨랐고, 태도도 많이 안 좋았다고 한다. 내가 생각해도 엉망이었다. 설명도 길게 하고, 하지 말아야 할 말도 많이 했다. 부끄럽지만 그게 나의 현재 상태인 것 같다. 현실을 직시하고 부족한 점을 고쳐야겠다.
