배운 점

새로운 키워드

• 피셔 정보량: 표본이 모수를 추정하는데 기여하는 정도.
  score function의 분산 혹은 negative log likelihood의 expected Hessian으로 정의된다.

인사이트

• ReLU를 사용한 레이어에서 다음 특징을 만족한다.
  
• 원래 논문에 소개된 카이밍 초기화는 $\sqrt{2/n}$ 꼴인데, 파이토치 레포의 이슈를 확인하면 왜 2가 5로 바뀌었는지 알 수 있다.

좋았던 점

• 데일리 스크럼 때 우리 팀의 그라운드 룰을 정리했다. 이제까지 참여가 저조해서 답답했는데 적극적으로 참여할 것으로 보인다.
• 팀 노션에서 계획 내용을 좀 더 다듬었다.
• 오랜만에 논문 리뷰를 했다. 짧게 필요한 부분을 리뷰했는데 예전보다 속도가 나와서 재밌게 했다.

아쉬운 점

• 방금 데일리 스크럼이 끝났는데, 다른 팀원들에게 독촉하지 않았나 싶었다. 최대한 유쾌하게 말하려고 했는데, 불편한 팀원이 있을 수도 있겠다 생각이 들었다