배운 점

새로운 키워드

• torch.Tensor.expand() vs torch.Tensor.repeat(): 전자는 크기가 1 차원이 있어야 한다. 후자는 추가 메모리를 할당한다.

인사이트

• view 메소드는 메모리가 연속적으로 할당된 경우에만 사용이 가능함 → 슬라이싱을 한 이후에는 메모리 연속성(contiguous)이 깨진다. reshape은 유연하지만 성능 저하됨
  * 메모리 연속성이 확실하고 성능이 중요하면 view, 안전하게는 reshape
• 연산자 vs 연산자_: 전자는 연산 결과 새로운 객체 반환, 후자는 in-place 연산이다. 전자는 autograd와 호환성, 후자는 메모리 사용량에 강점을 보인다.
• 대칭 이동 연산의 경우 다음 행렬을 곱하는 위치에 따라 달라진다. (아래 예시는 $3\times3$)
  
  * x축 대칭: $A_x = J_3 A$
  * y축 대칭: $A_y = A J_3$

좋았던 점

• 텐서를 조작하면서 차원 변화가 헷갈렸는데 제대로 잡고 갔다.
• 피어 세션 시간에 AI 트렌드를 따라가기 위한 유튜브 채널 추천을 했다.
• NLP를 공부해야 하는 이유를 생각하게 됐다.

아쉬운 점

• 현재까지 단순한 문법 규칙 나열으로 느껴져 집중이 잘 안 되고 흥미가 떨어진다.
• 할 일이 정리가 안 된 느낌이다. A 내용을 찾아봤다가 B 내용으로 넘어가는 상황이 꽤 길었다. → 집중할 수 있는 환경과 마인드셋을 어떻게 만들까?