대회 준비 모임
8시 반에 구글밋에서 모임을 가졌다. 오늘은 CONVLSTM과 Pix2pix에 대해서 이야기를 나누었다. encoder인 MobileNet을 어제 보려고 했으나 시간 부족으로 보지 못했다. 그래서 모델 부분과 decoder 부분만 보았다. pix2pix는 생각보다 자세한 한글 자료가 없었다. 정리하자면 pix2pix는 CGAN의 일종으로, 입력이 조건 이미지와 노이즈이고 조건 이미지와 노이즈를 보고 새로운 이미지를 생성한다. 조건 이미지와 생성한 이미지 사이의 관계와 그리고 조건 이미지와 실제 이미지 사이의 관계를 Discriminator가 판별하여 실제 이미지와 비슷한 생성 이미지를 만들어 낸다. pix2pix는 Generator에서 U-Net을 사용하여 반가웠다. U-Net이 이미지 비젼의 여기 저기서 많이 사용되는 걸 보면 성능이 좋은 모델이라서가 아닐까 하는 생각이 든다.
Exploration
오늘의 프로젝트는 BERT이다. 기대했던 것이지만 오늘의 공부는 '망했다'. 이번 노드가 학습이 오래 걸린다는 이야기를 듣고 먼저 노드를 돌려보기로 했다. 그런데 한 에포크당 학습 시간이 40분이 넘게 걸리는 거다. 그래서 가상환경도 다시 설치해보고 했지만 해결이 안 되어서 결국 모델을 colab으로 돌렸다. 그렇게 오전은 지나갔다.
오후 오프닝 때 이 이야기를 퍼실님께 했더니 tensorflow를 다시 깔아야 한다고 했다. 이전까지는 제대로 되었는데, 이번에는 왜 이런 건지 궁금해서 질문을 했더니 버전 호환 문제라고 하셨다. tensorflow 패키지끼리 호환이 되지 않았다는 거다. 결국 모든 tensorflow 가족들을 지우고 다시 깔았다. 특히 tensorflow-addons의 버전을 주의해야 했다. 아마도 가상환경을 다시 설치했는데도 문제가 생겼던 건 tensorflow-addons의 버전을 맞춰주지 않았기 때문일 것이다.
버전을 모두 맞춰주고 나니 제대로 학습이 되었다. 문제는 화요일에 했던 프로젝트이다. 그 프로젝트를 하려면 tensorflow 버전을 다른 것으로 해야 한다. 한 조원과 퍼실님께서 가상환경을 따로 만들어서 설치하라고 하셨다. 가상환경을 여러 개 사용하는 것은 이야기만 듣다가 처음 사용하게 되어서 신기하다. 앞으로는 여러 개의 가상환경을 사용하는 것이 일상이 되지 않을까?
오후에 명상 구글밋에 갔다가 동기들과 이야기를 나누었다. 모델 학습이 안 되었던 문제부터 시작해서 전처리가 이해가 안 되는 문제까지 더해져 집중이 하나도 되지 않았기 때문이다. 주말에 휴식과 잠을 줄여서라도 해결하지 못한 문제를 끝내야겠다.
수업을 마치고
오늘은 아이효 발표 준비와 내일 조별 모임 준비를 해야 한다. 9시에는 수학 스터디가 있다. 요즘 나가는 부분이 어려워서 미리 읽어도 이해가 잘 안 간다. 오늘은 어떨지 모르겠다.
수업을 마치고 슬랙에 퍼실님 2분께서 여시는 스터디 공지가 올라왔다. 매일 강의를 들어야 하고 일주일에 3번 스터디를 해서 조금 부담스럽지만 이번 기회가 아니면 혼자서는 듣지 않을 것 같아서 들어갔다. 할 수 있다, 힘내자, 화이팅!
