[1-2] Week 3 : Recap & Plan

Yelim Kim·2024년 9월 20일

SNU

목록 보기
16/32

Solar ...

아니 결과 실화냐 진짜 킹받네 ....

별의 별짓을 다해도 도저히 좋아지지 않는 결과...
도대체 무슨 문제인지 이제 감도 안잡힌다...

일단 가능성...
1) 커널 사이즈 문제
2) 충분하지 않은 학습 문제

일단은 이정도 려나...

LLM

요즘 관심있게 읽은 두 논문

  • Vision-Language Models Meet Meteorology : Developing Models for Extreme Weather Events Detection with Heatmaps
  • WeatherQA : Can Multimodal Language Models Reason about Severe Weather?

이번에 이런거 저런거 해볼 수 있는 수업을 하나 들어서 수업 듣는 김에 하면 어떨까 .. 하면서 찾아보는 중
그런데 여기 나오는 input 차원들과는 다르게 기상 일기도는 time series라서 LLM에 너무 많은 이미지가 들어가는 것은 아닌지 그리고 고차원 이미지를 넣을 수 있는지도 생각해 봐야 한다. 아니면 프롬프트를 맞게 짜야할수도 ? 차라리 이 방법이 더 쉬울수도...

암튼 두번째 논문 (WeatherQA) 에서 fine tuning 한 모델보다 그냥 일반 baseline 모델을 few shot한 게 결과가 더 좋아서 ...
굳이 fine tuning 을 해야 할까? 라는 의문이 들었고요 ... 일단...

그래서 우선은? 퓨샷으로만 prompt 설계해서 결과 보면 어떨까
너무 망하면 그냥 버려버리려고 ...

profile
뜬금없지만 세계여행이 꿈입니다.

0개의 댓글