앞서 대회를 마무리하고 후기를 남겼는데요...
본선에 진출을 했습니다..?!
baeline인 클라우디보다 더 좋은 성적이 나온 팀들은 모두 본선으로 갔습니다..
본선도 똑같이 파인튜닝을 해야할 것 같은데 성능이 더 업그레이드 됐습니다.
T4 gpu가 4개로 2배 업그레이드 됐습니다.
vLLM을 적용할 수 있습니다. batch perdiction
하지만 이 부분에서 저희는 절망할 수 밖에 없었습니다..
제공해준 GPU > 서버 GPU
따라서 infernce를 하기 위해선 모델을 학습을 시켜야하지만 서버가 더 좋지않기에
제공해준 gpu를 최대롤 사용할 수 없었습니다... 그래서 점수는 바닥을 쳤습니다...
최종 점수 0.3 점....
네... 이렇게 어이없이 끝나게 되었습니다..ㅠ....
문제를 푸는데 20분으로 시간제한이 풀렸지만.. 저희의 최대모델로는 2분만에 inference 하긴 했으나..
속도가 중요한 것이 아니기에..
이상.. 진짜 대회 후기였습니다...