1. Abstract
- Goal of the Competition
- 주어진 데이터를 활용하여 일상 대화에 대한 요약을 효과적으로 생성하는 모델을 개발
- Timeline
- ex) May 13, 2024 - Start Date
- ex) May 27, 2024 - Final submission deadline
2. Process : Competition Model
- Describe the structure of your System.
- beomi/Solar-Ko-Recovery-11B를 베이스로 4bit-quantization 과 LoRA를 적용
- 준비된 데이터로 fine-tunning
3. Process : Issues
- Describe the issue that your team faced during the project.
- 처음 baseline 모델인 bart의 경우 스코어 상승이 쉽지 않았음
- 추가로 도입한 solar로 점수 향상이 있었으나, 또 다시 정체
- Describe the reason for the issue.
- 자연스러운 한국어 대화문이 아닌, 영어 대화문의 번역 데이터를 사용하였기 때문에 일반적인 방법으로는 스코어 상승이 쉽지 않았다.
- Describe the possible solution to imporve your project.
- 모델 하이퍼 파라미터 튜닝과 테스트 데이터에 대한 토픽을 추론하는 모델을 준비해, 요약문 추론시 이를 같이 활용함.
4. Role
- Describe your role with task in your team.
- solar 모델 설계
- 모델 학습
- 모델 하이퍼 파라미터 튜닝
- 데이터 증강(역번역)
5. Results
- Write the main result of Competition
원본 대화
#Person1#: 안녕하세요, 스미스씨. 저는 호킨스 의사입니다. 오늘 왜 오셨나요?
#Person2#: 건강검진을 받는 것이 좋을 것 같아서요.
#Person1#: 그렇군요, 당신은 5년 동안 건강검진을 받지 않았습니다. 매년 받아야 합니다.
#Person2#: 알고 있습니다. 하지만 아무 문제가 없다면 왜 의사를 만나러 가야 하나요?
#Person1#: 심각한 질병을 피하는 가장 좋은 방법은 이를 조기에 발견하는 것입니다. 그러니 당신의 건강을 위해 최소한 매년 한 번은 오세요.
#Person2#: 알겠습니다.
#Person1#: 여기 보세요. 당신의 눈과 귀는 괜찮아 보입니다. 깊게 숨을 들이쉬세요. 스미스씨, 담배 피우시나요?
#Person2#: 네.
#Person1#: 당신도 알다시피, 담배는 폐암과 심장병의 주요 원인입니다. 정말로 끊으셔야 합니다.
#Person2#: 수백 번 시도했지만, 습관을 버리는 것이 어렵습니다.
#Person1#: 우리는 도움이 될 수 있는 수업과 약물들을 제공하고 있습니다. 나가기 전에 더 많은 정보를 드리겠습니다.
#Person2#: 알겠습니다, 감사합니다, 의사선생님."
요약문
"더슨 씨는 #Person1#의 내부 메모를 받아쓰고 있습니다. #Person1#은 모든 직원들에게 즉시 메시지를 사용하지 말라고 경고하고, 이를 어기는 직원에게는 직무 정지와 해고를 경고합니다."
- Final standings of the Leaderboard
- #3
6. Conclusion
- Describe your running code with its own advantages and disadvantages, in relation to other groups in the course.
- beomi/Solar-Ko-Recovery-11B사용으로 같은 솔라 중에서도 한국에어 대한 표현력이 더 높을것으로 예상함
- Sum up your project and suggest future extensions and improvements.
- 번역투의 데이터 사용으로 대회 자체가 좀 힘들었지만, 제대로된 구어체 데이터와 역번역을 좀 더 강화해서 사용하면 좋은 효과를 볼 것으로 보인다.
