[P3] Week 2 Day 11

나며기·2021년 5월 9일
0

부스트캠프 AI Tech

목록 보기
69/79
post-thumbnail

가) 오늘 내 학습목표는 무엇이었나요?

  1. Elasticsearch + PORORO
  2. 제출 기회 5번 모두 사용하기

나) 오늘 나는 내 학습목표를 달성하기 위해 무엇을 어떻게 했나요?

  1. EM : 47.08%, F1 : 62.43%
  • Elasticsearch + PORORO
'settings':{
    'analysis':{
        'analyzer':{
            'my_analyzer':{
                "type": "custom",
                'tokenizer':'nori_tokenizer',
                'decompound_mode':'mixed',
                'stopwords':'_korean_',
                "filter": ["lowercase",
                           "my_shingle_f",
                           "nori_readingform"]
            }
        },
        'filter':{
            'my_shingle_f':{
                "type":"shingle",
                'min_shingle_size':2,
                'max_shingle_size':3,
                'output_unigrams':True
            }
        }
    },
    'similarity':{
        'my_similarity':{
            'type':'BM25',
        }
    }
},
  1. EM : 15.00%, F1 : 21.02%
  • Elasticsearch + PORORO
'filter':{
    'my_shingle_f':{
        "type": "nGram"
    }
}
  1. EM : 48.75%, F1 : 66.09%
  • Elasticsearch + PORORO
  • kss.split_chunks(, max_length=1024, overlap=True)
  1. EM : 48.75%, F1 : 66.09%
  • Elasticsearch + PORORO
query = {
    'query':{
        'bool':{
            'must':[
                      {'match':{'text':test_dataset['question'][num]}}
            ],
            'should':[
                      {'match':{'text':test_dataset['question'][num]}}
            ]
        }
    }
}
  1. EM : 45.42%, F1 : 63.28%
  • Elasticsearch + PORORO
  • kss.split_chunks(, max_length=512, overlap=True)

다) 오늘 나는 어떤 방식으로 모델을 개선했나요?

  • kss.split_chunks으로 모델을 개선했습니다.

라) 내일은 어떻게 다르게 시도해보실 수 있을까요?

  • 내일은 본격적으로 Dense Passage Retriever + PORORO를 시도해볼 계획입니다.

마무리

오늘보다 더 성장한 내일의 저를 기대하며, 내일 뵙도록 하겠습니다.

읽어주셔서 감사합니다!

profile
PLUS ULTRA

0개의 댓글