Paper
1.[논문] Baize: An Open-Source Chat Model with Parameter-Efficient Tuning on Self-Chat Data
Abstract 본 논문은 high-quality multi-turn 대화 말뭉치를 ChatGPT를 활용하여 자동으로 생성하는 방식을 제안한다. 제작된 말뭉치는 오픈 소스 LLM(거대 언어 모델)인 LLaMA를 통해 PEFT(Parameter-Efficient Tun
2023년 5월 25일
2.[논문] What Does BERT Look At? An Analysis of BERT's Attention
논문 소개 : What Does BERT Look At? An Analysis of BERT's Attention Clark, Kevin, et al. "What does bert look at? an analysis of bert's attention." arXiv
2022년 1월 19일
3.[논문] Platypus: Quick, Cheap, and Powerful Refinement of LLMs
Paper: Lee, Ariel N., Cole J. Hunter, and Nataniel Ruiz. "Platypus: Quick, Cheap, and Powerful Refinement of LLMs." arXiv preprint arXiv:2308.07317 (2
2023년 9월 16일
4.[논문] MAmmoTH: Building Math Generalist Models through Hybrid Instruction Tuning
MAmmoTH: 수학 문제 해결에 특화된 LLM. Instruction tuning dataset인 MathInstruct를 기반으로 학습
2024년 2월 1일