Text & Speech Papers

2025 겨울방학 논문 리뷰 스터디 기록 2Sequential Data Prediction (순서나 시간에 따라 변화하는 데이터) 는 머신러닝/인공지능 분야에서 매우 중요한 문제였으며, 이전 통계 베이스 언어모델 목표는 결국 문맥을 고려하여 다음 단어를 예측하는 것이다

2025년 겨울방학 논문 스터디 3 \*BLEU 지표 : 기계 번역 성능을 평가하는 대표적인 자동 평가 지표. 기계 번역된 문장이 사람이 번역한 정답 문장과 얼마나 유사한지 측정. 점수 높을수록 성능 우수.본 논문의 모델은 크게 두개의 LSTM 네트워크로 구성되어 있다

2025 겨울방학때 진행한 논문 스터디 기록핵심 : 통계적 분석 방식과 단어 유사도 임베딩 방식의 장점을 결합해 새로운 임베딩 기법을 제시했다.Co-occurrence 확률을 벡터의 유사도를 의미하는 내적값과 같아지도록 목적함수를 설계언어의 의미 벡터 공간 모델은 각각

📌Improving Language Understanding by Generative Pre-Training (Radford et al., 2018) 📌 Original Paper: https://cdn.openai.com/research-covers/languag

📌 Parameter-Efficient Transfer Learning for NLP (2019)🔗 https://arxiv.org/pdf/1902.00751Bottleneck Adapter 가 무엇인지 찾아보다가 Adapter 라는 개념이 생소해서 찾아본

📌 틈틈히 정리하는걸로...아마 꽤나 몰아서 올릴것 같지만...얼마 전에 리뷰 끝낸 BERT 논문부터. 📌 Original Paper : https://arxiv.org/abs/1810.04805 Abstract BERT (Bidirectional Encoder

1. Introduction Wav2vec 2.0 은 음성 데이터에서 벡터화된 representation 을 Self-Supervised Learning (자기지도학습) 으로 학습하는 방법이다. 일단 Unlabeled 음성 데이터로 사전학습 시키고, Labeled

✔ Basic Info 📌 Improving Mispronunciation Detection with Wav2Vec2 - based Momentum Pseudo-Labeling for Accentedness and Intelligibility Assessment (2

📌 Multi-View Multi-Task Representation Learning for Mispronunciation Detection (2023)🔗

✔ Basic Info 📌 MDAgents: An Adaptive Collaboration of LLMs for Medical Decision-Making(2024) 🔗 https://arxiv.org/pdf/2404.15155 요약 의료 분야에서 LLM 을 어

📌 Self-Consistency Improves Chain of Thought Reasoning in Language Models (2023)🔗 https://arxiv.org/abs/2203.11171기존 CoT 문제점 : 하나의 추론 경로만 선택하는

📌 Attention Is All You Need (2017)