[Paper] 코드 스위칭 코퍼스 기반 다국어 LLM의 지식 전이 연구(후기)

Mineru·2023년 10월 9일
0

코드 스위칭이란?

두 가지 이상의 언어나 방언을 사용하는 이들이 대화중에 한 언어에서 다른 언어로 전환하는 현상을 의미한다.

코드 스위칭 코퍼스란?

두 가지 이상의 언어가 혼합된 데이터를 의미한다.

팡요어(Pangyo Corpora)란?

일단, 판교 아니구요. 팡요어라는 것은 this exmaple처럼 english와 한국어를 mix해서 speaking 하는 people들을 놀리기 위해 나온 term이라고 합니다.

본 연구에서는 이런 팡요어의 발화 방식이 두 언어(영어와 한국어) 간의 연결 고리를 강건하게 해주는 재료가 될 것이란 아이디어로 시작했다고 합니다.

학습 데이터셋

8K 정도의 그리 많지 않은 문서만으로 학습을 하여 실험을 진행했다고 합니다.

추후 연구 계획

최근(2023년 10월 기준)에 유튜브 숏츠에서 유행하고 있는 한본어를 사용하여 실험을 해보려 한다고 합니다.

출처

profile
Daily Coding

0개의 댓글