# KorPatELECTRA

okauto

특허분야 특화된 한국어 AI언어모델 KorPatELECTRA 개발 두번째 사전학습 언어모델을 개발하여 공개합니다. KorPatELECTRA(Korean Patent ELECTRA)는 특허분야 한국어 자연어처리 문제 해결 및 특허산업분야의 지능정보화 인프라 마련을 위해 기존 Google ELECTRA 모델의 아키텍쳐를 기반으로 대용량 국내 특허문헌(약 466만 문헌, 5.4억 문장, 445억 토큰, 130GB)을 사전학습(pre-training)하였고, 무료로 제공하고 있습니다. (논문) KorPatELECTRA 논문 (언론보도) KorPatELECTRA (github) [KorPatELEC