- 전체보기(7)
- 챗봇(4)
- 대화시스템(4)
- NAVER DEVIEW(4)
- HyperCLOVA(2)
- DialogBERT(1)
- Retrieval-Enhanced Transformer(1)
- Conversational AI(1)
- GPT-3(1)
- 페르소나(1)
- P-tuning(1)
- dialog-BERT(1)
- chitchat bot(1)
- in-context learning(1)
- Lora(1)
- BERT(1)
- 루다(1)
- chunked-cross-attention(1)
- 캐릭터 챗봇(1)
- 파인튜닝(1)
- Naver Deview 2021(1)
- Fine Tuning(1)
- retro(1)
LM-Debugger
It provides a fine-grained interpretation of the model's internal prediction process, as well as a powerful framework for intervening in LM behavior.
[작성중]RETRO
RETRO's Retrieval Databasedatabase는 key-value 구조를 가지고 있다.key : BERT의 sentence embeddingvalue : Neighbor 과 Completion으로 구성된 textNeighbor : key를 구하기 위해
GPT-3 파인튜닝
Large scale 모델의 전체 파라미터를 튜닝하는 것은 많은 비용을 발생새로운 방법론인 In-context Learning, P-tuning, LoRA을 알아보자Few Shot별도의 gradient update 가 없음 (즉, 학습이 없음)Prompt enginee
(작성중) [챗봇] HyperCLOVA 캐릭터 챗봇 (Naver Deview 2021)
[챗봇] Dialog-BERT (by Scatter Lab) (Naver Deview 2019)
2. 일상대화를 위한 Dialog-BERT 학습시키기 (Pre-training) 세 가지 문제에 대해 결과 분석 LM (
[챗봇] HyperCLOVA로 chitchat bot 만들기 (Naver Deview 2021)
작성일 : 2021.12.30작성자 : 이정관 (jeonggwan.lee@gmail.com)본 내용은 Naver Deview 2021 "세상 빠르고 안전한 챗봇 만들기 (Feat. HyperCLOVA)"(링크 클릭) 에 대한 정리 및 소감 입니다. (내용 전부가 아닌
[챗봇] 오픈도메인 챗봇 루다 (Naver Deview 2020)
작성일 : 2021.01.03작성자 : 이정관 (leejk526@gmail.com)오픈도메인 챗봇 ‘루다’ 육아일기: 탄생부터 클로즈베타까지의 기록오픈도메인 챗봇의 어려운 점 (One-to-many, 무한한 컨택스트) 에 대해 언급을 하였고, 스캐터랩의 경우, 100억