쉽게 읽는 AI 논문

Transformer? 자동차가 로봇으로 변신하는거?당연히 그 로봇 트랜스포머는 아니다.AI를 조금 공부하면 이 단어를 자주 만나게 된다. ChatGPT도 Transformer, BERT도 Transformer, 요즘 나오는 LLM도 대부분 Transformer를 기반

지난 글에서는 Transformer를 보면서 이런 질문에서 시작했다.문장을 굳이 순서대로 읽어야 하나?RNN은 문장을 앞에서부터 순서대로 읽었다. Transformer는 이 구조를 버리고 Self-Attention을 사용해서 각 단어가 다른 단어를 직접 볼 수 있게 만