LLM

• NLP 자연어 처리 기술의 한 분야이자 굉장히 큰 데이터 셋을 사용한다.
• 방대한 양의 데이터로부터 인간의 언어와 유사한 텍스트를 이해하고 만들어내는 기술
• Transformer 구조 기반
• Self-Attention: 문장 안의 단어들의 관계를 파악해서 중요한 단어에 집중하는 메커니즘
• Word-Embedding: 단어를 벡터로 표현하는 기술, 비슷한 의미의 단어는 비슷한 벡터값을 가진다.

한계점

1. 유지 비용이 많이 든다.
2. 잘못되거나 나쁜 정보의 필터링 필요성