Generation for NLP: AI Agent

1. AI Agent?

특정 쓰레스 홀드 이후로부터 굉장히 유용한 AI Agent들이 나오기 시작함.

• 모델의 크기가 상승하고
• 더 좋은 데이터셋과 새로운 구조가 발견되며
• 프롬프트가 발전하는 과정에서
• 이론, 해석, 그리고 작은 모델들에 대한 연구가 많이 진행 됨.

그럼에도 아직 Agent에 대한 명확한 정의가 없다.

자동화된 최종 결과물에 대해 스스로 계획, 기억, 행동하는 그 모든 과정을 해내는 것이 Agent라고 볼 수 있다.
또한 외부 도구들을 자유로이 사용할 줄 아는 것도 매우 중요

이때 생각보다 많이 사용되는 것이 Context Length

두가지 갈래로 사용되는데
Short-term Memory
Long-term Memory
두가지가 바로 그것.

AutoGPT

GPT-4o를 기반으로 작동되는 에이전트

2. 최근 Agent 트렌드

• 코파일럿

• Mixture of Agent (Wang et al., 2024)

  • 초기 응답 생성
  • 응답 정제
  • 반복
  • 최종 응답 도출

• Graph RAG (Edge et al., 2024)

  • 데이터 분할
  • 엔티티 추출
  • 클러스터링
  • 요약 생성
  • 질의 응답

• Tabnine

• Gemini Code Assist

• Amazon Code Whisper

• Polymer

• Big Query

3. 윤리적 AI 핵심 원칙

회사에서는 굉장히 많이 신경 쓰고 있다.

• Bias and Discrimination: AI데이터의 편향 확습은 불공정한 결과 초래 가능
• Transparency and Accountability: AI의 추론 과정이 블랙박스(Black Box)와 책임 소재의 불명확함
• Creativity and Ownership: AI가 생성한 작품의 소유권 불명확
• Social Manipulation and Misinformation: 딥페이크, 허위 정보의 만연으로 사회 조작 위험
• Privacy, Security, and Surveillance: 프라이버시 침해와 보안 문제 야기
• Job Displacement: AI의 일자리 대체로 인한 실업 문제
• Autonomous Weapons: 무기 통제와 책임 문제 야기