Agentic AI courses - Andrew Ng

1. Intro to Agentic Workflows

Agentic AI?

• non-agentic: (to llm) write an essay in 1 go.
• agentic: think & research -> revise -> iterate

무엇이 agent 인지 아닌지는 의미 없다. 자율성의 정도가 다를 뿐이다.
예를 들어, essay 를 작성하는 일은
1. less autonomous

• LLM 으로 쿼리를 생성한다.
• Web search 를 수행한다.
• LLM 으로 essay 를 작성한다.

2. more autonomous

• LLM 에게 tools 로 web search, arxiv, news 검색 API 를 준다.
• LLM 으로 tools 를 호출하고, 반복한다.
• LLM 으로 essay 를 작성하고, reflect 하고, 반복한다.

이처럼 같은 기능의 task 도 자율성을 다르게 구성할 수 있다.

Benefits of Agentic AI

(ex). Coding benchmark

• gpt-3.5 -> gpt-4: 48% -> 67%
• gpt-4 LLM -> agent (reflection, tool use, planning, MAS): 67% -> 90%

LLM 의 세대 발전으로 인한 영향보다, non-agentic -> agentic workflow 의 적용이 더 큰 성능 개선을 일으킨다.

Key benefits of agentic workflows

• much better performance
• parallelization, faster than human (agent 를 병렬로 실행할 수 있으므로)
• modularity, add or update tools, swap models

Agentic AI applications

• easier
  • clear, step-by-step process
  • standard procedures
  • text only
• harder
  • steps not known ahead of time
  • plan as you go
  • multi-modal

building blocks of Agentic AI

models

• llms: text 생성, tool use, 정보 추출
• other ai models: pdf-to-text, tts/stt, 이미지 분석

tools

• api: web search, get real-time data, email, calendar
• information retrieval: DB, RAG
• code execution: LLM 이 코드를 작성 후 실행하도록 한다.

task decomposition

• agentic workflow 를 개발하기 위해, 사람 또는 비즈니스가 하는 task 를 보고 그 task 를 수행하기 위한 building block 의 sequence 으로 재구성한다.
• identify discrete steps, then think how it can be implemented using LLMs or tools.
  • 이를 위해, building blocks 에 대한 이해가 중요하다.
• Agentic AI 개발의 많은 시간을 task 를 discrete steps 로 재구성하는 데에 할당한다.

evals

• 효과적인 evals 시스템을 만드는 것이 Agentic AI 의 성공 여부를 가른다.
• 먼저 Agentic AI 를 구축하고, outputs 를 직접 확인하고, errors 를 tracking 할 방법을 찾아라.
  • 예를 들어, Agentic AI 가 "coco" 라는 경쟁사를 언급하면 안된다고 판단될 경우, "coco" 를 키워드 검색하여 error rate 를 계산할 수 있다.

objective errors

• true/false 로 분류되는 오류

subjective errors

• 그렇지 않은 오류, llm-as-a-judge 를 주요 기법으로 활용한다.