ainvoke란

랭체인에서 제공하는 비동기 (async)방식의 메서드로, AI 모델이나 체인을 호출할 때 사용된다.
기존의 invoke와 달리 여러 작업을 동시에 처리할 수 있어 효율적이다.

기본 문법

필수 문법

• async / awit 선언

• 입력은 반드시 딕셔너리 형태 (키 : 값)

• 실행을 위한 이벤트 루프

전체 구조 예시 :

주의사항

• async 함수 안에서만 await 사용 가능
• ainvoke는 반드시 await와 함께 사용
• 입력 딕셔너리의 'input' 키는 필수
• 비동기 함수는 반드시 이벤트 루프 내에서 실행

사용 시기와 이유

웹 서비스 환경 (예 : ChatGPT, Claude)

• 여러명의 이용자가 동시에 요청을 했을 때 비동기 방식인 ainvoke를 사용하면
  다른 사용자의 요청을 블로킹하지 않아 동시에 요청이 처리된다.
  동기 방식인 invoke를 사용하게 된다면 A사용자의 요청이 끝나야만 B사용자의 요청이 처리되고
  아주아주 비효율적인 웹 서비스가 되기 때문에 ainvoke를 쓴다.

asyncio.gather과의 협업

대량 데이터 처리 (1365 등 자원봉사 사이트)

• 한 사용자가 여러 데이터를 요청 했을 때 invoke의 경우 첫 번째 요청이 처리되어야 두 번째 요청이 처리되는 비효율적인 데이터 처리 방식이다.
  따라서 ainvoke를 사용해서 여러 데이터가 한 번에 처리되게끔 하는 것이다.
• 여기서 asyncio.gather을 꼭 사용해주어야 단일 사용자의 여러 요청에대해 병렬적으로 처리된다.

병원 환자 데이터 처리 시나리오를 예로 들면
여러 데이터값이 필요할 때 ainvoke + asyncio.gather을 같이 사용해주어야한다.

즉,
여러 사용자가 단일 요청을 할 때에는 ainvoke만 있어도 되고 (ChatGPT, Claude)

단일 사용자가 여러 요청을 하는 웹사이트 경우에는 ainvoke와 asyncio.gather이 같이 사용되어야 한다.

정리하면
단일 요청 여러 사용자 → ainvoke만 사용

• ChatGPT, Claude처럼 채팅 한 번에 하나씩

여러 요청 단일 사용자 → ainvoke + gather 사용

• 병원 데이터, 봉사활동 내역 여러 정보를 한 번에