논문 제목:REACT: SYNERGIZING REASONING AND ACTING IN LANGUAGE MODELS
저자 : Shunyu Yao, Jeffrey Zhao, Dian Yu, Nan Du, Izhak Shafran, Karthik Narasimhan, Yuan Cao
Abstract
ReAct = Reason + Act
= 추론 + 실행
추론 과정 : 모델이 행동 계획을 유도, 추적, 업데이트하고 예외를 처리하는 데 도움을 줌
행동 과정 : 모델이 외부 지식 베이스나 환경(예: API)에서 추가 정보를 수집하고 이를 활용
특징
1.추론을 통해 행동(reason to act): 고수준 계획을 생성, 유지, 조정할 수 있음
2.행동을 통해 추론(act to reason): 외부 환경(예: Wikipedia)과 상호작용하여 추가 정보를 추론에 통합할 수 있음
Introduction
Reason-only 모델은 자체 정보가 부족할 경우 Hallucination에 의한 부정확한 정보를 출력, Act-only 모델은 추론 능력 부족으로 외부 정보를 기반으로도 최종 답에 이르지 못하고 엉뚱한 대답을 하는 한계가 있다. (실제로 Action은 ReAct와 똑같이 함)반면 ReAct는 해석가능하고 사실에 기반한 Trajectory로 task를 해결함
REACT: SYNERGIZING REASONING + ACTING
데이터셋
HotPotQA: 두 개 이상의 Wikipedia 문서를 바탕으로 추론해야 하는 멀티홉 질문 응답 벤치마크.
FEVER: 주어진 주장(Claim)이 Wikipedia 문서에 의해 지지(SUPPORTS), 반박(REFUTES) 또는 불충분한 정보(NOT ENOUGH INFO)로 분류되는 사실 검증 벤치마크.
결론 : ReAct는 추론과 행동의 결합을 통해 CoT보다 더 높은 성공 비율을 보이며, 외부 정보와 상호작용할 수 있는 능력이 주요 강점으로 작용,실패 사례는 ReAct와 CoT 모두 복잡한 질문이나 다중 단계 추론에서 주로 발생
참고자료
https://arize.com/blog/keys-to-understanding-react/
https://introduce-ai.tistory.com/entry/%EB%85%BC%EB%AC%B8-%EB%A6%AC%EB%B7%B0-ReAct-SYNERGIZING-REASONING-AND-ACTING-IN-LANGUAGE-MODELS
https://www.youtube.com/watch?v=QX-p-vsDoiQ
