Multi-Modal and Multi-Agent Systems Meet Rationality: A Survey
Multi-Modla, Multi agents를 통해서 합리적인 의사결정 내리기
- Rationality: 논리적 추론과 증거에 의한 의사결정
- Challenges: 편향과 일관성 부족 등
Defining Rationality
- Grounding: 의사결정은 사실에 근거해야 한다.
- Orderability of Preferences: 일관되게 순위화/선택해야 한다.
- Independence from Irrelevant Context: 관련 없는 정보의 영향을 받지 않아야 한다.
- Invariance: 선호는 다른 표현이더라도 일관성을 유지해야 한다.
- Comparability: A와 B에 대해서 A ⪰ B 또는 B ⪰ A여야 함. 즉, 비교 가능해야 함 (등호도 가능).
- Transitivity: A ⪰ B, B ⪰ C => A ⪰ C. 일관성과 논리성을 보장.
- Closure: 대안 집합 S에 속하는 A와 B가 있을 때, A와 B의 확률적 결합(=ApB)도 집합 S에 속해야 함.
- Distribution of Probabilities: 확률 혼합을 다룰 때 선호의 일관성을 보장.
- Solvability: 선호 순서가 A ⪰ B ⪰ C일 때, Agent가 B와 A와 C의 확률적 결합에 차이를 두지 않는 방법이 존재해야 함. 즉, 대안 간의 트레이드오프를 통해 해결책을 찾을 수 있어야 함.
- Dominance: 대안 A가 B보다 한 가지 속성에서 더 우수하고, 다른 속성에서 적어도 동등하면 A가 선택되어야 함. 예를 들어, sunk cost fallacy(매몰비용 오류)는 과거에 투자한 비용 때문에 더 나은 선택을 하지 않는 잘못된 판단을 설명함.
Towards Rationality through Multi-Modal and Multi-Agent Systems
Enhancing Rationality
- Deliberation and Abstraction: 더 느리고 깊은 사고 과정을 유도하며, 복잡한 문제를 논리적인 본질로 간추립니다.
- Tool Utilization: 외부 도구를 활용하여 에이전트의 능력을 확장하고, 정확한 정보를 제공함으로써 의사결정을 향상시킵니다.
