TH-RAG : Topic-Based Hierarchical Knowledge Graphs for Robust Multi-hop Reasoning in Graph-based RAG Systems

이 논문이 해결하려고 하는 문제

트리플렛 기반 그래프의 파편화된 정보와 낮은 의미적 연결성으로 인해 추론 시 의미를 왜곡하는 문제

기존 방법의 한계

llm이 만든 트리플렛 기반 그래프는 의미적 연결성이 낮고 파편화되어있어서, 일관성을 감소시키고 추론을 방해한다. 기존 연구들( 클러스터링하거나 커뮤니티 디텍션, 근사 그래프 알고리즘들)은 연결성을 복구하기를 시도했으나, 높은 계산 비용을 초래하고, 의미를 왜곡할 위험이 있다.

말뭉치에서 트리플을 추출해서 직접 지식그래프를 추출하는 방법이 이어지고 있다. 이런 세분화된 표현은 정보를 의미적 수준에서 구조화함으로써 추론의 정확성을 높인다. 이러한 방식은 청크안에 있는 트리플들이 충분히 연결되어있다고 가정한다. 하지만 현실의 LLM 추출 결과는 그렇지 않다.
현실에서는 LLM이 생성한 트리플렛 기반 지식그래프가 자주 파편화가 되며, 서로 제대로 연결되지않은 고립 하위 그래프들이 생긴다 .
이러한 파편화는 그래프의 전반적인 의미적 일관성을 떨어뜨릴 뿐만 아니라 효과적인 멀티홉 추론도 방해한다 엔터티 사이의 핵심적인 관계 경로가 누락되어있거나 끊어져있을 수가 있기 때문이다.
그 결과 모델은 여러 곳에 흩어진 정보를 통합하는데 어려움을 겪고, 이는 궁극적으로 정확하면서 문맥에 근거한 답변을 생성하는 능력을 저해한다.
(트리플 기반 그래프는 충분히 연결되어있다고 가정 -> 실제로는 파편화 되어있음 -> 핵심 관계 경로가 끊김 -> 모델이 흩어진 정보를 통합못함 -> 정확한 답변 생성이 어려워짐)

이러한 문제를 해결하기 위해 그래프 보강 기술들을 기존 연구에서 제안함.
예를 들어, 커뮤니티 디텍션, 클러스터링 기반 요약, hnsw와 같은 알고리즘

그러나 이러한 방법들은 심각한 드로우백(단점)을 겪음:
예를 들어 추가적인 계산 비용의 발생 또는 세부적인 의미 관계를 왜곡시킨다,
이 두문제는 검색된 정보의 신뢰성과 정확성을 모두 저해한다.

제안 방법

트리플렛을 서브토픽과 토픽으로 조직화 해서 연결성을 향상시키고, 분산된 정보를 통합하며, 안정적인 멀티홉 추론을 지원한다.

트리플렛, 서브토픽, 토픽으로 구성된 3개 층으로 구성된 지식 그래프 구축 프레임워크를 제안한다.

이러한 의미적 계층 구조는 그래프 연결성을 높이고, 파편화된 정보들을 통합하기 쉽게 하며, 효율적인 멀티홉 추론과 말뭉치에 대한 전반적인 이해를 지원한다.

1. LLM이 트리플렛, 서브토픽, 토픽을 동시에 추출해서 의미적으로 구조화된 그래프를 만든다.
2. 토픽 기반 그래프 탐색은 가장 관련도 높은 토픽 노드에서부터 탐색을 시작한다. 그리고 재귀적으로 관련된 서브토픽과 엔터티를 탐색한다. 트리플렛 후보를 검색하기 위해
3. 쿼리기반 검색과 필터링, 이 단계에서 코사인 유사도는 쿼리와 각 후보 트리플렛의 엣지간 계산된다 그리고 가장 관련도 높은 정보는 정답 생성을 위한 최종 컨텍스트로 선택된다

핵심 아이디어 1줄

트리플렛, 서브토픽, 토픽으로 구성된 3개 층으로 구성된 지식 그래프 구축 프레임워크를 제안한다.

실험에서 확인한 것

기존 베이스라인 보다 높은 정확도와 안전성, 효율성을 유지.
실험 결과, TH-RAG는 개방형 생성 QA와 구체적 멀티홉 QA 벤치마크 모두에서 기존 graph-based RAG 방법들보다 우수한 성능을 보였다.

추가적인 ablation 연구는 계층적 그래프 설계와 검색 전략의 효과를 검증한다. 그 결과는 TH-RAG가 graph-based RAG 시스템에서 더욱 안정적인 멀티홉 추론을 가능하게 하는 유망하고 확장 가능한 접근법임을 보여준다.