한국언론진흥재단의 뉴스빅데이터 분석 시스템 '빅카인즈'에 생성형 인공지능 기술을 결합한 챗봇 서비스 '빅카인즈 AI'를 2월 1일 오픈했다.
서비스 소개
- OpenAI GPT-3.5를 기반으로 뉴스 빅데이터를 활용하여 이용자의 질문에 답변하고, 답변의 근거가 되는 뉴스를 보여준다.
- 빅카인즈는 현재 8천여 만 건의 뉴스 데이터를 보유하고 있으며, 이 데이터를 답변 생성에 활용함으로써 환각현상을 보완하고 최신 뉴스의 활용 으로 시의성 높은 답변을 생성한다.
- 즉, RAG(Retrieval-Augmented Generation) 기술을 적용하여 사용자 질문에 연관된 뉴스를 검색하고, 이를 기반으로 답변을 생성한다.
주요 기능
- 좌측 사이드바의 하단에서 가이드 및 튜토리얼을 확인할 수 있다. 사용횟수 제약에 대한 별도의 안내문구는 없었다.
- 단순 질의응답뿐만 아니라 요약/ 번역/ 맞춤법 검사 기능을 지원한다.
- 질문에 시점을 나타내는 표현을 사용하면 뉴스 검색 기간을 지정하는 기능을 지원하며, 당일 발생한 최신 뉴스도 활용하는 것을 확인할 수 있다.
- 출처를 클릭하면 뉴스 팝업이 뜨며, 키워드 클릭 시 관련된 인물, 장소, 기관 등의 관계도를 시각화해서 볼 수 있다.
[시점]+[목표]+[형식]+[어투]+[지시어]등 다양한 질문 구성으로 의도를 상세하고 명확하게 전달할 수 있다.
| 질문 구성 예시 | 시점 활용 예시 |
|---|---|
 |  |
| 형식 활용 예시 | 지시어 활용 예시 |
|---|---|
 |  |
- 최근 논란이 되고 있는 손흥민과 이강인 사건에 대해 타임라인으로 분석해 봤는데, 사건의 발전 과정을 쉽게 이해할 수 있었다.
기술적 특징
- 효율적인 서비스를 위해 한 어절만 입력하면 반응하지 않고 두 어절 이상일때 동작한다.
- 세부적인 질문 구성을 지원하는 것으로 보아 단순히 프롬프트로 RAG만 적용한 것이 아니라 Fine-Tuning한 GPT-3.5 모델을 사용하는 것으로 예상된다.
문제점
아시아축구연맹의 회장이 누구야?라는 질문에 대해정몽규라고 답변하는 등, Hallucination을 완전히 제거하진 못했다.
- 대화창을 관리하는 기능은 있지만, 하나의 대화창에서 이전 대화를 기억하고 답변하는 멀티턴 기능은 지원하지 않는다.
Reference
자연어처리 개발자