[컨퍼][CIO] 생성형 AI와 Low Code를 활용한 데이터 분석 업무 생산성 극대화 전략

본 내용은 CIO SUMMIT 2024에서 발표된 내용을 기반으로 제가 더 조사 및 정리해서 작성한 글입니다. 본 게시글은 발표 내용을 정리한 것이지 특정 회사를 옹호•홍보할 목적이 아님을 밝힙니다. 틀린 내용이 있다면 편하게 댓글 달아주세요!! 🤗

제목

생성형 AI와 Low Code를 활용한 데이터 분석 업무 생산성 극대화 전략

발표자

비아이매트릭스 배영근 대표이사

발표내용

비아이매트릭스는 어떤 회사인가?

비아이매트릭스는 다양한 기능을 통합적으로 제공하는 AUD(Automated UI Development) 플랫폼을 활용하여 다양한 업무시스템을 구축합니다. SQL이나 JAVA 코딩 없이, 여러 솔루션을 도입할 필요 없이 통합 UI 솔루션 하나로 업무시스템 개발이 가능하도록 하는 시스템을 제공합니다. BI, 대시보드, 시각화, UI/UX, 리포팅 툴을 활용하여 개발이 가능합니다.

비아이매트릭스의 LLM 전략

비아이매트릭스는 LLM을 기존의 BI Tool 및 Low Code 플랫폼 사업에 적용하고자 하여 G-MATRIX라는, 데이터 분석용 생성형 AI 솔루션을 제공합니다.

본 사는 기업의 다양한 데이터 분석에 대한 니즈(Needs)를 충족하기 위해 FrontEnd UI 5가지 기능을 하나의 플랫폼에서 제공하고 했습니다:

1. BI/OLAP 시스템
   • BI (Business Intelligence)
   • OLAP (Online Analytical Processing)
2. 대시보드 시스템
3. 보고서 작성 시스템
4. UI/UX
5. EXCEL 자동화 시스템

💡 LLM이란?

LLM은 Large Language Model의 약자로, 거대 언어 모델을 의미합니다. 많은 양의 데이터를 학습하여, 인간의 언어(자연어)를 이해하고 자연어로 문장을 생성합니다.
비아이매트릭스는 LLM을 활용하여 BI(Business Intelligence)기능과 연계 데이터를 조회할 뿐 아니라, 데이터에 대한 추가 분석이 가능하도록 합니다.

비아이매트릭스에서 강조하는 주요 기능은 아래와 같습니다:

흩어져 있는 다양한 종류의 DB 연계

• 사용자가 원하는 데이터를 어느 DB에서 찾아야 할지 알아서 판단하여 데이터를 조회하며, 다양한 DB를 지원합니다.
  - SAP HANA, Oracle, MySQL, MS SQL, IBM DB2…

채팅을 통한 정보 제공

• DB를 정의하면 LLM을 통해 원하는 정보를 통계표, 다양한 차트, 그래프등의 결과 제공합니다

레포트/대시보드 화면 정의

• 결과 화면을 업무 시스템의 화면으로 변환/적용 가능합니다. (코딩을 최소화한 로우코드 업무시스템 개발 지원)

📚 이제 좀 기술적인 이야기를 해볼까요?

G-MATRIX는 LLM 기술이 적용되어 있어, 문장 속의 단어가 의미하는 바를 문장 전체의 의미를 통해 파악하고 사용자가 원하는 답변을 제공하기 위해 필요한 데이터를 기업의 데이터베이스에서 자동으로 찾아준다고 합니다. 다음과 같은 단계로 모델을 학습시켰다고 하는데요. (개인적으로는 좀 더 자세히 이런 부분에 대해서 공유가 되었으면 했으나 기업 비밀이라 당연히 디테일한 내용은 없었습니다..ㅎㅎ😿)

① 메타 정의/ LLM 학습

G-MATRIX는 기업의 DB 데이터를 논리적으로 구조화하고 정의하여 분석을 위한 메타를 생성하여 이를 LLM을 학습하는 데에 사용하게 됩니다.

📚 G-MATRIX의 메타란?

• DB Object(Table, View 등)를 폴더방식의 분류항목 (Dimension, Attribute, Measure) 배치로 사용자들이 입력한 단어의 비즈니스적 의미를 손쉽게 찾아갈 수 있도록 구현하는 데에 초점을 두어 개발했다고 합니다

일반적으로 검색 증강 생성(RAG) 기법을 통해 실제 사내 DB에 적합한 데이터를 찾도록 많이들 한다고 하는 데, 여기도 RAG를 사용해서 했는지 궁금하네요 😛

🔎 검색 증강 생성(RAG)
RAG(Retrieval-Augmented Generation)는 최근 자연어 처리(NLP) 분야에서 주목받는 기술 중 하나입니다. 이 기술은 정보 검색(IR, Information Retrieval)과 생성 모델(GM, Generative Model)을 결합하여, 주어진 질문에 대해 더 정확하고 관련성 높은 답변을 생성할 수 있도록 설계되었습니다. RAG 모델은 먼저 질문과 관련된 문서나 데이터를 검색한 후, 이를 기반으로 답변을 생성하는 구조를 가집니다. 이러한 접근 방식은 모델이 보유한 지식의 한계를 넘어서, 외부 지식을 활용하여 답변의 정확도와 다양성을 향상시킬 수 있습니다.

❓ 기업에서 RAG 사용하는 이유는 뭘까?
1. 정확도 향상: RAG는 관련 문서를 검색하여 답변을 생성하기 때문에, 기존 생성 모델에 비해 더 정확하고 신뢰할 수 있는 정보를 제공할 수 있습니다. 이는 고객 지원, 자동화된 FAQ 시스템, 의료 상담 등 다양한 분야에서 응용될 수 있습니다.
2. 지식 기반 확장: 기업은 자체 데이터베이스나 최신 연구 자료 등 특정 분야의 전문 지식을 RAG 모델에 통합함으로써, 모델이 더 넓은 범위의 지식을 활용할 수 있게 합니다. 이는 모델의 유연성과 적용 범위를 대폭 확장시킵니다.
3. 개인화와 맞춤화: 기업은 RAG를 사용하여 고객의 질문이나 요구에 더 잘 맞는 맞춤형 답변을 제공할 수 있습니다. 이는 고객 만족도를 높이고, 브랜드 충성도를 증가시키는 데 기여할 수 있습니다.

② 자연어 인식
사용자가 자연어로 질문을 하게 되면, 자연어 질의를 분석하여 이를 메타 엔진이 이해할 수 있는 구조로 변경하여 쿼리로 변경하게 됩니다.

위 예시와 같이 질문을 하면, G-MATRIX는 이를 아래와 같은 쿼리로 작성을 하게 되고, 이를 통해 원하는 정보를 추출하게 됩니다.

③ 결과화면 생성
정보를 추출하고, 이를 사용자가 요청한 숫자(좌), 피벗 테이블(중앙), 차트(우) 등의 형태로 결과를 제공합니다.

개인적으로 실제 기업 데이터를 LLM에 적용하고 싶다는 니즈는 많이 봤는데, 실제 사례를 DEMO로 보여주셔서 흥미로웠던 세션이었던 것 같습니다. 단순히 요청 정보를 말로 생성하는 것이 아니라 추가적인 구현을 통해 유저가 요청한 OUTPUT의 형태로 채팅에서 바로 제공해준다는 점이 Sales Point가 아닐까 하는 생각이 듭니다.