AI EXPO KOREA SUMMIT 세미나 (2)

유예지·2025년 6월 4일

행사명 : AI EXPO Korea 2025 국제인공지능대전
날짜 : 2025.05.16(금)
시간 : 13:30~14:20
장소 : COEX Artificial Room (전시장 내부)
프로그램명 : AI EXPO KOREA SUMMIT

< 고성능의 AI 기반 기술이 여는 생성형 AI와 맞춤형 AI Agent의 미래 - 셀바스AI >

1. 셀바스 AI

  • 1998년에 리오텍이라는 회사로 출범, 데이터 입력의 정도를 본다면 음성 인식도 ocr 쪽에서 다루고 있음
  • HCI 기술이라고 불리는 전반의 모든 솔루션들을 직접 개발

2. AI Agent 의 조건

  • 우리가 원하는 AI 에이전트는 사용자의 말도 잘 이해해야 되고, 사용자가 쓰는 글씨와 보내주는 사진도 잘 이해해야 함
  • 또한 이해한 내용을 글자로만 답변하는 게 아니라 이미지로도 답변이 가능해야 하며, 더 나아가 음성 및 영상으로도 대답을 해줄 때도 있음
  • 즉, AI 에이전트는 굉장히 좋고 훌륭한 기술들의 복합체

3. AI 융합 제품 서비스 개발

  • 시장 성장률을 견인하고 있는 기업들 대부분이 AI 구현에 필요한 모든 것들을 구현하고 있기 때문에, 외부에 더 빠르게 확보하고 자신들이 활동하고 있는 시장 쪽 제품에 빠르게 적용해서 매출도 늘고, 실천 가능한 구조 개선을 하고 있음
  • 하지만 셀바스 AI는 완성도 높은 AI 에이전트를 만들기 위한 프로젝트들이 왜 자꾸 제품의 상용화 단계에서 멈추기만 하는 걸까라고 생각을 해봤음
  • 우리가 원하는 AI 에이전트는 이해해야 하는 것도, 해야 할 일도 굉장히 많음. 그렇기 때문에 처리능력 또한 상당한 수준을 요구하므로, 담아내야 하는 컴포넌트들이 굉장히 많음
  • 우리가 뭘 원하는지 → AI 융합 제품 서비스, 도메인에 특화된 AI 융합 서비스 그런 것들을 원한다
  • 즉, 굉장히 다양한 뭔가를 해주는 AI를 원하고 있는데 그런 AI에 필요한 기술들을 솔직히 균형있게 구성해 두는 곳은 그렇게 많지는 않음

4. 완벽한 AI 데이터란 무엇인가

  • 우리가 원하는 에이전트를 만들기 위해서는 정확한 사고와 추론 능력 외에도 데이터를 습득하고 분석, 처리하는 능력 또한 굉장히 중요함
  • 모델 아키텍처와 시스템 환경 간의 연결성에 대해 생각했을 때, 언어 생성 처리 관련 모델의 퍼포먼스에만 집중을 하다 보니, 전체적인 아키텍처와 시스템 환경 간의 연결성 자체가 결여되는 문제가 발생됨
  • 따라서 완벽한 AI 에이전트란, 고객의 사용 환경을 완벽히 이해하는 것이라 생각한다
  • 그런데 사실 파운데이션 모델로 많이 사용되는 언어 모델 자체가, 즉 언어를 생산하는 모델이 우리가 연결하려는 시스템을 완벽하게 이해할 수는 없다
  • 때문에 성능 문제는 나중으로 미루더라도, 일단 어쨌든 기능 구현을 해야하니까 오픈 소스를 활용해서 많이 개발을 시도하고 있다

5. 헬프 챗봇 구축, 사용률 하락

  • 기능을 구현했다 하더라도 기대치에 못 미치게 되면 결국은 기능은 다시 버려지게 되고, 더 나아가 만들고자 하는 제품의 가치에 대해 소비자나 실제 사용자가 의심을 하는 상황까지 벌어지게 될 수 있다
  • 사용률 하락에 대한 원인 :
    • 사례1. 사내에서 헬프 챗봇을 구축 및 배포
      • 3개월 만에 차용률이 30% 이하로 등락했음
        • 내부에서 구체적으로 원인 분석을 해본 결과 다양한 원인들이 있겠지만, 결국 사용률이 떨어졌다는 것은 직원들이 챗봇과의 원활한 대화가 잘 이루어지지 못했다는 것 (이해력 문제?)
    • 사례2. 병원
      • 의료 특화된 프로토콜이나 컨텍스트 자체를 엔지니어링 하는 것부터 높은 이해도가 요구되며, 비용 또한 상당한 수준이기 때문에 실현이 불가능

6. HCI 기술

  • AI 에이전트는 하나의 컨포넌트일 뿐이지, 프로젝트 및 제품의 성공을 견인할 수는 없다
  • AI 에이전트는 똑똑하면서도 사용자와 잘 소통할 수 있어야 하고 원활한 소통을 위해서는 ‘맞춤화’ 가 필수
  • HCI : Human Computer Interaction, 인간과 컴퓨터의 상호작용을 돕는 기술 (음성 및 문자 인식, 필기체 인식, 이미지 인식 등의 기술)
  • HCI 기술은 음성, 텍스트, 시각 정보의 인식 및 출력을 담당하고, 제일 중요한 것은 물리 요소로 이루어진 상황과 사용자의 감정 등을 파악할 수 있는 능력을 언어 모델한테 제공해주는 것
  • 완성도 높은 사용자 경험을 설계하기 위해서는 체계적인 인풋 레이어를 구현하는 것이 중요
  • 고도로 커스터마이징된 HCI 기술 기반의 솔루션이 적재적소에 맞게 배치가 된다면, 사용자 환경에서 발생하는 다양한 데이터의 정확한 입력 변환을 담당할 수 있음
  • 그 입력값을 LLM이나 VLM과 같은 파운데이션 모델에 전달해 프론트를 강화하고, 컨텍스트와 관련된 어떤 이슈를 명확하게 해결함으로써 결국 실제 사용자의 만족도를 극대화할 수 있는 AI Agent를 만들 수 있음
  • 셀바스 AI의 고유 기술 고도화
    • 고정적인 모델 구조와 학습 범위를 극복 : 사용자의 정확한 데이터 입력을 유도하여, 파운데이션 모델이 잘못 이해할 위험을 HCI 위주로 확인해서 최소화
    • 멀티 모델 인터페이스의 완성 : CI 기술은 음성, 영상, 텍스트, 태블릿의 원 터치까지 다양한 입력 방식에서 들어오는 데이터들을 실제로 정확하게 인식하고 잡아내서 파운데이션 모델을 전달
    • 사용자 모델링 및 적용 시스템 구축 : 사용자 피드백 행동 패턴을 기반으로, 의도한 대로 최적의 반응이 가능한 콘텍스트를 제공하는 데 기여하여 완벽한 사용자 맞춤화를 실현할 수 있도록

7. HCI 기술 사례

  • 1) 병원의 영상의학과
    • 분석과 판독이 필요한 CT, MRI 결과가 월등히 많아, 발생하는 다양한 문제를 해결하고자 이에 맞는 AI 솔루션 노력 추진
    • 의료기관 특성상 오픈 소스를 활용해서 시스템 구축을 진행할 수가 없었음
    • 친환경 데이터 확보 : 병원에서 제공받은 음성 데이터 → 셀바스 AI의 기록 자동화 솔루션 (음성 인식 솔루션)
    • 의료용 음성 인식 : 의료진이 판독 결과를 말하는 즉시 실시간으로 자동 작성
  • 2) 공공기관
    • 업무 효율이나 정확성 개선과 관련된 사례
    • 부서에서 확보한 다양한 녹취 음원 파일을 확인하고, 종합 분석을 통해 사실로 확인하는 것이 필수 업무
    • 입력 문제로 인해 오판이나 도박 등의 다양한 문제가 발생했었고, 이를 위해 AI 솔루션을 직접 개발하고 도입
    • 시중에 나와있는 다양한 솔루션들을 활용해 보았으나, 수사 용어 등에 인식률이 매우 낮아 실제 수사 감독들이 업무 환경에서 아예 사용하지 않는 경우가 자주 발생
    • 하지만 셀바스 노트는 친환경 데이터를 확보하여 수사에 관한 또는 해당 부서 분야 중심으로 제품이 구현이 가능
    • 수사관들이 확보한 유버 파일을 업로드 하면 정확히 조사자, 피해자 면에서 화자 분류까지 해서 정리
  • 3) 오디오북 제작 자동화
    • 오디오북 제작에 필요한 전 과정을 자동화를 해 보자라고 생각함
    • 오디오 콘텐츠에서는 필수적인 인성에 집중하자를 먼저 생각함

8. 셀바스 AI의 서비스

  • AI 화자를 일일이 다 제공하지 않아도 한 명의 화자가 마치 여러 명이 있는 것처럼 다양한 광고 타일을 구할 수 있는 트랜스포머 기기로 구성되어 있음
  • 에듀테크 서비스를 운영하는 모기업의 사례로 룰베이스 기반의 웹서비스를 활용하고자 했지만 실제 성능 자체가 기대에 미치지 못했음
  • 해당 지역은 해당 데이터를 수집 정리해서 공급 가능한 형태로 변환하는 과정에서 또 마찬가지로 과도한 인사 소스가 필요하다는 것을 알고 이를 옵션 솔루션화를 해서 자동 인식 변환 시스템을 개발하도록 함
  • 범용 시장의 추가 학습을 통한 고도화의 한계에 부착되어 있고 AI 모델이 동작할 수 있는 시스템을 구성하는 것과 기존 시스템과 연동하는 문제에 대해서 굉장한 어려움을 겪고 있음

9. AI의 한계

  • AI가 할 수 없는 부분은 사람의 몫임
  • AI를 통해서 구현하고자 하는 게 사람이 사용하는 시스템과 서비스, 제품임
  • 실제 사용하는 사람의 입장에서 생각을 해보고 해야 좋은 제품으로 이어질 수 있음

0개의 댓글