SK AI Summit 2024 후기

steve·2024년 11월 17일

AI AI Agent LAM LLM LMM SK AI Summit rag

AI

목록 보기

3/3

개요

SK AI Summit 소개
주요 키노트 및 세션 정리
후기 및 실무 적용 방안

SK AI Summit 2024

행사명 : SK AI Summit 2024
장소 및 일시 : Coex, 2024년 11월
AI Summit 개최 기사
- https://news.sktelecom.com/208288

세미나 참여 목표

AI 트렌드 및 AI 산업 시장 파악
AI Agent 기술을 활용한 실무 자동화 사례 확인
실무에 활용할 수 있는 방안 탐구

전시장 정보

AI 인프라 및 데이터센터 관련 전시
참가 기업들의 AI 서비스 전시

Session 1 : AI 혁신의 두 얼굴: 버블과 기회의 사이에서

“AI 거품론이 불거지는 건 AI가 능력이 없는 게 아니라, 너무 비전있는 사업이기에 모두가 비용 생각 없이 도전하고 있어 그런 말이 나오는 것”

또 다른 화제는 AI 연구자가 노벨 물리학상·화학상을 받은 것 이라며 “AI가 화학을 연구해 노벨상을 받은 건데, AI가 화학자들에게 새로운 도구를 준 것이다. 앞으로도 과학적 발견은 인간이 하겠지만, 그 도구는 AI가 될 것"

AI 기술 관련 산업 흐름
- 생성형 AI 출시 > 더 많은 에너지 필요 > 데이터센터 > 전력 어떻게 공급할건지 > 에너지 스타트업 호황 > 전선•전력관리 관련 기업 > 에너지 증가•열 증가 > 쿨링 시스템 개선 필요 > 칩 하나 하나에 어떻게 열 낮출지 연구 중

Session 2 : AI를 이용한 맞춤형 항암치료, 현재와 미래

임프리메드는 AI 기술을 통해 정밀 의료를 구현하며 암 치료의 맞춤형 접근을 선도하는 기업. 같은 치료법이라도 사람마다 치료 효과가 다른 이유는 환자 개인의 습관(흡연, 운동 등)을 고려하지 않기 때문. 임프리메드는 AI로 이를 보완해 환자별로 최적화된 치료법을 제안
핵심 기술과 장점:
- 대량 데이터 분석: 30억 개의 염기서열을 포함한 방대한 생물학적 데이터를 빠르게 처리
- 맞춤형 처방: 환자의 신체 상태에 따라 항암 치료 방법을 다르게 적용해 더 효과적이고 개인화된 치료 제공
- 예측 모델: 약물 반응성, 혈액 검사, 면역체계, 유전자 검사 결과 등 다양한 요소를 분석해 최적의 처방을 제시. 연령, 인종, 성별, 암의 단계, 의료 이력, 다른 약물 복용 여부까지 종합적으로 고려
AI 기술 효과:
- 대량 데이터 처리와 일관성, 표준화된 데이터 처리로 높은 정확성 확보
  예측 모델을 통해 생존율 증가와 치료 효과 증대
- 실제 사례: 림프종 환자 치료에서 AI 기반 치료법으로 생존율 3배, 치료 효과 4배 향상. 반려동물 데이터를 통해 쌓인 성과가 주목할 만함

현재 의료 체계의 한계: 국내에서는 처방 조합에 대한 가이드라인이 이미 정해져 있어 의사가 이를 자유롭게 변경할 수 없음. 다만, 일부 고위험군 환자에 대해 AI 처방이 허용되는 경우도 존재

Session 3 : Vision-AI 기반 근골격계 개인 맞춤형 의료서비스

Vision AI의 히스토리
- 1970 디지털 카메라 등장
- 1980 텍스트 인식(차량 번호판)
- 1990 대상 물체의 세그멘테이션
- 2000 얼굴인식
- 2010 인체 모션 인식
신체 기능, 운동 능력이 기대 수명을 예측한다
- 생명을 결정 짓는 가장 중요한 지표
신체 기능의 주기
1. independence 신체 활동 가능
2. fraulity 노쇠
3. disability 장애
4. death 죽음
근골격계 모션을 인식하면서 시작된 비전 AI기술과 MSK Care 에 적용
MSK Care?
- MSK는 ‘Musculoskeletal’의 약자로, 근골격계를 의미합니다. ‘MSK care’는 근골격계 질환의 예방, 진단, 치료, 재활을 포함하는 의료 서비스를 지칭

Session 4 : AI 에이전트 서비스의 현재와 미래

LLM의 특성 덕분에 AI 에이전트 시장이 대두됨. 패널 토론에서는 AI 에이전트의 정의와 발전 가능성, 서비스 혁신의 방향성에 대해 다룸
AI Agent란?:
- 스스로 액션을 취하느냐 (Assistant 수준을 넘어선)
  - 반드시 신뢰 필요
  - 전문성 필요
  - 고객에 대한 이해 필요
  - 즉 정보체계가 완벽해야함
- 사용자를 대신해 다양한 작업을 수행하는 역할로, 미래에는 비용을 지불하면서 사용하는 서비스로 발전할 가능성이 큼
- 슈퍼 에이전트처럼 모든 작업을 다 해주는 기술은 시간이 필요하지만 특정 분야에 특화된 에이전트 기술은 가까운 미래에 실현 가능할 것으로 보임
- 적정 비용으로 에이전트 기술이 보급되면 스마트폰처럼 널리 사용될 수 있을 것. 예를 들어, 비싼 로봇청소기를 사는 대신 청소 대행 서비스를 이용하는 개념과 비슷함
- 사용자 신뢰도와 AI에 대한 거부감을 극복하는 것이 중요
Post smartphone 시대와 에이전트:
- 에이전트 기술이 발전하면 스마트폰의 의미가 바뀔 수 있음. 스마트워치 등을 통해 에이전트와 소통하는 방식으로 변화할 가능성도 있음
- 에이전트 기술은 휴머노이드 로봇의 배터리 문제 등 문턱 기술을 넘어야 함
  로보틱스와 AI가 결합된 형태에서 새로운 피지컬 컴포넌트가 등장할 가능성도 있음. 예를 들어, 요리를 준비할 때 재료가 자동으로 해동되어 도마 위에 올라오는 가전제품 같은 것
글로벌 AI 사례와 국내 모델:
- 글로벌 검색 AI 업계 2위 LINER는 단순한 검색 결과 선별을 넘어 사용자 의도에 대한 데이터를 활용. AI는 국경을 초월한다는 점이 강조됨
- SK 텔레콤의 에이닷은 초기 단계의 AI 에이전트로 주목받고 있음. SK는 데이터 보유와 그룹 차원의 콘텐츠 경쟁력을 통해 기술적 강점을 보유
B2C와 B2B 사례:
- 야놀자는 B2C에서 여행 추천 기능에 에이전트 기술 도입을 고려했었고, 실제 대화형 AI 서비스로는 호텔 방 변경 요청에 대한 기능을 출시했으나 사용자 경험이 직접적으로 개선되지 않은 것을 경험하여 매출로 연결되기 어려운 점을 경험함. 여행업은 호텔리어 등 사람의 영역이 많이 필요해 대화형 서비스가 만능이 아님. 버튼형 기능처럼 사용자 시간을 아껴주는 접근이 효과적임
- B2B 시장은 기업의 요구가 명확하기 때문에 니즈를 파악하고 대응하는 것이 중요
보안 이슈와 온디바이스:
- 보안 문제는 온디바이스 방식으로 해결할 수 있음. 클라우드 기반 서비스가 보안 문제를 해결할 수 있을지에 대한 거부감을 넘어서 신뢰감을 쌓는 것이 중요
- 신뢰할 수 있는 서비스는 사용자의 요구를 이해하고 충족시키는 데 중점을 둬야 함. 예를 들어, 냉장고에 음식물을 보관하는 것이 아닌, 사용자가 말하면 필요한 음식이 자동으로 배송되는 방식으로 발전할 가능성이 있음
기술 지향성과 스타트업 전략:
- AI 에이전트는 단순히 많은 유스케이스를 구현하는 것이 아니라, 구체적이고 현실적인 유스케이스를 더 만들어내는 데 집중해야 함
- 대기업은 넓은 시장 전선을 추구하지만, 스타트업은 좁은 시장에 집중해 고객 이해도를 높이고 특정 유스케이스 버티컬에 집중 해야 함. 스타트업은 특정 타겟과 전략을 잘 파악해야 경쟁력을 가질 수 있음
- 페이스북이 미국 대학생 커뮤니티로 시작해 글로벌 SNS로 성장한 것처럼, 스타트업도 초기 타겟 고객에 집중해 성장할 기회를 모색해야 함

Session 5 : Digital Workforce : AI 기반 업무 자동화 Agent로 실현하는 일하는 방식의 혁신

SK의 AI 도입 현황

SK는 임직원을 위해 AI 기반 업무 도구를 제공하며 이를 실제 업무에서 적극 활용 중
채용 과정에도 AI를 도입하여 객관적이고 일관된 절차를 보장하고 있음

AI Agent의 개념과 차별성

AI Agent는 단순히 명령을 받고 결과를 반환하는 것이 아니라, 스스로 문제를 분석하고 해결하는 자율적 능력 을 갖추고 있음
기존의 멀티 에이전트 방식이 아닌, 하나의 에이전트가 자율 학습을 통해 다양한 상황에 대응할 수 있어야 함

AI Agent 도입의 기대 효과

이러한 자율적 AI Agent는 기업의 업무 효율성과 생산성을 크게 높일 수 있음
AI 기반 자동화는 조직 내 일하는 방식을 혁신적으로 변화시키며, 디지털 워크포스 시대를 주도할 기술로 자리잡을 전망
- 위의 아키텍쳐에 따르면, 각 업무에 대한 분류를 정의(위쪽 부분의 업무 부서 항목, 채용/구매/재무)하고,
- 자동화 할 수 있는 부분을 찾아 Work Flow를 정리하여 AI Agent 기술을 개발(왼쪽 부분)해야 하는데,
- 기존 레거시 시스템(오른쪽 부분, DB, File, Link, Video, Audio 등 모든 형식의 자료)들과 연동할 수 있도록,
- 인터페이스 개발(중앙 부분 Action Hub)이 필요함
- 정리 된 Work Flow를 LLM, RAG 기술(아래 부분)을 활용하여 전체 AI Agent Architecture를 구축

이러한 발전은 AI 기술이 업무 효율성을 극대화하고 기업의 경쟁력을 높이는 중요한 도구로 작용할 것으로 예상됨. AI Agent의 자율성과 학습 능력은 디지털 시대의 업무 자동화를 혁신하는 주요 요소가 될 것

Session 6 : PAA: 기술적 도전과 우리의 혁신

PAA Framework 프로세스
1. Q&A (Question and Answering) - 챗봇
  : 대부분의 Q&A 시스템은 정적 데이터 세트나 훈련된 모델을 사용하여 답변을 생성
2. New Search
  : 더 능동적으로 정보를 검색하여 답변을 제공, 복잡한 검색 쿼리와 다중 출처에서 정보를 결합하여 보다 정교한 답변을 생성. RAG(Retrieval-Augmented Generation)와 같은 기술이 활용됨
- User Input에 따라 즉각 답변하지 않고 의도를 명확히 하도록 재질문 단계를 추가 (재확인 절차는 사용자 경험이 떨어질 수 있음)
  : System Instruction을 먼저 제공하는 방식으로 성능/비용 모두 효과적으로 처리
Agent를 개선하는 파이프라인 자동화 구축
LLM 비용 최적화 : 단순 질문에는 고성능 AI 모델을 사용하지 않도록 처리 필요
개인화 추천 시스템
하나의 에이전트가 통합 수행하는 것이 아닌 Multi Agent 기반 시스템 구축

AI 용어 및 주요 개념 정리

LLM, LMM, LAM, RAG

LLM : Large Language Model
LMM : Large Multi-modal Model
LAM : Large Action Model
RAG : Retrieval Augmented Generation

HBM은 메모리 칩을 여러 개 쌓아 올려 TSV(Through-Silicon Vias)라는 수직 연결을 통해 데이터 전송을 병렬로 처리. 이러한 구조는 매우 높은 대역폭을 제공하여 GPU 또는 AI 가속기와 메모리 간의 병목 현상을 줄임

후기

이전에 참가 했었던 AI Expo와는 달리, 기업 주관 Summit 행사였기 때문에 그룹사 솔루션 및 서비스를 소개하는 세션이 많았고, 전시회는 인프라 솔루션이나 자사 데이터센터 관련 전시가 대부분이었지만, 다양한 세션이 준비되어 있어서 관심 있는 분야인 AI Agent 산업 기술에 대한 실제 활용 사례를 볼 수 있어서 아주 유용한 시간이었다.

그룹 차원에서 AI 기술을 가장 활발하게 개발하고 있고, 실무에 적용하는 것을 실제로 보니, 개발자 뿐만 아니라 대부분의 직종에서 자동화로 처리될 수 있는 부분들은 AI 기술을 잘 다룰 수 있는 사람이 더 높은 수준에서 새로운 것을 만들고 새로운 가치를 창출하는 사람이 될 것이라고 느꼈다.

개인적으로 AI Agent 산업과 기술에 대해 관심이 많았지만, 실제 구현은 없이 머릿속으로 구상만 하고 있었던 수준이었는데, 실제 Architecture를 보며 생각을 구체화할 수 있었고, 각 단계에서 어떤 프로세스가 필요 한지 (예: RAG의 전처리, 후처리, 모듈화 등) 더 깊이 이해할 수 있었다. 먼저 LLM을 활용한 자동화 시스템 (Assistant)을 먼저 구축해보고, 추후 Agent 수준까지도 개발해볼 수 있도록 AI 기술에 대한 꾸준한 관심이 필요하다고 생각한다.

steve

이전 포스트