산업체특강 Report - 20181640 안세홍
2024 인공지능 & 빅데이터쇼
2024 2024 인공지능 & 빅데이터쇼에 참가하였습니다. 이번 캡스톤디자인 수업을 통해 AI 기반 대화형 키오스크 주미를 졸업작품으로 만들면서 AI, LLM 를 실제 프로젝트에 적용했습니다. 그러면서 AI 및 LLM 을 적용한 프로덕트에 관심이 생겼고 이번 2024 인공지능 & 빅데이터쇼에 참여하게 되었습니다.
먼저 여러곳에서 설명을 들으며 재밌는 곳들이 많았지만 관심있었던 두 곳에 대해서 후기를 남기겠습니다.
이스트 소프트 AI Studio Perso
가장 먼저 이곳에 관심이 생긴 이유는 다양한 프로덕트가 있었지만 그 중 눈에 띄었던건 AI Human 이 탑재된 대화형 AI Kiosk 이었습니다. 설명을 들으며 저희 프로덕트를 어떤식으로 발전시키고 방향성을 가져야될지 고민해볼 수 있었습니다. 해당 프로덕트 자체는 키오스크 보다는 키오스크 안에 있는 캐릭터에 초점이 맞춰져있었기 때문에 저희랑은 목표자체는 조금 달랐지만 그래도 배울점이 많다고 생각했습니다.
GPT 와 같은 LLM 을 fine-tuning 시킴으로써 실제 연예인에 대한 정보를 학습시키고 해당 인물과 대화하는 느낌이 들도록 구현한 것을 보았습니다. 추후에는 애플에서의 시리야와 같은 부르는 음성을 통해 음성을 듣는 기능과 음성을 자동으로 끊어줄 수 있는 VAD 기능도 탑제해서 출시한다고 하니 나중에 또 전시회를 한다고 하면 꼭 보러갈계획입니다.
NHN Cloud, VESSL AI
‘VESSL AI’는 고객이 머신러닝 모델의 개발, 학습부터 배포까지 전 과정을 손쉽게 실행하고 자동화할 수 있도록 돕는 ‘MLOps(엠엘옵스, 머신 러닝 작업) 플랫폼’을 제공하는 스타트업이었습니다. 최근 캡스톤디자인 프로젝트를 LLM 을 커스텀 하기 위해서는 프롬프트 엔지니어링 뿐만 아니라 LLM 모델에 대한 파인튜닝에 대한 니즈가 있었고 해당 부분을 직접 해보고 싶다는 생각이 있었습니다. 마침 4시쯤 간단한 사용설명회를 하신다고 해서 시간 맞춰서 이벤트도 진행하며 설명을 들었습니다. 해당 프로덕트(vessl.ai)를 통해 파인튜닝을 어떤식으로 진행하게 되고 백오피스에서 어떤식으로 관리가 되는지 보여주셨습니다. 파인튜닝시 시간은 오래걸렸지만 설명을 잘해주셔서 집에서 혼자한번 해보고 싶다는 생각이 들었습니다.(비용은 알아봐야되지만..ㅎ) 상품으로는 상추씨 주셨습니다. 한번 키워볼게요 ㅎㅎ..
마지막으로 포토홀로그램에서 제 캐릭터를 자동으로 만들어주면서 사진 한장찍고 네스프레소에서 커피한잔 받으며 나왔습니다. 3시간정도 행사장을 돌면서 위와같은 프로덕트 이외에도 AI 를 가지고 만든 프로덕트를 구경했습니다. 너무 재밌었고 뿌듯한 경험이었습니다.
