오늘은 같이 프로젝트를 했던 팀들과 AI Festa를 다녀왔다. AI를 다루는 대부분의 기업들이 모두 참석한 행사인만큼 볼거리가 정말 풍성했다. 팀원들과 AI 현재 동향도 살펴보고, 나름 우리가 공부했던 눈(?)을 바탕으로 비교도 해보고 재미난 시간을 보냈다 ☺️ 지금부터 흥미롭다고 생각했던 회사들을 골라서 아주 살짝 공부 한스푼과 느낀점을 곁들인 후기를 써보려고 한다.
 |  |
|---|
💡 Kakao - Kanana
우선 들어가자마자 보이는 곳은 Kakao였다. 역시나 사람도 엄청많아서 줄을 서서 들어가야 했지만, 들어가서 4개의 세션으로 나눠져 있어서 사람이 최대한 적은 쪽부터 돌기 시작했다.
1. Kanana LLM
가장 먼저 본 곳은 새로 출시한 Kanana 모델을 소개하는 공간이었는데, 우리도 프로젝트때 파인튜닝 과정에서 Kanana를 사용했다보니, 엄청 반갑게 다가왔다. 우리는 Kanana-1.5-8B-instruct모델을 사용했는데 1.5버전에서 Kanana-1.5-15.7B-A3B를 새롭게 출시했다. 이 모델은 꽤 큰 파라미터를 가지고 있지만 추론 시에는 약 3B 파라미터만 활성화되는 MoE구조의 효율적인 모델이었다.
MoE(Mixture of Experts) 구조란?
“MoE = 전문가 혼합” 이라는 이름에서 알 수 있듯이, 전체 모델을 여러 개의 전문가 네트워크(experts) 로 쪼개고, 입력(input)에 따라 어느 전문가를 쓰거나 가중합을 하여 출력을 만드는 방식이다.
MoE 레이어에서 입력을 받으면, 가장 먼저 router에서 어떤 expert가 적절한지 expert들의 점수를 매기고, top-K로 상위 몇개의 expert들로 입력 값을 흘려보내 처리하도록 한다. 그럼 활성화된 expert들로부터의 연산 출력값과 router에서 매긴 점수로 가중치를 두어서 합하여 이후 연산 과정에서 사용하게 된다.
이는 모든 전문가를 매번 활성화하지 않고, 일부만 골라 쓰면 → 계산량(flops)을 줄이면서도 거대한 모델을 유지할 수 있다 (“sparse activation”)
이렇듯, 카카오는 기존 dense구조였던 Kanana-1.5-8B 수준 성능과 비슷한 수준을 목표로 하면서 연산 비용을 낮추고자 하였다. 우리 프로젝트에서도 8B모델을 썼었는데, 모델을 돌리는데 최소 A100은 필요했다.. 이걸 쓰면 더 작은 GPU에서 돌릴 수 있을까...근데 또 15.7B라서 안 돌아갈거 같긴 하다..나중에 써볼 수 있는 기회가 있으면 좋겠다!
더 자세한 내용은 Kakaotech 홈페이지에 들어가면 매우 자세하게 설명되어 있다!
Kanana-MoE 개발기 블로그 참고
2. Kanana-Safeguard
그 다음 존에는 Kanana Safeguard 모델을 소개하고 있었는데, 한국어 특화 가드레일 모델이라서 우리나라 언어와 문화들을 잘 이해하고 있었다. 거기서 직접 모델을 사용도 해봤는데 어떤 질문을 돌려서해도 공격적인 내용이거나 잘못된 발언을 할 경우, 답변을 해주지 않았다. huggingface에서도 몇번 본적이 있는데 그때는 이러한 기능을 하고 있는 모델인줄 몰랐다. 직접 사용도 해보고 설명을 들으니깐 이 모델을 더 관심을 가지고 볼 수 있게 되었다. kanana-safeguard, Kanana-safeguard-siren, Kanan-safeguard-promt 이렇게 3가지 모델로 나눠져있다. 자세한 내용은 아래 huggingface 페이지을 참고하면 좋을거 같다!
kakao safeguard huggingface 페이지
3. Play MCP
PlayMCP는 카카오에서 개발한 MCP서버 마켓으로, 다양한 MCP들을 툴로 불러와서 사용할 수 있었다.거기서 직접 체험도 해보니깐 내 프롬프트를 llm이 판단해서 필요한 MCP 툴을 불러와서 답변했다. 이렇게 툴로서 사용하니깐 확장성도 있고 좋았지만, 담당자 분께도 질문했을 때, 정확도나 직접 컨트롤 하는데는 한계가 있다는 점도 말씀해주셨다. 그래도 꽤나 다양한 MCP를 사용해서 툴로 사용할 수 있다는 것은 정말 큰 장점이었다.
4. Kanana Ondevice AI
10월에 출시 예정인 카카오톡에 온디바이스AI가 내장되는데,거기서 사전 등록도 할 수 있었다. 온디바이스에 들어가는 모델은 Kanana Nano 모델인데, 온디바이스라서 따로 채팅 내역을 기억하지 않고 기기 안에서 사용자 요청시에 서버를 통해 답변을 제공한다. 출시가 되어야 어떻게 되는지 알 수 있겠지만, 이제는 휴대폰에도 AI가 온디바이스로 들어간다니 너무 신기했다.
Kanana Nano 개발하기 블로그 참고
💡 NC AI - Varco 3D
다음으로 흥미로웠던 기업은 바로 NC에서 개발한 3D생성 모델인 Varco 3D 모델이었다. NC는 원래도 게임 캐릭터들을 개발하는 곳이다보니깐, 모델이 생성하는 캐릭터 퀄리티도 엄청 높았다. 처음에 원하는 모양을 프롬프트를 작성하면, 3가지의 후보 중에 마음에 드는 이미지를 먼저 선택하고, 마음에 들지 않을땐 프롬프트를 재작성할 수도 있다. 그리고 최종적으로 선택하고 나면 생성된 3D 모델을 확인할 수 있는데, 퀄리티가 너무 좋아서 깜짝 놀랐다. 프로젝트를 하면서 3D모델을 몇가지 사용해봤지만, 가장 퀄리티가 높았던 것 같다. 이외에도 캐릭터에 모션들도 추가할 수 있어서 사람의 골격에 따라 다양한 모션을 입힐 수 있었다. 아직은 표정까지는 움직이지 못하지만, 표정도 움직일 수 있으면 더 재밌을 것 같다.
이 링크로 베타버전을 사용해볼 수 있다 ! Verco 3D Beta버전
 |  |
|---|
💡 Naver Cloud - 팟캐스트 AI
어렸을 때 종종 팟캐스트를 듣고 했었는데, 이번 Naver cloud에서 AI 음성으로 팟캐스트를 만들 수 있다는 것이 아주 흥미로웠다. 실제로 들어봤을 때 진짜 AI로 생각하지 못할 만큼 사람이 방송하는 듯한 목소리였다. 게다가 30분동안 실제 사람의 목소리를 학습시키면 그 목소리를 바탕으로 AI가 팟캐스트를 생성해준다는 점이 가장 좋았다. 이질적인 AI 목소리가 아니라 실제 목소리를 기반으로 하다보니 아주 자연스러웠다. 이제는 대본만 있으면, 실제로 녹음하지 않아도 손쉽게 팟캐스트를 만들 수 있을 것 같다.
💡 Samsung SDS - 브리티 코파일럿
이제는 글로벌 시대이다보니, 해외와도 협업하는 순간들이 정말 많은데 그렇게 하다보면 모든 대화를 이해하기란 쉽지 않다. 브리티 코파일럿이라는 툴을 현장에서 체험해볼 수 있었는데, 어떤 러시아 분이 실제로 회의에서 러시아어로 말씀하시면 실시간 자막과 번역이 되어 다시 음성으로 들려준다. 꽤나 정확학게 번역을 할 뿐만 아니라 STT 자체의 기능도 너무 뛰어나서 단어를 거의 틀리지 않고 텍스트로 생성되는 것을 확인할 수 있었다. 내가 만약 해외기업에서 계속 일해야하는 사람이라면 꽤나 유용한 툴이 되지 않을까 싶다.
💡 EQ4all - 아바타 수어 번역 플랫폼
우리는 흔히 뉴스를 볼때면, 오른쪽 아래에 수어로 뉴스 내용을 통역해주는 분을 자주 볼 수 있다. 수어는 청각장애를 가지신 분들의 언어로, 뉴스 이외에 더 다양한 콘텐츠에서 지원이 필요하다. 이 기업은 청각 장애인분들이 생활 속에 겪는 여러 불편함들을 해소하기 위해서, 주로는 아바타 수어 번역 기술로 해결해나가고 있는 기업이다. 수많은 다른 기업들은 오로지 기술에 집중하여 트랜드를 따라가기 바빴고, 누구를 위한 서비스보다는 가장 최신의 서비스를 만들어내는 것에 집중하고 있는 듯 했다. 그러나, 이 기업은 하나의 기술이라도 선한 곳에 우선적으로 사용되는 것에 더 집중하고 있었다. 이런 기업들이 더 많이 성장하고, 또 다양한 기술들을 접목해서 세상에 있느 수많은 어두운 곳을 밝혀주는 기업이 되었으면 좋겠다. 무엇보다 설명해주는 직원분께서 열정을 가지고 설명을 해주셔서 마음이 오히려 너무 따뜻해졌다.
마무리 글
이외에도 정말 많은 회사들이 있었지만, Top 5으로 가장 마음에 드는 기업들을 선정해서 블로그를 작성해보았다. 요즘엔 AI를 사용하지 않는 기업이 있을까 싶을 정도로, 수많은 기업들이 더 성능 좋은 AI 서비스를 만들어내고 있다는 것을 몸소 느낄 수 있는 현장이었다. AI를 통해 얼마나 큰 발전이 이루어질지 기대가 되면서도 그 기술이 올바른 방향을 향해 갈 수 있도록 한명의 사회 구성원으로서 더욱 열정적으로 AI 기술을 공부하고 만들어가는 사람이 되고 싶다!
