sLLM

sLLM 이란

LLM 보다 작은 규모의 대형 언어 모델 (Small Large Language model)의 약자이며, 상대적으로 작은 규모의 대형 언어 모델을 의미한다. 일반적으로 매개 변수의 수가 수십 억~ 수백 억개 정도의 파라미터를 활용한다. 기존 LLM의 수천 억 ~ 수조 개 파라미터에 비해 훨씬 작다.

sLLM 특징

1. 하드웨어에 대한 부담 감소
   • 고가 서버 구축 필요 X
   • 노트북, 스마트 폰 등의 단말기에 sLLM 활용 가능 (온디바이스AI)
2. 비용 효율성
   • 파라미터의 개수 축소로 인한 학습 시간 효율성
   • 운영에 대한 비용 효율성
3. LLM 보다 쉽게 배포 및 관리
4. 기업의 내부 서버에 설치하는 구축형 '온프레미스' 방식으로 데이터 유출 위험이 적다.

sLLM 사례

1. 핑퐁

   • 소셜 인터랙션에 특화된 자체 기술력으로 개발한 sLLM
   • 입맛대로 AI 캐릭터를 만들 수 있는 플랫폼 출시

2. 삼성전자의 사내 코드 생성도구 CODE.ISR

   • 사내 코드 데이터에 기반한 고품질 추론 서비스를 제공할 수 있는 모델
   • 개발자가 원하는 기능을 정의하면 이에 맞는 코드 자동 생성

3. 삼성전자의 온디바이스 AI 삼성 가우스

   • 스마트폰 등에 온디바이스 AI 탑재

4. 구글 제미나이를 경량화한 제미나이 나노

5. MS의 sLLM 파이2

sLLM을 활용할 수 있는 범주가 많이 있기 때문에,코드와 함께 sLLM 만들기&활용 해보면 좋을 것 같다.