Ollama란?
오픈소스 대규모 언어 모델(llm)을 로컬에서 쉽게 실행할 수 있게 해주는 도구
기능
로컬 LLM 실행
: Ollama는 MacOS, Linux, 최근에는 Windows에서도 지원됨.
모델을 로컬에서 구동할 수 있어 인터넷 연결 없이도 사용할 수 있다.
모델 패키징 및 관리
: 모델의 모든 필수 요소를 하나의 Modelfile로 패키징해 관리할 수 있어, 설치 및 구동 환경에 영향을 받지 않고 일관된 실행이 가능.
다양한 모델 제공
: Ollama는 일반적인 텍스트 생성, 코드 생성, 텍스트 요약, 번역 등 다양한 작업에 사용되는 모델들을 제공하므로 필요한 모델을 쉽게 다운로드하고 실행 가능
장점
데이터 프라이버시 유지
: 로컬 환경에서 모델을 실행하기 때문에 외부 서버로 데이터를 전송하지 않아도 된다
유연한 사용성
: 준비된 모델을 사용하거나, 커스텀 모델을 로컬 환경에 맞게 조정하여 사용할 수 있다.
