LLM

유튜브 홍정모 교수님 강의 영상을 참고하여 진행했습니다.허깅페이스에서 LLM 모델을 불러와 파인튜닝하는 실습입니다.카카오에서 제공하는 한국어 모델 카나나 카카오 나노 2.1b 베이스 모델을 사용해봤습니다.사용환경은 아래와 같습니다.transformer 를 통해 허깅페이

데이터사이언스 수업에서 진료 음성 ai 요약 서비스를 개발 중에 있는데,whisper 를 통해 얻은 텍스트를 요약해주는 모델을 다뤄보았습니다.https://huggingface.co/google/gemma-3-1b-itgemma3-1b-it 모델을 허깅페이스에

의료 상담 요약에 RAG를 적용해봤습니다 (with Gemma 3 1B) 최근에 데이터사이언스 수업에서, Gemma 3 1B-it 모델을 활용해서 마취통증의학과의 진료 상담 내용을 요약하는 프로젝트를 진행했습니다. 단순 요약이 아니라, 의료 상담 대화에서 키워드를

llama-cpp-python 으로 진행했습니다.huggingface gpt-oss 모델 페이지를 보면 reasoning 설정이 가능하다고 나옵니다.low, medium(default), high 세가지로 가능다만 llama.cpp 파이썬에서 reasoning 관련 파

llama-cpp 설치 가이드 > nvidia gpu를 사용하는 리눅스 환경에서 llama cpp 를 빌드하고 사용하는 과정을 정리해보겠습니다. 직접 마주한 오류도 해결한 내용도 포함했습니다. 1. llama.cpp 빌드 우분투 환경 기준 빌드 과정입니다. sud