Introduction to Large Language Models
(https://www.cloudskillsboost.google/course_templates/539)
(긍정,중립,부정 분류)
< 작업별 튜닝으로 LLM의 안정성을 높일 수 있다 >
-
Vertax AI : 작업별 기반 모델 제공
-
훈련데이터를 수집, 법률 또는 의료 분야에 맞게 LLM모델을 '튜닝'할 수 있음
-
자체 데이터셋을 가져와 LLM의 모든 가중치를 조정하여 LLM모델을 재교육하는 "파인튜닝"을 통해 모델을 추가로 조정할 수 있음
-
파인튜닝은 비용도 많이 들고, 많은 시간과 에너지를 쏟아야 함. 더 효율적인 튜닝방법으로는 PETM
- 모델을 복제하지 않고 사용자 정의 데이터를 기반으로 LLM 모델을 튜닝하는 방법
즉, 1) 기본 모델 자체는 변경하지 않음, 2) 대신 추론 시 교체할 수 있는 소수의 추가 레이어를 튜닝하는 것 -
구글의 Vertax AI Studio가 대표적인 사례임(구글클라우드가 LLM을 최대한 활용할 수 있도록 지원)
-
Palm API
- 구글의 LLM 및 Gen AI 도구를 테스트, 실험할 수 있음(MakerSuite와 함께 사용하면 프로토타입 제작이 더욱 용이해짐)
- 그래픽 사용자 인터페이스를 통해 API에 액세스할 수 있음
