https://github.com/PacktPublishing/LLM-Engineers-Handbook?tab=readme-ov-file

Packt 에서 현재 ebook으로 $9.99 에 판매하고 있다. EPUB과 PDF로 다운 받을 수 있다고 한다.

"LLM 엔지니어 핸드북: 개념부터 프로덕션까지 대규모 언어 모델 엔지니어링 마스터하기"는 폴 이우스틴(Paul Iusztin)과 막심 라본느(Maxime Labonne)가 저술한 종합 안내서로, 2024년 10월에 출간되었습니다.

이 책은 MLOps 모범 사례를 활용하여 대규모 언어 모델(LLM)의 설계, 훈련, 배포에 대한 실용적인 통찰을 제공합니다. 특히, 비용 효율적이고 확장 가능하며 모듈식인 LLM 기반 트윈을 구축하는 과정을 다루며, 단순한 주피터 노트북을 넘어 프로덕션 수준의 엔드 투 엔드 LLM 시스템을 구축하는 방법에 중점을 둡니다.

주요 내용은 다음과 같습니다:

• 데이터 엔지니어링: 견고한 데이터 파이프라인 구현 및 LLM 훈련 주기 관리.

• 지도 학습 기반 파인튜닝: 실습 예제를 통해 LLM 생성 및 개선.

• 추론 최적화: LLM 애플리케이션의 성능 및 적응성 향상.

• 선호도 정렬: 사용자 선호도에 맞게 모델 조정 기술 활용.

• 배포: AWS 등의 도구를 사용한 엔드 투 엔드 LLM 솔루션 배포.

• 검색 증강 생성(RAG): RAG 애플리케이션을 위한 기능 및 추론 파이프라인 구축.

이 책은 AI 엔지니어, 자연어 처리(NLP) 전문가, LLM 엔지니어를 대상으로 하며, LLM, 파이썬, AWS에 대한 기본 지식이 있으면 도움이 됩니다.

실습을 위해 저자들은 관련 코드 예제와 리소스를 포함한 GitHub 저장소를 제공합니다.

"LLM 엔지니어 핸드북"은 아마존에서 페이퍼백 및 킨들 형식으로 구매할 수 있습니다.

이 책은 실제 시나리오에서 LLM을 적용하려는 분들에게 유용한 지침과 실용적인 기술을 제공하여 프로덕션 수준의 엔드 투 엔드 LLM 시스템을 구축하는 데 도움을 줄 것입니다.

---

목차

1. LLM 트윈 개념 및 아키텍처 이해하기: LLM 트윈의 개념과 이를 구현하기 위한 아키텍처를 소개합니다.

2. 도구 및 설치: 프로젝트에 필요한 필수 도구와 설치 방법을 다룹니다.

3. 데이터 엔지니어링: 데이터 수집, 처리, 관리에 대한 전략과 모범 사례를 설명합니다.

4. RAG 기능 파이프라인: 검색 증강 생성(RAG) 기능을 구현하기 위한 파이프라인 구축 방법을 다룹니다.

5. 지도 학습 기반 파인튜닝: LLM의 성능을 향상시키기 위한 지도 학습 기법을 소개합니다.

6. 선호도 정렬을 통한 파인튜닝: 사용자 선호도에 맞게 모델을 조정하는 방법을 다룹니다.

7. LLM 평가: 모델의 성능을 평가하고 개선하기 위한 방법론을 설명합니다.

8. 추론 최적화: 모델의 추론 속도와 효율성을 높이기 위한 최적화 기법을 다룹니다.

9. RAG 추론 파이프라인: RAG 기반 시스템의 추론 파이프라인 구축 방법을 소개합니다.

10. 추론 파이프라인 배포: 구축한 추론 파이프라인을 프로덕션 환경에 배포하는 절차를 다룹니다.

11. MLOps 및 LLMOps: 머신러닝 운영(MLOps)과 LLM 운영(LLMOps)의 원칙과 모범 사례를 설명합니다.