🦜🔗LangChain? = 검색 + 프롬프트 + 임베딩/저장 + 유사도 검색 + 랭킹 LLM과 외부 도구를 마치 사슬(체인)처럼 엮어 결합시켜 주는 프레임워크 LangChain 모듈 모델 I/O LLM에 전달될 프롬프트 생성 (PromptTemplate)

Get up and running with large language models locally.오픈소스 LLM 모델을 local에서 띄워서 구동하는 가장 손쉬운 방법windows, macos에서도 구동되기 때문에 너무나 간단하게 llama3, gemma, phi-3,

Code 라이브러리 설치 HuggingFace Token 설정 토크나이저 및 모델 설정 템플릿 설정 및 모델 변수 설정 현재 하드웨어 체크 텍스트 요약 요약할 원본 텍스트 배경: 현재 대변검경검사에서는 적절한 정도관리물질이 없어 질관리가 미진한 실정이다. 본

Streamlit is an open-source Python framework for data scientists and AI/ML engineers to deliver dynamic data apps with only a few lines of code(개인적인)

궁긍적인 목적은 llama3 기반모델로 한국어 파인튜닝 모델을 만들어 보는 겁니다. LLaVA : Large Language-and-Vision Assistant (Multimodal LLM) 이미지와 텍스트를 입력으로 받는 멀티모달 대규모 언어 모델 LM에 Visu

본 포스팅은 K-Mooc 강의 '언어학과 인공지능' 과제로 작성하였습니다.스마트폰에 탑재되어 일상생활에 사용되고 있는 Siri, Google Assistant, Bixby 등과 같은 개인음성비서 중의 하나를 선택한 후, 이를 사용해서 적어도 5턴 이상의 대화(즉, 5회

Nugu, Google Assistant 등의 인공지능 스피커 및 음성 비서와 같은 각종 음성 인식 서비스는 사용자의 발화를 어떻게 명령어로 인식할까요? 사용자의 발화 명령어는 텍스트로 변환되고, 이 텍스트가 기존에 정의한 명령어라면 해당 명령을 수행합니다. 이렇게

이번 후기에서는 마지막 세션의 내용을 정리합니다. 개인적으로 저는 이 회사에서 처음으로 Project Owner, 기획팀, 개발팀과 함께 하나의 프로젝트를 진행해 보았는데 이번 세션을 듣고 각 직군별 특성에 대해 이해할 수 있었고, AI Researcher 겸 Engi

이번 후기에서는 두번째 세션, 즉 이 강의의 메인 세션의 내용을 정리합니다. 풍부한 예시와 디테일한 설명 중에서 내용을 간추리려니 결코 쉽지 않은데요, 이번 세션은 그만큼 빼놓을 것이 하나도 없는, 정말 실전에서 바로 쓸 수 있는 내용으로만 꽉 채운 세션입니다. 개인적

이번 LangCon 의 주제는 '생성 모델 튜닝(LLM)' 으로,학계 및 업계의 다양한 시각과 시도에 대해 전해 들을 수 있었던 시간이었습니다.(개인적으로 Langcon2020 에서 발표한 후, 첫 랭콘 참석이었습니다 😊)LangCon2024 안내 페이지발표자 및 발

Udemy 에 아주 좋은 강의가 있어서 소개합니다.진짜 실전 AI 서비스를 기획할 때, 개발할 때 모두 필요한 내용만을 쏙쏙 추려서이해하기 쉽게 시각화된 강의자료 속에 다양한 예시와 함께 담아냈습니다.<실전 AI 서비스 기획> 강의는 Upstage AI 의 이활석

Timeline 우선 저는 10월 초 입사자이고, 이 글을 쓰는 지금은 2월 1일이니 약 4개월차에 접어들고 있군요 😉 2023.10 음성인식 입문 입사하기 전까지 저는 음성인식에 대한 지식과 경험이 전무했습니다. 막연히 인간의 언어를 다루는 도메인이니 제가 해 왔

STT(Speech-To-Text) 의 대표적인 모델 중 하나인 Whisper 에 대해음성인식 회사의 현직자 관점에서 소개하고 설명합니다.https://arxiv.org/pdf/2212.04356.pdfWhisper 모델 구조와 학습 데이터 구축을 다룬 논문입

Speaker Diarization (화자 분할) 두 사람 이상이 대화를 하는 경우 각 화자를 구분하는 기술로, '화자가 다르다는 것을 인식'하기 위한 기술입니다. 이번 포스팅에서는 오픈소스 화자분할 프레임워크 3가지를 소개합니다. Pyannote https://

Speaker Recognition (화자 인식) 입력받은 음성 데이터를 미리 저장된 데이터베이스와 비교하여 화자가 누구인지 식별하는 기술 Speaker Identification (화자 식별) 등록된 여러개의 목소리를 비교하여 화자 식별 Speaker Veri

https://github.com/clovaai/voxceleb_trainer (Review (그림으로 수식 설명)) [화자인식] Metric Learning in Speaker Recognition Abstract an extensive evaluation

이번 포스팅에서는 아래 도서 및 포스팅을 많이 참고했습니다. Do it! BERT와 GPT로 배우는 자연어 처리 https://www.yes24.com/Product/Goods/105294979 https://jalammar.github.io/illustrated-t

Self-Attention 을 제외한 Encoder 의 나머지 구성 요소를 살펴봅시다 본 포스팅은 다음 저서와 사이트를 참고하여 작성하였습니다. Do it! BERT와 GPT로 배우는 자연어 처리 https://www.yes24.com/Product/Goods/10

본 포스팅은 다음 사이트를 참고하여 작성하였습니다. https://ratsgo.github.io/nlpbook/docs/language_model/transformers/ Self-Attention? Attention 먼저 설명하겠습니다. Attention 은 '(문

이제 Transformer 를 살펴봅시다. 아래는 Transformer 구조를 그림으로 나타낸 것으로, NLP러라면 한번쯤 본 적이 있을 거에요. (저는 이 그림을 참고하여 Transformer 의 동작 원리를 설명하는 기술 면접을 치른 적이 있어요 😂) 이 포스팅