[LangChain] 정리

• rest api 연동은 langserve 로 지원
  • https://python.langchain.com/docs/langserve/
  • fastapi 를 내부적으로 사용.
    • 하지만 유지보수 정도만 하는 프로젝트. (langserve platform 을 쓰라고 하고 있으나, 이는 상용)
  • fastapi 로 직접 연동하려면 직접 구현해야할듯

• LLM 앱 예시
  • https://python.langchain.com/docs/tutorials/llm_chain/
  • (op-script 에서의 chat completion 과 유사한 사용례)

• 임베딩
  • https://python.langchain.com/docs/integrations/text_embedding/
  • embed_documents 로 여러 텍스트를 임베딩하거나 embed_query 로 단일 텍스트를 임베딩
  • azure openai 로 임베딩 https://python.langchain.com/docs/integrations/text_embedding/azureopenai/

import getpass
import os

if not os.environ.get("AZURE_OPENAI_API_KEY"):
  os.environ["AZURE_OPENAI_API_KEY"] = getpass.getpass("Enter API key for Azure: ")

from langchain_openai import AzureOpenAIEmbeddings

embeddings = AzureOpenAIEmbeddings(
    azure_endpoint=os.environ["AZURE_OPENAI_ENDPOINT"],
    azure_deployment=os.environ["AZURE_OPENAI_DEPLOYMENT_NAME"],
    openai_api_version=os.environ["AZURE_OPENAI_API_VERSION"],
)

query_embedding = embeddings.embed_query("What is the meaning of life?")

• vector store
  • https://python.langchain.com/docs/integrations/vectorstores/
    • milvus 문서 https://python.langchain.com/docs/integrations/vectorstores/milvus/
  • milvus 호환성은 그리 좋진 않은듯. vector 로 search 가 불가