AutoRAG TroubleShooting

1. API Connection Error

APIConnectionError: Connection error.

해당 에러 로그를 만났다면, 아마 OPENAI를 사용하지만 OPENAI_API_KEY를 환경변수로 설정하는 것을 까먹었을 것입니다.

그렇다면 다음 두 가지 방법 중 하나로 API Key를 설정해주면 됩니다!

1. export OPENAI_API_KEY 환경 변수 설정하기

export OPENAI_API_KEY=sk-xxx(Your OPENAI API KEY)

2. YAML파일에 직접 api_key 넣어주기

- node_type: generator
  strategy:
    metrics: [bleu, meteor, rouge]
  modules:
    - module_type: llama_index_llm
      llm: openai
      model: gpt-3.5-turbo
      batch: 4
      api_key: your_api_key

2. LlamaIndex Import Error

ImportError: cannot import name 'Document' from 'llama_index.core'

다음과 같은 llama_index ImportError를 만났다면, LlamaIndex 버전을 확인해야 합니다.

만약 버전이 0.10.0 보다 낮다면, 최소 0.10.0보다 높은 버전을 사용해야 합니다!

3. GPU관련 Error

No available memory for the cache block

해당 에러는 VRAM 부족 에러인것으로 보입니다.

이럴 경우엔 batch(YAML에서 모듈 파라미터로 설정 가능)를 최대한 낮춰서 진행해 보시고,
그래도 해결이 안 될 경우엔 (가능한 경우)양자화 모델을 사용하는 것을 추천드립니다!

4. UnicodeDecodeError

UnicodeDecodeError: 'cp949' codec can't decode
byte 0xeb in position 1371: illegal multibyte
sequence

윈도우에서 parquet 파일을 읽는 도중에 발생하는 에러입니다!

윈도우 환경에서의 해결 방법은 engine='pyarrow'로 하는 것인데,
해당 부분은 AutoRAG 내부에서 고쳐야 하는 부분입니다.

해당이슈에서 문제를 해결하겠습니다 :)

일단은 맥이나 리눅스 (윈도우라면 wsl) 환경을 이용해주세요!