Amazon Bedrock은 다양한 고성능 AI 모델을 쉽게 실험, 평가, 사용자 지정 및 배포할 수 있는 완전 관리형 서버리스 서비스. text모델을 사용하여 gpt와 같은 언어 모델 사용 가능.
이스라엘 기반의 회사에서 제작한 LLM 모델. 논리적 능력은 GPT-4o에 비해서 많이 떨어짐. GPT-3.5, llama-2보다 성능이 떨어지지만 매우 저렴한 요금이 장점.
온디맨드 및 배치 요금
- AI21 Labs 모델
- Jurassic-2 Mid
- 12.5 USD / 1M
- 12.5 USD / 1M
- Jurassic-2 Ultra
- 18.8 USD / 1M
- 18.8 USD / 1M
아마존에서 제공하는 LLM. 매우 저렴한 가격이 장점이지만 모델 성능은 llama 2와 비슷. GPT-3.5보다 조금 떨어지고 Jurassic-2보단 높은 성능을 제공.
텍스트 모델의 온디맨드 및 배치 요금
- Amazon Titan 모델
- Amazon Titan Text Lite
- USD 0.15 / 1M
- USD 0.20 / 1M
- Amazon Titan Text Express
- USD 0.20 / 1M
- USD 0.60 / 1M
Anthropic에서 AI의 안정성을 중심으로 개발한 모델. 다양한 고성능 언어 모델을 제공하며 가장 GPT에 근접한 성능을 보유
온디맨드 및 배치 요금
- Anthropic 모델
- Claude 3.5 Sonnet**
- 3 USD / 1M
- 15 USD / 1M
- Claude 3 Opus*
- 15 USD / 1M
- 75 USD / 1M
모든 모델의 경우, GPT-4o-mini보다 성능이 떨어지지만, 각 모델은 특정 용도와 예산에 맞는 장점을 제공. Amazon Titan 모델은 저렴한 비용으로 인해 예산이 제한된 프로젝트에 매우 적합.
Claude 시리즈는 높은 성능과 논리에 필요한 경우 사용 추천. 단, GPT가 더 논리적이며 저렴.
Jurassic-2 시리즈는 매우 저렴한 비용으로 간단한 작업에 유리.
따라서 Amazon Titan이외에는 GPT를 사용하지 않을 메리트가 존재하지 않음.
이후에 GPT-4o mini와 GPT-4o를 비교하고, 프롬프트에 따른 첨삭 성능 결과를 비교하는 것이 더 좋을 것으로 예상. 이렇게 하면 두 모델 간의 세부적인 성능 차이를 명확히 이해할 수 있을 뿐만 아니라, 각 모델이 다양한 프롬프트에 어떻게 반응하는지에 대한 인사이트도 얻을 수 있을 것으로 기대.