Overview

Ray는 machine learning과 같은 AI 및 Python 애플리케이션을 확장하기 위한 오픈 소스 통합 프레임워크입니다. 분산 시스템 전문가가 될 필요가 없도록 병렬 처리를 위한 계산 레이어를 제공합니다.

Ray는 다음 구성 요소를 사용하여 분산된 개별요소 및 end-to-end machine learning workflow를 실행하는 복잡성을 최소화합니다.

• 데이터 전처리, 분산 훈련, 하이퍼파라메터 조정, 강화 학습, 모델 제공과 같은 일반적인 기계 학습 작업을 위한 확장 가능한 라이브러리입니다.

• Python 애플리케이션 병렬화 및 확장을 위한 Python 기반 분산 컴퓨팅 기본 요소입니다.

• Kubernetes, AWS, GCP, Azure와 같은 기존 도구 및 인프라와 Ray 클러스터를 통합하고 배포하기 위한 통합 및 유틸리티입니다.

데이터 분석가 및 머신러닝 실무자의 경우 Ray를 사용하면 인프라 전문 지식 없이도 작업을 확장할 수 있습니다.

• 여러 노드와 GPU에 걸쳐 ML 워크로드를 쉽게 병렬화하고 배포합니다.

Ray는 다음을 수행합니다.

• 확장 가능하고 강력한 ML 플랫폼을 만들기 위한 컴퓨팅 추상화를 제공합니다.

• 더 광범위한 ML 생태계와의 온보딩 및 통합을 단순화하는 통합 ML API를 제공합니다.

• 동일한 Python 코드를 노트북에서 대규모 클러스터로 원활하게 확장할 수 있도록 하여 개발과 배포 간의 마찰을 줄입니다.

Ray는 주요 프로세스를 자동으로 처리합니다.

오케스트레이션 – 분산 시스템의 다양한 구성 요소를 관리합니다.

예약 – 작업이 실행되는 시기와 장소를 조정합니다.

내결함성 – 불가피한 실패와 관계없이 작업이 완료되도록 보장합니다.

자동 크기 조정 – 동적 수요에 할당된 리소스 수를 조정합니다.

What you can do with Ray

• Batch inference on CPUs and GPUs
  

• Model serving
  

• Distributed training of large models
  

• Parallel hyperparameter tuning experiments
  

• Reinforcement learning
  

• ML platform
  

Ray framework