VMworld에서는 VMware가 진행 중인 프로젝트에 대한 다양한 발표와 업데이트가 있었습니다.
이 발표/프로젝트 중 3개는 VMworld와 참석자들로부터 많은 관심을 받았습니다. 이러한 발표는 Project Monterey, Project Capitola 및 NVIDIA + VMware AI Ready 플랫폼이었습니다.
이러한 프로젝트 및/또는 발표를 따르지 않은 사람들에게는 GPU, DPU 및 메모리에 관한 것입니다. 지난 몇 주 동안 저는 앞으로 나올 VMUG에 대한 새로운 콘텐츠를 개발하기 위해 노력해 왔으며, 이러한 프로젝트는 프레젠테이션의 일부가 될 가능성이 큽니다.
내가 프로젝트를 보기 시작했을 때 나는 그것들을 3개의 별개의 관련 없는 프로젝트로 보았지만 시간이 지남에 따라 그것들이 별개의 프로젝트이지만 분명히 관련되어 있다는 것을 깨달았습니다.
시간이 지남에 따라 이러한 프로젝트는 Radium과 같은 다른 프로젝트와 함께 많은 인프라에서 중요한 역할을 할 것이라고 생각합니다. 왜요? 글쎄요, 저는 데이터가 모든 비즈니스 혁신의 핵심이라고 굳게 믿기 때문입니다!
분석, 인공 지능, 기계 학습은 시간이 지남에 따라 대부분의 기업이 새로운 제품 및 서비스 개발을 통해 또는 혁신적인 방식으로 새로운 고객을 확보함으로써 비즈니스 성장에 필요하고 사용하게 될 것입니다. 물론 많은 회사에서 이미 이러한 기술을 광범위하게 사용하고 있습니다.
여기에서 NVIDIA, Project Monterey 및 Project Capitola와의 작업과 같은 작업이 시작됩니다.
프로젝트를 통해 고객이 데이터를 분석하고, 결과에서 학습하고, 새로운 제품, 서비스를 개발하고, 효율성을 높이고, 일반적으로 비즈니스를 확장할 수 있는 플랫폼을 고객에게 제공할 수 있습니다. 데이터 또는 머신 러닝 분석에 대해 생각할 때 한 가지 눈에 띄는 것은 오늘날 모든 AI/ML 프로젝트의 거의 50%가 프로덕션 단계에 들어가지 않는다는 것입니다. 다양한 이유가 있지만 이러한 프로젝트가 실패하는 주요 이유는 일반적으로 복잡성, 보안/개인 정보 보호 및 가치 실현 시간입니다.
이것이 VMware와 NVIDIA 간의 협력 이 매우 중요한 이유 입니다. VMware/NVIDIA 인증 솔루션을 배포하는 기능 은 하드웨어 관점에서 뿐만 아니라 소프트웨어 관점에서도 많은 위험을 완화해야 합니다. NVIDIA와의 작업은 인증된 하드웨어 스택에 관한 것이 아니라 또한 이러한 환경에 일반적으로 필요한 소프트웨어 스택도 함께 제공됩니다.
그렇다면 Monterey와 Capitola는 이 모든 일과 어떤 관련이 있습니까?
당신은 몇 가지를 보면 AI와 ML의 주제에 프랭크의 게시물, 그것은 AI / ML 워크로드에 올 때 대부분의 인프라에 명백한 병목 현상의 몇 가지가 있다는 것을 분명해진다. 이러한 병목 현상 중 일부는 스토리지 및 VM 전반에 걸쳐 가장 오랜 기간 동안 병목 상태였습니다. 이러한 병목 현상은 무엇입니까? 데이터 이동 및 메모리. 이것은 Monterey와 Capitola가 작동하는 곳입니다. 프로젝트 몬터레이 SmartNIC(또는 일부 공급업체가 DPU라고 부름)에 대한 VMware의 프로젝트입니다.
SmartNIC/DPU는 많은 이점을 제공하지만 주요 이점은 확실히 오프로딩 기능입니다. 특정 작업을 SmartNIC로 오프로드하면 CPU가 다른 작업을 수행할 수 있게 되어 실행 중인 작업 부하에 도움이 됩니다. 또한 이러한 장치의 속도도 향상되어 궁극적으로 더 빠르고 효율적인 데이터 이동이 가능할 것으로 예상할 수 있습니다. 물론 보안 및 격리와 같은 더 많은 이점이 있지만 오늘 논의하고 싶은 것은 그것이 아닙니다.
그리고 마지막으로 메모리에 관한 모든 것, Project Capitola입니다!
이 블로그에서 부르는 소프트웨어 정의 메모리. 이것은 오늘날 대부분의 환경에서 병목 현상으로 남아 있습니다. AI/ML이 있든 없든 충분한 메모리를 가질 수는 없습니다! 불행히도 메모리는 (높은) 비용이 듭니다. Project Capitola는 DIMM을 더 저렴하게 만들 수는 없지만 호스트 및 클러스터의 메모리 사용을 보다 비용 효율적으로 만드는 것을 목표로 합니다. 호스트 내에서 메모리 계층화를 제공하는 것을 목표로 할 뿐만 아니라 호스트 간에 풀링된 메모리를 제공하는 것을 목표로 하고 있습니다. 이는 해당 시나리오에서 낮은 대기 시간과 고대역폭 연결이 매우 중요하기 때문에 프로젝트 몬터레이와 직접 연결됩니다! 이것이 순수하게 AI/ML을 겨냥한 것입니까? 물론 메모리 계층과 메모리 풀은 모든 종류의 앱에서 사용할 수 있어야 합니다. 앱에 메모리의 모든 데이터가 필요하지만 "나노초 대기 시간" 요구 사항은 없습니까? 계층화된 메모리가 작동하는 곳입니다! 단일 호스트가 제공할 수 있는 것보다 워크로드에 더 많은 메모리가 필요합니까? 풀링된 메모리가 작동하는 곳입니다! 정말 많은 멋진 사용 사례가 떠오릅니다.
여러분 중 일부는 이러한 프로젝트가 어디로 가고 있는지 이미 깨달았을 수도 있고, 일부는 아직 "그 순간"을 경험하지 못했을 수도 있습니다. 바라건대, 위의 내용은 데이터 센터가 미래의 증거가 될 것이며 비즈니스의 혁신을 가능하게 합니다.
일부 발표 및 프로젝트에 대해 자세히 알아보려면 VMworld 웹사이트로 이동하여 VMworld 다시보기을 시청하십시오!
Reference : https://www.yellow-bricks.com/2021/11/08/project-monterey-capitola-nvidia/
