VMware Cloud på AWS får virtualiserade GPU: er eftersom företaget samarbetar med Nvidia

Nvidia

Med AI och maskininlärning som en allt viktigare del av modern databehandling förblir Nvidias affärsgrunder starka. De har spetsat på deras ansträngningar att vara en framträdande kraft i serverbranschen och skapa partnerskap med flera tekniska företag. Nyligen tillkännagav Nvidia och VMware en koppling, som kommer att föra Nvidias vGPU (Virtual GPU Technology) till VMwares vSphere-stack på AWS.

GPU: er är utformade med tanke på dataparallell beräkning, vilket påskyndar vektor- och matrisoperationer. Detta gör dem idealiska för AI-arbetsbelastningar.

Tidigare begränsad till endast CPU kan AI-arbetsbelastningar nu enkelt distribueras i virtualiserade miljöer som VMware vSphere med nya vComputeServer programvara och NVIDIA NGC . Genom vår partnerskap med VMware , den här arkitekturen hjälper organisationer att sömlöst migrera AI-arbetsbelastningar på GPU: er mellan kunddatacenter och VMware Cloud på AWS.

- ANNE HECHT (Nvidia)

GPU-accelererade arbetsbelastningar körs ofta på fysiska servrar med en hyresgäst, men med vComputeServer-företag kan hantera AI-arbetsbelastningar i en virtualiserad miljö, detta ger mer flexibilitet och monetära besparingar (upp till en viss skala). Nvidia stöder redan några KVM-baserade hypervisorer, inklusive Red Hat och Nutanix. VMwares vSphere är det senaste tillskottet.

Funktionerna i vComputeServer inkluderar:

• GPU-prestanda: Upp till 50 gånger snabbare djupinlärningsträning än endast CPU, liknande prestanda som att köra GPU på ren metall.
• Avancerad beräkning: Felkorrigeringskod och dynamisk sidpensionering förhindrar dataskador för hög noggrannhet arbetsbelastningar.
• Live migration: GPU-aktiverade virtuella maskiner kan migreras med minimal störning eller stillestånd.
• Ökad säkerhet: Företag kan utöka säkerhetsfördelarna med servervirtualisering till GPU-kluster.
• Flera hyresgäster isolering : Arbetsbelastningar kan isoleras för att säkert stödja flera användare på en enda infrastruktur.
• Hantering och övervakning : Administratörer kan använda samma hypervisor-virtualiseringsverktyg för att hantera GPU-servrar, med synlighet på värd, virtuell maskin och appnivå.
• Brett utbud av stödda GPU: er: vComputeServer stöds på NVIDIA T4 eller V100 GPU, liksom Quadro RTX 8000 och 6000 GPU, och tidigare generationer av Pascal-arkitektur P40, P100 och P60 GPU.

- Nvidia

VMware vSphere-användare kommer också att få Nvidia GPU Cloud-stöd, vilket är en GPU-accelererad molnplattform optimerad för djupinlärning och vetenskaplig datoranvändning. Anne Hecht från Nvidia skriver “ NVIDIA NGC , vårt nav för GPU-optimerad programvara för djupinlärning, maskininlärning och HPC, erbjuder över 150 containrar, förutbildade modeller, träningsskript och arbetsflöden för att påskynda AI från koncept till produktion, inklusive FORS , vår CUDA-accelererade datavetenskapsprogramvara ”.

VMware-partnerskap i linje med senaste inköp

VMware kommer att förvärva Bitfusion, vilket kommer att tillföra mycket värde till sin molnplattform vSphere. Som vi diskuterade tidigare i artikeln kan virtualisering erbjuda företag många fördelar med en minimal prestationshit. Med Bitfusions teknik kommer företag att kunna gå bort från bare-metal-servrar och virtualisera sina GPU: er, eftersom ett sådant arrangemang kan resultera i bättre utnyttjande av tillgängliga resurser. Med accelererad databehandling i centrum kommer företag att leta efter sätt att virtualisera sin hårdvarustack, VMware är väl medveten om detta och de går för att göra vSphere-plattformen viktig i datacenter.