Nvidia utökar stöd för ARM-processorer med deras kompletta stack av AI- och HPC-programvara

Nvidia Ampere

Tidigare idag tillkännagav Nvidia äntligen stöd för processorer med ARM-arkitektur tillsammans med hela sin stack med AI- och HPC-programvara. Nvidia är väl bekant med ARM eftersom de har införlivat arkitekturen i sina Tegra-chips och andra system på chip-produkter för bärbart spel, autonoma fordon, robotik och inbäddad AI-dator.

Varför nu?

ARM har funnits ett tag men användningen i HPC-system har varit obefintlig fram till några år. Nästan alla HPC-system använder chips från Intel eftersom de har funnits länge vilket resulterar i utmärkt äldre programvara och biblioteksstöd.

Under åren har ARM arbetat outtröttligt för att bygga ett ekosystem som kan göra deras arkitektur till ett livskraftigt alternativ till x86-chips. Mont-Blanc-projektet var ett stort initiativ i den riktningen.

Mont-Blanc-partners var tvungna att börja från grunden med att bygga Arm HPC-testsystem baserat på 32-bitars mobiltelefonteknik och portnings- och tuningprogramvara och verktyg för att skapa ett Arm-programvaruekosystem. År 2015 distribuerade Mont-Blanc världens första armbaserade HPC-kluster med över 2000 mobila processorer. Detta system hjälpte till att visa livskraften att använda Arm-teknik för HPC.

- OAG

nätverksikon

Dessa initiativ bär äntligen frukt och marker med ARM-arkitektur används alltmer i olika HPC-system runt om i världen.

Nvidias affärsintressen för datacenter

Nvidia dominerar redan en stor del av konsumentens GPU-verksamhet och genom åren har de skapat en respektabel hårdvaru- och mjukvarustack för arbetsstationer. På mjukvarusidan av saker har de många lösningar som rör AI och Deep Learning Workloads. Alla dessa arbetsbelastningar kan accelereras av GPU: er och det är här deras Tesla och Volta GPU: er kommer in.

Detta har hjälpt företagets ekonomi, och enligt en artikel om Fobes författad av Karl Freund ' Under NVIDIA: s Q1 2019-kvartal överträffade företaget återigen förväntningarna och rapporterade en tillväxt på 66% av de totala intäkterna, inklusive 71% tillväxt i sin glödande datacenterverksamhet (nådde 701 MUSD för kvartalet). För NVIDIA inkluderar segmentet 'Datacenter' High-Performance Computing (HPC), datacenter-hostad grafik och AI-acceleration. '

Dessa är också stora samtal i Nvidias investerare. Efter Nvidias förvärv av Mellanox som vi täckte här , Delade VD Jensen Huang lite insikt bakom beslutet om att ” Strategin fördubblas på datacenter, och vi kombinerar och förenar två ledare inom högpresterande datorteknik. Vi fokuserar på accelererad databehandling för högpresterande datorer, och Mellanox fokuserar på nätverk och lagring för högpresterande datorer, och vi har kombinerat de två företagen under ett tak. Vår vision är att datacenter är de viktigaste datorerna i världen idag, och att i framtiden, när arbetsbelastningarna fortsätter att förändras - vilket verkligen utlöses av artificiell intelligens och dataanalys - att framtida datacenter av alla slag kommer att byggas som högpresterande datorer. Hyperskaliga datacenter skapades verkligen för att tillhandahålla tjänster och lättviktsdator för miljarder människor. Men under de senaste åren har framväxten av artificiell intelligens och maskininlärning och dataanalys lagt så mycket belastning på datacentren, och anledningen är att datastorleken och beräkningsstorleken är så stor att den inte passar på en dator. Så det måste distribueras på flera datorer och den högpresterande anslutningen för att dessa datorer ska kunna arbeta tillsammans blir allt viktigare. Det är därför Mellanox har vuxit så bra och varför människor pratar om SmartNIC och intelligenta tyger och programvarudefinierade nätverk. Alla dessa samtal leder till samma plats, och det är en framtid där datacentret är en gigantisk beräkningsmotor som kommer att vara sammanhängande - och det kommer att tillåta för många människor att fortfarande dela det - men tillåta för få människor att köra mycket stora applikationer på dem också. Vi tror att beräkningen inte kommer att börja och sluta på servern i framtiden för datacenter, utan sträcker sig ut i nätverket och nätverket i sig kommer att bli en del av beräkningen. På lång sikt tror jag att vi har förmågan att skapa datacenter-skalningsarkitekturer. '

ARM redo för framgång

ARM-chips driver de flesta mobila enheter runt om i världen så arkitekturen förblir energieffektiv genom design. Eftersom arkitekturen är licensierad kan flera kiselproducenter övervägas med ARM.

Energiförbrukningen är fortfarande ett stort problem med HPC: er och användning av ARM kan kompensera detta problem i stor utsträckning. Även med programvara har Mont-Blanc-projekten utvecklats många vetenskapliga bibliotek och verktyg för ARM, detta spelar en stor roll för att föra hela ekosystemet framåt.

ARM: s användning i HPC och datacenter är fortfarande liten jämfört med x86-system men Nvidia ser potentialen här. Deras ärkerival AMD har också börjat konkurrera hårt på HPC- och datacentermarknaden med sina EPYC-serverprocessorer och Radeon Instinct GPU-acceleratorer. Så det är viktigt för Nvidia att anta ARM nu och erbjuda sin programvarupaket (CUDA-X HPC, ect). Till skillnad från vissa tillverkare tillverkar Nvidia inte processorer, så de saknar CPU-GPU-enhetligheten som AMD och Intel kan erbjuda.

I efterhand kan Nvidia stärka ett partnerskap med ARM, som Nästa plattform med rätta ange “ Nvidia och Arm kan starta ett partnerskap för att göra NVLink IP-block tillgängliga för dem som köper Neoverse-licenser, vilket möjliggör en snävare koppling med GPU: er, inklusive minnesatomer och minneskoherens över CPU-GPU-beräkningskomplexen. '

Detta drag kommer definitivt att hjälpa ARM: s fall som ett bärkraftigt arkitekturalt alternativ till x86 HPC. Vi kan förvänta oss ett liknande drag från AMD någon gång i framtiden eftersom de fortsätter att aggressivt driva sina Radeon Instinct GPU: er.