KI-arbeidsbelastningen vokser raskt ut av minne- og programvarekapasiteten til datamaskinene, arbeidsstasjonene og de bærbare PC-ene som millioner av utviklere bruker i dag – noe som tvinger teamene til å flytte arbeidet til skyen eller lokale datasentre.
Nvidia sier at de har løsningen, med lanseringen av det de kaller en ny klasse datamaskiner – DGX Spark – som leverer PetaFlop KI-ytelse og 128 GB samlet minne i en kompakt desktop-formfaktor, noe som gir utviklere muligheten til å kjøre inferens på KI-modeller med opptil 200 milliarder parametere og finjustere modeller med opptil 70 milliarder parametere lokalt. DGX Spark gjør det i tillegg mulig for utviklere å lage AI-agenter og kjøre avanserte programvarestabler lokalt, opplyser selskapet.
«I 2016 bygde vi DGX-1 for å gi KI-forskere sin egen superdatamaskin. Jeg leverte personlig det første systemet til Elon i en liten oppstartsbedrift ved navn OpenAI – og derfra kom ChatGPT, som startet AI-revolusjonen», sier Jensen Huang, grunnlegger og administrerende direktør i Nvidia. «DGX-1 innledet æraen med KI-superdatamaskiner og åpnet opp for skaleringslovene som driver moderne KI. Med DGX Spark vender vi tilbake til det samme målet – å gi alle utviklere tilgang til en KI-datamaskin slik at de kan slippe løs den neste bølgen av gjennombrudd.»
Det har hendt en del på ni år
Da Nvidia DGX-1 ble lansert for ni år siden, hadde den 170 TeraFlop KI-ytelse, veide litt over 60 kg og brukte 3 200 W – og prislappen var 129 000 dollar. Den nye DGX Spark har omtrent seks ganger så høy AI-ytelse, veier 1,2 kg med et strømforbruk på 240 W – og koster 3 999 dollar.
DGX Spark forener hele Nvidias KI-plattform – inkludert GPU-er, CPU-er, nettverk, CUDA®-biblioteker og Nvidia KI-programvarestakken – i ett system som gjør skrivebordet om til en KI-utviklingsplattform.
En større og kraftigere modell, kalt DGX Station, er også rett rundt hjørnet og forventes å bli lansert innen utgangen av året.
Pris og tilgjengelighet
Nvidia DGX Spark kan bestilles fra 15. oktober på Nvidia.com. Partnersystemer – dvs. varianter av DGX Spark – fra Acer, Asus, Dell, Gigabyte, HP, Lenovo og MSI er også på trappene.