NVIDIA har presenterat Project DIGITS, en personlig AI-superdator som gör det möjligt för AI-forskare, dataanalytiker och studenter världen över att använda kraften hos NVIDIA Grace Blackwell-plattformen direkt från sina skrivbord.
Med Project DIGITS får användare tillgång till den nya NVIDIA GB10 Grace Blackwell Superchip, som levererar en petaflop av AI-beräkningskraft. Detta öppnar dörren för att skapa, finjustera och köra stora AI-modeller lokalt innan de implementeras i moln- eller datacenterinfrastruktur.
En AI-superdator för alla
Jensen Huang, NVIDIAs grundare och VD, beskriver projektet så här:
”AI kommer att bli en central del av alla applikationer i alla branscher. Med Project DIGITS når Grace Blackwell Superchip miljoner utvecklare och gör det möjligt för dem att delta i och forma AI-eran.”
GB10 Superchip: AI-prestanda på en ny nivå
Den revolutionerande GB10 Superchip är en system-on-a-chip (SoC) baserad på NVIDIA Grace Blackwell-arkitekturen. Den levererar upp till 1 petaflop av AI-prestanda vid FP4-precision och förenar:
- NVIDIA Blackwell GPU med den senaste generationens CUDA®-kärnor och Tensor Cores.
- En högpresterande NVIDIA Grace™ CPU med 20 energieffektiva kärnor baserade på Arm-arkitekturen.
Tack vare samarbete med MediaTek, en ledare inom Arm-baserade SoC-design, är GB10 ett mästerverk av energieffektivitet, prestanda och anslutningsmöjligheter.
Varje Project DIGITS-enhet drivs av ett vanligt eluttag och inkluderar:
- 128GB enhetligt minne
- Upp till 4TB NVMe-lagring
- Möjlighet att hantera stora språkmodeller på upp till 200 miljarder parametrar.
Dessutom kan två Project DIGITS-enheter kopplas ihop via NVIDIA ConnectX®-nätverk för att hantera modeller med upp till 405 miljarder parametrar.
Lokal utveckling och sömlös skalning
Med Grace Blackwell-arkitekturen kan användare:
- Utveckla och testa AI-modeller lokalt med Project DIGITS som kör Linux-baserade NVIDIA DGX OS.
- Sömlöst skala och implementera modeller på NVIDIA DGX Cloud™ eller datacenterinfrastruktur.
Denna flexibilitet gör det möjligt för företag och forskare att gå från prototyper till produktionsklara lösningar utan att kompromissa med prestanda eller kompatibilitet.
Tillgång till omfattande AI-verktyg
Project DIGITS erbjuder en omfattande AI-verktygslåda, inklusive:
- Utvecklingsramverk som NVIDIA NeMo™ för finjustering av modeller.
- NVIDIA RAPIDS™-bibliotek för datavetenskap.
- Populära ramverk som PyTorch, Python och Jupyter notebooks.
För mer avancerade applikationer finns NVIDIA Blueprints och NVIDIA NIM™-mikrotjänster, tillgängliga via NVIDIA Developer Program. När applikationerna är redo för produktion kan användare dra nytta av säkerheten och stödet som ingår i NVIDIA AI Enterprise-licensen.
Med Project DIGITS tar NVIDIA ännu ett steg för att demokratisera AI. Genom att erbjuda en AI-superdator direkt på skrivbordet gör de det möjligt för utvecklare att driva innovation och forma framtidens AI-applikationer.
