Nvidia-boks kan gøre dit hjem til et mini-datacenter – her er hvad det koster

Nvidia har lanceret noget unikt: en kompakt server-boks beregnet til hjemmet der kan køre store AI-modeller lokalt. Det er en revolution for dem der vil have AI-kapacitet uden cloud-afhængighed.

Hvad er Nvidia-boksen?

Nvidia Project DIGITS (eller et lignende produkt fra serien) er en lille men kraftfuld AI-computing-enhed. Den er designet til:

• Lokal kørsel af LLM'er (store sprogmodeller)
• AI-inferens uden at sende data til skyen
• Privatlivsvenlig AI-computing derhjemme
• Udvikling og test af AI-applikationer

Specifikationer

• NVIDIA Grace Blackwell Superchip
• 128GB unified memory
• Kan køre modeller op til 200 milliarder parametre
• Lille og støjsvag – designet til hjemmebrug

Hvad koster det?

Prisen er ambitiøs: ca. 25.000-30.000 kr. Det er ikke for alle, men for seriøse AI-udviklere og tech-entusiaster er det potentielt en game-changer.

Hvad kan man bruge det til?

Lokal kørsel af ChatGPT-lignende modeller, privatlivs-fokuseret AI-assistent, kodegenerering og AI-eksperimenter.