Superračunalniki

Kaj je osebni AI superračunalnik

Osebni AI superračunalnik je kompaktna namizna naprava, ki v enem ohišju združuje procesor, grafični procesor za umetno inteligenco in velik enotni pomnilnik. Sistemi v tej kategoriji temeljijo na platformi NVIDIA GB10 Grace Blackwell: procesor Arm in grafični procesor Blackwell si delita 128 GB pomnilnika LPDDR5x, zato lahko v pomnilnik naložite tudi večje jezikovne modele, ki na običajni grafični kartici ne bi imeli prostora. Po navedbah NVIDIE ena enota DGX Spark pri 4-bitni natančnosti (FP4) poganja modele do približno 200 milijard parametrov, dve povezani enoti pa do približno 405 milijard.

Naprave so velike kot mini računalnik, delujejo na običajni vtičnici in imajo nameščen sistem NVIDIA DGX OS na osnovi Linuxa in programski sklad NVIDIA AI.

Za koga so ti sistemi

Lokalno poganjanje jezikovnih modelov

Namenjeni so podjetjem in posameznikom, ki želijo odprte jezikovne modele poganjati lokalno, da podatki ne zapustijo organizacije, in ne želijo plačevati najema grafičnih procesorjev v oblaku.

Prilagajanje modelov in razvoj

Namenjeni so tudi razvijalcem, ki modele prilagajajo lastnim podatkom (fine-tuning), gradijo aplikacije z iskanjem po lastnih dokumentih (RAG) ali razvijajo agente in želijo po navedbah NVIDIE enak programski sklad, kot ga uporabljajo sistemi DGX v podatkovnih centrih.

Raziskave, izobraževanje in obdelava podatkov

Uporabljajo jih tudi raziskovalne skupine, fakultete in oddelki za analitiko, ki potrebujejo namizni sistem za učenje modelov, računalniški vid in obdelavo večjih podatkovnih nizov.

Modeli v ponudbi

PNY NVIDIA DGX Spark

NVIDIA-jeva lastna izvedba, ki jo distribuira PNY, s 128 GB pomnilnika, 4 TB NVMe diskom in mrežno kartico ConnectX-7 za povezavo dveh enot.

ASUS Ascent GX10

ASUS-ova izvedba iste platforme s 128 GB pomnilnika, na voljo z različnimi velikostmi diska.

HP ZGX Nano G1n AI Station

HP-jeva izvedba, namenjena podjetjem, ki že uporabljajo HP-jeve delovne postaje in storitve.

Gigabyte AI TOP ATOM in Acer Veriton GN100

Izvedbi Gigabyte in Acer z enako platformo GB10 in 128 GB pomnilnika; razlikujeta se po velikosti diska in dodatni opremi, navedeni pri izdelku.

Kako izbrati

Velikost modelov, ki jih želite poganjati

Vsi sistemi imajo 128 GB enotnega pomnilnika. Sistemi GB10 imajo po navedbah proizvajalcev mrežno kartico ConnectX-7, prek katere lahko pozneje povežete dve enoti za delo z največjimi modeli; podrobnosti preverite pri izdelku.

Velikost diska

Uteži modelov in podatkovni nizi hitro zasedejo več sto gigabajtov. Za več modelov hkrati ali za učenje na lastnih podatkih je smiselna različica z 2 TB ali 4 TB.

Programska oprema

Sistemi delujejo na DGX OS z vnaprej nameščenimi orodji NVIDIA (CUDA, kontejnerji NGC, podpora za PyTorch in priljubljene knjižnice). Če potrebujete pomoč pri prvi namestitvi modela ali povezavi z vašimi sistemi, nam to povejte ob naročilu, da se dogovorimo.

Zakaj kupiti AI računalnik pri Komponentku

Svetujemo na podlagi modelov in nalog, ki jih načrtujete, ne le na podlagi kataloških podatkov. Po nakupu smo dosegljivi za vprašanja o delovanju na +386 30 755 005 in [email protected]; servisna vprašanja rešujemo hitro, brez odlašanja do zakonskih rokov. Za delo z grafičnimi programi, 3D in videom, kjer namesto enotnega pomnilnika potrebujete zmogljivo grafično kartico, si oglejte serijo Gaming Ultra na strani Gaming računalniki Komponentko ali celotno kategorijo Računalniki. Grafične kartice za lastne delovne postaje so v kategoriji Grafične kartice.