Първият персонален суперкомпютър на Nvidia за AI: какво означава това за бъдещето на технологиите

Първият персонален суперкомпютър на Nvidia за AI: какво означава това за бъдещето на технологиите

Първият персонален суперкомпютър на Nvidia за AI: какво означава това за бъдещето на технологиите

Източник: technews.bg

Nvidia представи новия си продукт Project Digits – персонален суперкомпютър, създаден специално за работа с изкуствен интелект. Това е компактна настолна система, напомняща на Mac Mini, но с изключително мощен хардуер, който може да се захранва от стандартен електрически контакт.

В основата ѝ е новият чип GB10 Grace Blackwell Superchip, който осигурява достатъчна изчислителна мощност за работа със сложни AI модели до 200 милиарда параметри. Базовата конфигурация включва 128GB RAM и до 4TB NVMe сторидж, а началната цена е $3000.

Ако задачите са по-взискателни, две системи Project Digits могат да се свържат, като така обработват модели с до 405 милиарда параметри – колкото най-големия модел на Meta, Llama 3.1.

Чипът GB10 достига производителност до 1 петафлопс с FP4 точност, като използва най-новите CUDA ядра и пето поколение Tensor ядра. Процесорът Grace разполага с 20 ядра, базирани на архитектурата Arm, с акцент върху ниската консумация на енергия. В разработката на GB10 е участвала и MediaTek, която е помогнала за оптимизацията на енергийната ефективност и производителността.

Потребителите получават достъп до богата екосистема от инструменти и библиотеки на Nvidia – включително Nvidia NGC, с предварително обучени модели и разработки, както и поддръжка за PyTorch, Python, Jupyter Notebook и операционната система Nvidia DGX OS (на базата на Linux).

За персонализация и обучение на AI модели системата предлага рамката Nvidia NeMo, а обработката на научни и аналитични данни може да се ускори с помощта на Nvidia Rapids.

Моделите, разработени на Project Digits, могат лесно да бъдат прехвърлени в облачни услуги или дата центрове, използващи същата Grace Blackwell архитектура и Nvidia AI Enterprise платформа.

За потребителите с по-скромни нужди Nvidia предлага и по-достъпно решение – Jetson Orin Nano Super, струващ $249, който поддържа модели с до 8 милиарда параметри.

Linux
Любен Каравелов
Arduino
Raspberry pi
linux