Източник: technews.bg
Nvidia представи новия
си продукт Project Digits – персонален суперкомпютър, създаден специално за
работа с изкуствен интелект. Това е компактна настолна система, напомняща на
Mac Mini, но с изключително мощен хардуер, който може да се захранва от стандартен
електрически контакт.
В основата ѝ е новият
чип GB10 Grace Blackwell Superchip, който осигурява достатъчна изчислителна
мощност за работа със сложни AI модели до 200 милиарда параметри. Базовата
конфигурация включва 128GB RAM и до 4TB NVMe сторидж, а началната цена е $3000.
Ако задачите са
по-взискателни, две системи Project Digits могат да се свържат, като така
обработват модели с до 405 милиарда параметри – колкото най-големия модел на
Meta, Llama 3.1.
Чипът GB10 достига
производителност до 1 петафлопс с FP4 точност, като използва най-новите CUDA
ядра и пето поколение Tensor ядра. Процесорът Grace разполага с 20 ядра,
базирани на архитектурата Arm, с акцент върху ниската консумация на енергия. В
разработката на GB10 е участвала и MediaTek, която е помогнала за оптимизацията
на енергийната ефективност и производителността.
Потребителите
получават достъп до богата екосистема от инструменти и библиотеки на Nvidia –
включително Nvidia NGC, с предварително обучени модели и разработки, както и
поддръжка за PyTorch, Python, Jupyter Notebook и операционната система Nvidia
DGX OS (на базата на Linux).
За персонализация и
обучение на AI модели системата предлага рамката Nvidia NeMo, а обработката на
научни и аналитични данни може да се ускори с помощта на Nvidia Rapids.
Моделите, разработени
на Project Digits, могат лесно да бъдат прехвърлени в облачни услуги или дата
центрове, използващи същата Grace Blackwell архитектура и Nvidia AI Enterprise
платформа.
За потребителите с
по-скромни нужди Nvidia предлага и по-достъпно решение – Jetson Orin Nano
Super, струващ $249, който поддържа модели с до 8 милиарда параметри.