В дополнение к видеокартам RTX 50, технологии DLSS 4 и модели NVIDIA ACE для создания умных ИИ-напарников в играх компания NVIDIA неожиданно представила миниатюрный суперкомпьютер по цене от 3000 долларов. Для сравнения, стоимость актуальных ноутбуков MacBook Pro от Apple в модификации с процессором M4 Max начинается от 3200 долларов.
Новинка получила название Project DIGITS и будет выпущена в мае. Она базируется на новом суперчипе GB10 Grace Blackwell, способном запускать ИИ-модели размером вплоть до 200 млрд параметров, — он построен на ядрах CUDA последнего поколения и ядрах Tensor пятого поколения (подключение к процессору GRACE с 20 энергоэффективными ARM-ядрами через NVLink-C2C), обеспечивает производительность в 1 петафлопс (1 квадриллион ИИ-вычислений в секунду) с точностью FP4. В разработке чипсета участвовала MediaTek, помогая оптимизировать энергоэффективность и производительность.
При этом два таких компьютера можно объединять воедино, в результате чего их производительность возрастает и её становится достаточно, чтобы обеспечивать работу больших языковых моделей на 405 млрд параметров. Для сравнения, лучшая на данный момент опенсорсная LLM-модель (Llama 3.1) насчитывает именно 405 млрд параметров в максимуме.
Project DIGITS оснащается 128 ГБ унифицированной когерентной памятью и хранилищем типа NVMe объёмом до 4 ТБ. Компьютер работает на базе Linux-системы Nvidia DGX OS и поддерживает PyTorch, Python, Jupyter Notebooks и прочее.
Габариты не называются, но, судя по рендерам и живым фото, они близки к размерам Mac mini и Mac Studio.
Или у нас на Трешбоксе есть файнтьюнщик нейросетей?:)