AMD Ryzen AI Halo: мини-ПК для локального ИИ получил 192 ГБ памяти и до 160 ГБ VRAM

AMD Ryzen AI Halo Developer Platform поступил в продажу как компактная рабочая станция для локального искусственного интеллекта. Внутри установлен Ryzen AI Max+ PRO 495, объем объединенной памяти достигает 192 ГБ, причем до 160 ГБ можно выделить графическому ядру. Это позволяет запускать на собственном компьютере крупные языковые модели, которые обычно требуют серверной видеокарты с огромным объемом памяти.

Главная особенность AMD Ryzen AI Halo: 192 ГБ общей памяти

В обычном компьютере оперативная память и видеопамять разделены. Например, система может иметь 128 ГБ RAM и видеокарту с 16 или 24 ГБ VRAM. Модель ИИ, которая не помещается в память видеокарты, приходится частично выгружать в системную память, что обычно заметно снижает скорость.

В Ryzen AI Halo используется объединенная архитектура памяти. CPU, GPU и NPU работают с общим пулом LPDDR5X объемом до 192 ГБ. AMD позволяет выделить графическому ядру до 160 ГБ этой памяти.

Важно понимать, что речь идет не о 160 ГБ отдельной памяти GDDR7, установленной рядом с GPU. Это часть общей LPDDR5X, которую система может предоставить встроенной графике. Для локального ИИ такой подход интересен прежде всего объемом: модель и ее рабочий контекст можно целиком удерживать в памяти без постоянной передачи данных между RAM и VRAM.

Можно запускать модели с 300 млрд параметров

AMD заявляет поддержку языковых моделей размером 300 млрд параметров и более при использовании 4-битной квантизации. Для разработчиков это открывает возможность экспериментировать с очень крупными LLM локально, не отправляя модель, документы и рабочие данные в облако.

Большой запас памяти пригодится и для нескольких одновременно работающих AI-агентов. Каждый агент может использовать собственный KV-кэш и рабочий контекст. Именно в таких задачах 192 ГБ памяти дают более заметное преимущество, чем при запуске небольшой модели на 7 или 14 млрд параметров.

Сам по себе большой объем памяти не означает, что 300B-модель будет работать с серверной скоростью. Но исчезает одна из главных проблем локального запуска крупных моделей: необходимость каким-то образом поместить их в доступную память.

Ryzen AI Max+ PRO 495 и Radeon 8065S

В основе мини-ПК находится AMD Ryzen AI Max+ PRO 495 поколения Gorgon Halo. Процессор получил 16 ядер Zen 5 и 32 потока. Максимальная частота достигает 5,2 ГГц.

За графические и AI-вычисления отвечает встроенная Radeon 8065S на архитектуре RDNA 3.5 с 40 вычислительными блоками. Дополнительно имеется NPU производительностью до 55 TOPS.

Для чего нужен такой мини-ПК

Ryzen AI Halo создавался не как обычный офисный компьютер. Основная задача платформы заключается в разработке и локальном запуске ИИ.

На такой системе можно запускать LLM, собирать собственных AI-агентов, работать с генерацией изображений и видео, тестировать модели перед переносом на сервер и обрабатывать конфиденциальные данные без отправки их стороннему облачному сервису.

AMD отдельно показывает работу платформы с генеративными инструментами для изображений, видео, музыки и 3D. В числе протестированных решений компания называет FLUX.2, Qwen Image, Krea, Ideogram, FastVideo, LTX, Stable Music и Microsoft Trellis.

Для управления программной средой предусмотрен AMD Ryzen AI Developer Center. Через него можно устанавливать подготовленные приложения и модели, получать обновления и использовать AMD AI Playbooks с готовыми сценариями настройки AI-инструментов.

ROCm становится важной частью платформы

Для AMD принципиально важно не только установить мощное железо, но и дать разработчикам рабочую программную среду. Ryzen AI Halo использует экосистему ROCm, которая постепенно получает все больше поддержки в генеративных приложениях.

В тестах самой AMD система на Ryzen AI Max+ PRO 495 показала более высокую производительность, чем конфигурация на Intel Core Ultra X9 388H, во всех выбранных компанией генеративных нагрузках. В отдельных тестах разница достигала 32,2 раза.

AMD также сравнила Ryzen AI Halo с MacBook Pro на Apple M5 Pro. В отдельных сценариях компания заявляет разницу до 34,3 раза. Эти цифры стоит воспринимать именно как результаты тестирования AMD: набор приложений и конфигурации подобраны производителем, поэтому прямое сравнение всей производительности двух платформ по одному графику было бы неправильным.

Компактный корпус и быстрые интерфейсы

При таком объеме памяти и вычислительных возможностях компьютер остается очень небольшим. Размер корпуса составляет примерно 150 × 150 мм, а высота около 45 мм.

Для подключения сети предусмотрен 10GbE Ethernet. Также есть Wi-Fi 7 и Bluetooth 5.4. Набор USB включает несколько USB-C, в том числе USB4, а монитор можно подключить через HDMI 2.1b.

Компьютер рассчитан на работу как с Linux, так и с Windows. В продаже уже появилась конфигурация с Linux, Ryzen AI Max+ PRO 495, 192 ГБ LPDDR5X и SSD объемом 2 ТБ.

Цена AMD Ryzen AI Halo

AMD Ryzen AI Halo Developer Platform в конфигурации с 192 ГБ оперативной памяти и SSD на 2 ТБ стоит в США 7 299,99 долларов, что в пересчете в тенге составляет примерно 3 290 860 ₸.

Цена высокая даже для мощного мини-ПК, но и характеристики у этой системы необычные. Основной конкурент здесь не обычный домашний компьютер, а рабочие станции для локального ИИ, оснащенные профессиональными GPU или несколькими видеокартами.

Чем Ryzen AI Halo интересен для локального ИИ

Наиболее интересная характеристика новинки не 55 TOPS NPU и даже не 16-ядерный процессор. Главное здесь именно память. Возможность дать встроенной графике до 160 ГБ общего пула сильно меняет сценарии использования компактного компьютера.

Для небольших моделей подобная система избыточна. Но если нужно работать с крупными LLM, длинным контекстом, несколькими агентами или генеративными моделями, которые постоянно упираются в объем VRAM, Ryzen AI Halo выглядит гораздо интереснее обычного мини-ПК.

Больше материалов о локальном запуске нейросетей, процессорах и компьютерном оборудовании можно найти в разделе статей AplTech.