Владельцы компактных ИИ-станций на базе ARM, таких как Asus GX10 (клона Nvidia DGX Spark), столкнулись с неожиданной проблемой при замене штатной операционной системы DGX OS на чистую Ubuntu 26.04 Desktop ARM. После установки энергопотребление устройства выросло примерно на 15 ватт: в простое — с 26 до 41 Вт, при работе с LLM — с 180 до 195 Вт. Для системы с пассивным охлаждением, работающей на пределе, это критично.
Причина оказалась в некорректной обработке портов ConnectX-7 драйверами чистой системы. Решение нашлось в пакете dgx-spark-mlnx-hotplug из репозитория Nvidia, который устанавливает bash-скрипт и udev-правила. После его установки энергопотребление вернулось к штатным значениям. Более того, на Ubuntu 26.04 появилась возможность поставить самые свежие драйверы Nvidia версии 610 и CUDA Toolkit 13.3, тогда как DGX OS поставляется с драйверами 580 и CUDA 12. Производительность llama.cpp, по оценкам автора, как минимум не ухудшилась.
Параллельно автор экспериментировал с файловой системой ZFS, включив сжатие zstd-5 и дедупликацию. Это позволило уменьшить объём хранящихся моделей примерно на 11%. Однако vllm по-прежнему требовал ручной очистки кэша после завершения работы других GPU-приложений — автоматического освобождения кэша не произошло. Тем не менее, llama.cpp работает без дополнительных манипуляций.
После установки энергопотребление выросло на 15 Вт из-за неверной обработки портов ConnectX-7.
Опыт подтверждает, что замена проприетарной DGX OS на чистую Ubuntu возможна, но требует внимательности. Автор рекомендует делать полный бэкап перед началом. Подробная инструкция включает этапы установки с диска, настройку ZFS, установку драйверов и критически важного пакета dgx-spark-mlnx-hotplug. Для желающих повторить — полный список команд приведён в оригинальной статье.
