Google Colab даёт бесплатный доступ к GPU, но организовать на его основе воспроизводимый ML-пайплайн без дополнительных инструментов сложно: каждый раз приходится вручную устанавливать зависимости, копировать код и следить за логами. ClearML Agent решает эту проблему, превращая Colab в управляемый узел вычислительного кластера.
ClearML — платформа для управления ML-экспериментами с открытым исходным кодом. Её компонент ClearML Agent работает как менеджер выполнения задач: он получает задание из очереди на ClearML Server, клонирует нужный Git-репозиторий, применяет diff-патч с незакоммиченными изменениями, создаёт виртуальное окружение (pip, conda или poetry), восстанавливает зависимости и запускает скрипт. Stdout, метрики и логи передаются обратно на сервер и отображаются в веб-интерфейсе. Таким образом, исследователь видит ход эксперимента в реальном времени, не подключаясь к удалённой машине напрямую.
Ключевой объект в экосистеме ClearML — Task. Когда локально вызывается Task.init(), на сервере создаётся запись, в которой сохраняются ссылка на Git-репозиторий, незакоммиченные изменения в виде патча, список зависимостей, гиперпараметры, конфигурации и артефакты. Именно эта запись служит «чертежом» для агента при воспроизведении эксперимента на любой машине. Агент способен слушать несколько очередей одновременно, но обрабатывает строго одну задачу в каждый момент времени.
Агент поддерживает очереди задач: каждый агент обрабатывает одну задачу в момент времени, но может слушать несколько очередей одновременно.
В качестве практического примера туториал использует дообучение BERT (bert-base-uncased) на датасете IMDB для классификации тональности текста. Обучение реализовано через PyTorch Lightning; логирование подключается передачей ClearML-логгера в класс модели через task.get_logger(). Гиперпараметры — размер батча, количество эпох, learning rate, длина последовательности и размер подвыборки — фиксируются через task.connect() и становятся доступны для изменения через UI или CLI без правки кода.
Для запуска агента в Google Colab необходимо выполнить несколько шагов. Сначала в ClearML UI создаётся очередь задач — можно использовать очередь default. Затем в ноутбуке Colab устанавливается clearml-agent, проверяется доступность GPU и настраивается SSH-доступ к GitHub: ключи типа ed25519 генерируются локально, публичный ключ добавляется в настройки GitHub, а оба файла сохраняются на Google Drive. В ноутбуке Drive монтируется, ключи копируются в ~/.ssh/, туда же добавляются публичные ключи хоста GitHub через ssh-keyscan. После этого агент запускается и начинает слушать очередь.
Подход с Google Colab удобен для разовых экспериментов и прототипирования: бесплатный GPU доступен без настройки инфраструктуры, а ClearML берёт на себя воспроизводимость и логирование. Для production-нагрузок ClearML Agent поддерживает интеграцию с Kubernetes, SLURM и bare-metal-серверами, что позволяет использовать одну и ту же логику управления задачами на разных уровнях масштаба. Управление GPU осуществляется через флаги --gpus и переменную NVIDIA_VISIBLE_DEVICES, а долгоживущие сервисы можно запускать наравне с короткими экспериментами.
