Google Research представила TimesFM-3 — модель временных рядов, которая выполняет многомерное прогнозирование за один прямой проход. Модель содержит 330 млн параметров и предобучена на корпусе реальных и синтетических данных объемом более 1 трлн точек. По заявлению разработчиков, TimesFM-3 значительно превосходит другие модели прогнозирования на основных бенчмарках.

Предыдущие версии TimesFM, включая TimesFM-2.5, выпущенную в сентябре 2025 года, поддерживали только одномерное прогнозирование: для предсказания использовалась история лишь одного временного ряда. Однако большинство реальных задач прогнозирования являются многомерными: на будущее значение ряда влияют несколько связанных рядов и внешние факторы. Например, прогноз продаж мороженого в розничной сети зависит не только от прошлых продаж, но и от продаж сопутствующих товаров, трафика в магазинах, а также от планируемых акций и погодных условий.

TimesFM-3 решает эту проблему, поддерживая несколько целевых рядов, прошлые ковариаты (например, исторический трафик) и динамические ковариаты — известные будущие события, такие как рекламные кампании или прогноз погоды. Модель может прогнозировать несколько связанных рядов одновременно, улавливая зависимости между ними без необходимости тонкой настройки под конкретную задачу.

TimesFM-3 architecture diagram illustrating time series patching, transformer layers, and multivariate forecast output.
TimesFM-3 architecture diagram illustrating time series patching, transformer layers, and multivariate forecast output. · Источник: Google Research Blog

Архитектура TimesFM-3 основана на декодер-трансформере, как и у предшественников. Данные группируются в патчи по 32 временных шага, применяется нормализация для учета рядов с разными масштабами. Для динамических ковариат используется стратегия «заглядывания вперед»: токен объединяет текущий патч с будущими, что позволяет модели учитывать известные сигналы. В основном стеке трансформера чередуются два механизма внимания: каузальное внимание по времени (токен видит только прошлые токены своего ряда) и полное внимание по переменным (токен видит все ряды в данный момент времени). Это позволяет модели изучать сложные перекрестные корреляции.

Ключевое отличие TimesFM-3 — неавторегрессивное декодирование. Предыдущие версии генерировали прогноз патч за патчем, что приводило к задержкам и накоплению ошибок. TimesFM-3 использует технику Contiguous Patch Masking: к наблюдаемому контексту добавляются маскированные токены для будущего горизонта, и модель заполняет их все одновременно за один проход. Это снижает вычислительные затраты и повышает точность. Модель предсказывает 9 квантилей (от 10-го до 90-го процентиля) для каждого целевого ряда на каждом шаге горизонта, что дает полное вероятностное представление о неопределенности прогноза.

TimesFM-3 продолжает линейку моделей, начатую в 2024 году, и расширяет их применение в таких областях, как розничная торговля, финансы, наблюдаемость, производство, здравоохранение и естественные науки. Благодаря поддержке многомерных сценариев модель становится более практичной для реальных задач, где обычно требуется учитывать множество взаимосвязанных факторов.