Витрина TAKT: прогнозирование временных рядов на Rust (DLinear и PatchTST на ETT)

Две стандартные модели долгосрочного прогнозирования, DLinear (LTSF-Linear) и PatchTST, обученные официальными скриптами на наборах данных ETT, переведены с PyTorch на чистый Rust (без BLAS и без ML-рантайма) и собраны дважды: исходная сборка этого кода на Rust и сборка TAKT того же кода. Прогнозы обеих сборок совпадают до бита. Здесь — готовые программы обеих сборок, исходный код исходной версии, скрипт, который воссоздаёт входные окна из официальных данных, скрипт бенчмарка и наши замеры.

Что вычисляют программы

Каждое окно тестовой части набора данных ETT (официальные границы, features M, StandardScaler, обученный на обучающей части): на входе 336 прошлых шагов x 7 каналов, на выходе следующие 96 шагов x 7 каналов, float32. ETTh1/ETTh2: 2 785 окон; ETTm1/ETTm2: 11 425 окон. Веса чекпойнта для выбранного набора данных вкомпилированы в программу (--data).

Официальный тестовый цикл PatchTST отбрасывает последний неполный батч из 128 окон, отсюда значения «первые 2 688». Перевод на Rust не совпадает с PyTorch бит в бит (другой порядок суммирования; наибольшая абсолютная разница с PyTorch eager — от 2e-6 до 2e-5); сборка TAKT совпадает с исходной версией на Rust бит в бит.

Замер (стенд TAKT)

Дата замера: 3 октября 2026 г. AMD Threadripper PRO 5975WX (Zen 3), Linux. Зарезервирован один CCX из 8 ядер, их SMT-соседи простаивают; однопоточные прогоны привязаны к одному ядру, восьмипоточные — к 8 ядрам этого CCX. Для каждого набора данных: одна прогревочная пара прогонов, затем 9 раундов с чередованием порядка, медиана. Время: цикл прогнозирования, засекаемый самой программой (чтение окон и запись прогнозов не учитываются: в обеих сборках они стоят одинаково). Такты: такты пользовательского режима того же цикла (perf stat, сумма по всем потокам). Обе сборки используют один и тот же драйвер, который, как долгоживущий сервис, оставляет освобождённую память кучи в процессе (glibc mallopt), чтобы временные буферы на каждое окно не превращались в page faults. Замерены ровно файлы из bin/, скриптом tools/run_bench.sh.

DLinear: 7,1–7,3× по времени и 7,2–7,4× по тактам, на одном и на восьми потоках. PatchTST: 2,3× по времени и по тактам. На восьми потоках обе сборки тратят в сумме примерно столько же тактов, сколько на одном. Процесс целиком, включая чтение 26–107 МБ окон и запись прогнозов, быстрее в 5,7–6,0 раза для DLinear на одном потоке, в 3,0–3,1 раза на восьми и в 2,3 раза для PatchTST. Подробности, сырые отсчёты и время всего процесса — в measurements.json.

Запуск

python3 tools/make_windows.py --out data --targets   # скачивает официальные CSV ETT (с проверкой sha256),
                                                     # пишет data/windows_*_test.f32 (и целевые значения)
mkdir -p out
for d in ETTh1 ETTh2 ETTm1 ETTm2; do
  bin/ltsf-dlinear-takt --data $d --windows data/windows_${d}_test.f32 --threads 1 --out out/dlinear_$d.f32
done
for d in ETTh1 ETTh2; do
  bin/ltsf-patchtst-takt --data $d --windows data/windows_${d}_test.f32 --threads 1 --out out/patchtst_$d.f32
done
sha256sum -c expected.sha256                 # окна, целевые значения и прогнозы — как в нашем замере
python3 tools/score.py data/targets_ETTh1_test.f32 out/dlinear_ETTh1.f32

tools/run_bench.sh -m dlinear -n 9 -c 2          # обе сборки, с чередованием, побайтная сверка, ядро 2
tools/run_bench.sh -m dlinear -n 9 -t 8 -c 2-9   # восемь потоков на ядрах 2-9
tools/run_bench.sh -m patchtst -n 9 -c 2

--threads T принимает любое T >= 1; прогнозы от T не зависят. Входные и выходные файлы — сырые little-endian float32 (n x 336 x 7 и n x 96 x 7); tools/make_windows.py нужен только numpy.

Linux x86-64 (glibc). Программы собраны для x86-64-v3 (AVX2, FMA, BMI2: Intel Haswell и новее, AMD Zen и новее); инструкции FMA не используются. PatchTST вызывает erff из системной библиотеки C: на glibc, где erff отличается от glibc 2.39 (Ubuntu 24.04), его прогнозы могут не совпасть с expected.sha256, при этом исходная сборка и сборка TAKT по-прежнему совпадают побайтно.

Эквивалентность

• В каждом замеренном раунде прогнозы двух сборок совпадали побайтно (число раундов — в таблице).
• Обе сборки побайтно воспроизводят прогнозы, сохранённые в нашем более раннем прогоне: DLinear на четырёх наборах данных и PatchTST на двух, тестовая и валидационная части, 1, 8 и 32 потока: 72 файла из 72.
• tools/make_windows.py побайтно воспроизводит окна официальных загрузчиков данных LTSF-Linear / PatchTST (все четыре набора данных, тест и валидация; для этого заново реализован парсер чисел с плавающей точкой, который pandas использует по умолчанию).

Пересборка оригинала

cd source
RUSTFLAGS="-C target-cpu=x86-64-v3 --remap-path-prefix=$HOME/.rustup=. \
  --remap-path-prefix=$HOME/.cargo/registry/src/index.crates.io-1949cf8c6b5b557f=." \
  cargo +1.96.0 build --release --locked
strip --strip-all -o ltsf-dlinear-original target/release/ltsf-dlinear

С Rust 1.96.0 из rustup (с компонентом rust-src) это на нашей машине воспроизводит bin/ltsf-dlinear-original и bin/ltsf-patchtst-original бит в бит; при другом окружении различаются встроенные пути, но не прогнозы.

Более раннее сравнение с PyTorch (этим пакетом не воспроизводится)

2 октября 2026 г. мы замерили те же модели на той же машине в других условиях: без резервирования стенда (39 логических CPU, общих с другими задачами); обе версии на Rust собраны как разделяемые библиотеки под родной CPU (native) и вызывались внутри процесса; PyTorch 2.14 на CPU, eager и torch.compile (Inductor), батчи по 64 или 512. Для каждой реализации число потоков (1, 8 или 32) и размер батча выбирались по наименьшей задержке на валидационной части, затем замерялось время на тестовой части (медиана из 5).

На одном потоке расклад был другим: PyTorch с Inductor и батчами работал быстрее сборки TAKT (DLinear ETTh1: 37,9 мс против 111,4 мс; PatchTST ETTh1: 2,03 с против 5,78 с). В том прогоне сборка TAKT была быстрее исходной версии на Rust в 5,6–5,9 раза (DLinear) и в 2,2–2,5 раза (PatchTST) на выбранных 32 потоках и в 7,2–7,3 и 2,3 раза соответственно на одном потоке. Все числа того прогона — в measurements.json (earlier_measurement_2026_10_02).

Состав

• bin/: ltsf-dlinear-original, ltsf-dlinear-takt, ltsf-patchtst-original, ltsf-patchtst-takt (статически скомпонованный код на Rust, веса вкомпилированы, символы удалены);
• source/: исходная версия: драйвер командной строки, сгенерированный код моделей и веса;
• tools/: make_windows.py (входные окна), score.py (MSE/MAE), run_bench.sh (бенчмарк);
• expected.sha256, measurements.json, SHA256SUMS, LICENSE.

Данные ETT в пакет не входят (CC BY-ND 4.0, их скачивает tools/make_windows.py). Исходный код сборки TAKT не публикуется: мы поставляем сборки.