Локальный ИИ в компании: как выбрать устройство — от миникомпьютера до пары DGX Spark

У нас в офисе стоят кластеры из DGX Spark от NVIDIA, и за последние месяцы они стали такой же офисной инфраструктурой, как роутер и кофемашина. Один узел размером с книгу держит рабочий день команды: несколько агентов в параллельных потоках, распознавание звонков, работа с документами. Два узла в одной связке тянут свежую открытую модель DeepSeek V4.1 Flash 1017 с контекстом в миллион токенов — ту самую, которую вендор сравнивает с Opus 5.

Сразу договоримся о честности. «Уровень флагмана» — утверждение, верное только частично: ниже будет таблица, где модель Opus 5 проигрывает, и мы это не спрячем. Замеры на паре узлов — чужие, публичные, и на другом квантовании, не на нашей конфигурации. Зачем тогда статья? Затем, что готовых рецептов «купил коробку — получил команду агентов» на рынке почти нет, а грабли уже кто-то должен описать. Дальше — наши замеры и проверяемые публичные цифры, с указанием, где чьи.

Что это за железо

DGX Spark — не сервер и не рабочая станция, а компьютер вокруг суперчипа GB10 Grace Blackwell. Ключевое в нём — 128 ГБ унифицированной памяти LPDDR5x: веса модели, контекст и данные живут в одном пуле, и именно поэтому на 128 «просто» гигабайтах влезают модели, которые раньше требовали серверных ускорителей. По вычислениям — до 1 PFLOP в FP4; у части источников формулировка «до 1000 TOPS», это про ту же производительность в других единицах. Процессорная часть — 20-ядерный Arm: 10 больших ядер Cortex-X925 и 10 эффективных Cortex-A725. NVIDIA заявляет поддержку моделей до 200 млрд параметров.

«Размером с книгу» — не маркетинговая строчка, а техническое свойство, которое всё меняет. Не нужна стойка, не нужен ЦОД, не нужен отдельный ввод питания: обычная розетка, обычный стол. Именно поэтому это первое «своё железо для ИИ», которое небольшая компания может купить так же буднично, как ноутбуки команде, — и именно поэтому оно живёт у нас в офисе, а не в дата-центре.

Один узел: рабочий день команды

Наша типовая нагрузка на одном Spark — кодовая модель в нескольких параллельных потоках; как мы запускали её локально, рассказывали в статье про Qwen3.8-Flash. Наш замер: около 24 токенов/с на полосу при шести параллельных полосах. Восемь полос — уже компромисс между скоростью ответа и очередью: суммарно система выдаёт больше, но каждый отдельный агент отвечает медленнее. Подробный разбор с цифрами — в статье про восемь агентов на GPU.

Публичные замеры на таком же железе это подтверждают: на одном Spark открытая Qwen3.8-Flash-Next в кванте даёт 17.1 ток/с на одном потоке, 87.5 суммарно на восьми и до 267 на сорока восьми (замер сообщества), а в prose-профиле — 48.7 на одном, 113.7 на четырёх и 162.9 на восьми. NVIDIA на своей же машине показывает рост агрегата с 38 до 53 ток/с при переходе с одного потока на четыре и прямо пишет про «два, четыре или даже восемь субагентов» как рабочий сценарий.

Одновременно с моделью на том же узле работает отдельный локальный сервис распознавания речи — тот, что расшифровывает звонки в CRM. Мы ожидали, что голосовые задачи будут конкурировать с LLM за память и вычисления, но на практике они уживаются: когда звонок уходит на расшифровку, агенты этого не замечают. Плюс фоновые мелочи — разбор документов, классификация, ночные задачи.

Итого один узел — это уровень «небольшая команда»: каждый сотрудник ходит к модели по несколько раз в день, и узел не является узким местом. Если нужны модели крупнее — читайте дальше.

Зачем второй узел

128 ГБ — много, но не бесконечно: модель уровня флагмана с большим контекстом в один узел целиком не помещается. Решение — тензорный параллелизм: модель делится между узлами, и они считают запрос вместе. Связка — порты ConnectX-7 с пропускной способностью 200 Гбит/с. Получается одна логическая машина с 256 ГБ памяти на два узла.

Важно понимать, что это не «второй независимый сервер»: если один узел пары выходит из строя, не работает ни один — модель разрезана между ними. Зато появляются запросы, которые один узел физически не принял бы: слишком большая модель, слишком длинный контекст.

DeepSeek V4.1 Flash 1017: что за модель

17 октября 2026 DeepSeek выпустила обновление V4.1 Flash — «1017» в имени это дата. Три причины, ради которых стоит на неё смотреть:

• лицензия MIT — можно использовать в коммерческих продуктах без оглядки на условия вендора;
• контекст 1M токенов — целый архив переписки или большой репозиторий помещается в один запрос;
• мультимодальность и вызов инструментов — модель можно встраивать в агентные сценарии, а не только чатиться.

Веса открыты, модель лежит на Hugging Face. На паре Spark она запускается в квантовании EXL3 2,9 бита и занимает примерно 98,9 ГиБ на узел — то есть реально требует оба узла, на одном её не разместить.

Замеры на паре: чужие цифры, но полезные

Сначала оговорка, потом таблица. Публичные замеры запуска DeepSeek V4.1 Flash 1017 на двух Spark — не наши. Это проект с открытым кодом (ссылка ниже), и в нём конфигурация отличается от нашей: другой квант, другой контекст. Поэтому цифры ниже — ориентир по порядку величины, а не наш протокол испытаний.

Декод — скорость генерации ответа, токенов в секунду:

Первое число в ячейке — суммарная скорость по всем потокам, второе — на каждый поток.

Префилл — обработка входного промпта: 2 166–2 183 токенов/с на промптах 8K–32K и 2 000 токенов/с на 256K. Отсюда время до первого токена: 4,0 секунды на 8K и 131,3 секунды на 256K.

Что из этого следует. Код генерируется заметно быстрее прозы. Два параллельных потока дают больше суммарной производительности, чем один, четыре — ещё больше, но каждый отдельный ответ идёт в два-три раза медленнее: выигрывает очередь, а не конкретный пользователь. И большой контекст стоит дорого: четверть миллиона токенов модель «прочитывает» больше двух минут — интерактивной такую сессию не назовёшь.

«Уровень Opus 5»: где правда, а где нет

Вендор в релизе сравнивает 1017 с Opus 5 — и в агентных бенчмарках модель действительно выглядит достойно. Но сравнение неполное: есть группа задач, где 1017 проигрывает, и умалчивать об этом было бы нечестно. Полная таблица из материалов релиза:

Честное чтение этой таблицы такое. В агентном кодинге и автоматизации 1017 вровень с Opus 5 или выше: DeepSWE, Automation-Bench, Agents’ Last Exam, Apex Bench — везде обгон. Но там, где нужна глубокая работа с окружением, модель уступает: HLE без инструментов (42.6 против 56.3), Terminal-Bench 4.0 (42.3 против 51.8), ProgramBench (29.1 против 37.0), NL2Repo-Bench (68.2 против 75.3).

Практический вывод: «уровень Opus 5» верен только частично. Сценарии, где агент работает по понятному каркасу — написать фичу, прогнать автоматизацию, — закрываются на уровне флагмана. Сложные терминальные сессии, холодная навигация по чужому репозиторию, задачи без инструментов — хуже. Это не повод не брать: это повод знать, какие задачи давать модели, а какие — человеку или более дорогой модели по API.

И последняя рамка, без которой таблица выше читается неправильно. Независимый Artificial Analysis в октябре 2026 ставит 1017 на 45 баллов Intelligence Index, а Claude Opus 5.5 — на 58: разрыв не «вровень», а в 13 пунктов. Зато по цене за задачу разрыв обратный — примерно $0.27 против $5.98. Так что честная формулировка звучит так: 1017 — вторая среди открытых весов по этому индексу и в 20 раз дешевле фронтира за задачу, но не «локальный Opus 5.5».

Цены: октябрь 2026

Розница в РФ на октябрь 2026: 726 900 ₽ и 863 000 ₽ у разных продавцов — ориентир «~730–860 тыс. ₽ за узел». В наших конфигурациях тот же узел идёт от 700 тыс. ₽ — разница в комплектации и канале поставки. Пара узлов — ~1,5–1,7 млн ₽.

Как это ощущается в пересчёте на «место в компании». Один узел стоит примерно как оснащение одного «дорогого» рабочего места, а обслуживает всю команду: агенты, распознавание звонков, работа с документами — без платы за токен и без отправки данных наружу. Пара — уровень выше, но логика та же: разовая покупка железа вместо растущего счёта за API. Полный расчёт совокупной стоимости своего ИИ против облака мы делали в статье про TCO своего ИИ — там же про скрытые расходы, о которых все забывают.

Границы: чего не стоит ждать

Первое — обучение больших моделей. Это железо для инференса: гонять готовые модели, в том числе очень большие, — да; обучать свои флагманские — нет, это задача для другого класса оборудования.

Второе — десятки пользователей в офисе. Узел рассчитан на команду, а не на полсотни одновременных пользователей: замеры выше показывают, что при росте числа потоков суммарная скорость растёт медленно, а время ответа каждого — быстро.

Третье — быт. Активное охлаждение слышно в тихом помещении, и это стоит учитывать при размещении: узел живёт в офисе, а не в серверной, и соседство с ним должно быть комфортным. Питание — обычная розетка, но стабильность питания теперь ваша забота, а не дата-центра. И обслуживание: обновления драйверов и стека, мониторинг, кто-то должен отвечать за это железо — «купил и забыл» не получится, как не получится с любым сервером.

Итог: один узел или два

• Один узел (~730–860 тыс. ₽) — если задача: параллельные агенты для команды, локальное распознавание речи, работа с документами. Наш замер — около 24 токенов/с на полосу при шести полосах — показывает, что это рабочий режим, а не лабораторный эксперимент.
• Пара узлов (~1,5–1,7 млн ₽) — если нужна открытая модель с контекстом 1M и лицензией MIT, которая по агентному кодингу вровень с Opus 5 или выше. Помните о границах: терминальные и репозиторные задачи 1017 проигрывает флагману.
• Замеры на паре — чужие, на другом квантовании. Как ориентир — да, как гарантия — нет; свои цифры снимайте на своей нагрузке.
• Железо — не «купил и забыл»: питание, шум, обслуживание остаются с вами. Это плата за контроль над данными и отсутствие счёта за токены.

Своё железо для нас — не про моду на локальные модели, а про контроль: данные не уходят наружу, стоимость не растёт вместе с использованием, а команды агентов работают столько, сколько нужно бизнесу. Что мы строим на этом фундаменте — смотрите на странице наших ИИ-разработок, а если хотите такое же железо под свою команду — приходите, расскажем, что мы узнали за эти месяцы, включая грабли.