Поставляете вычислители юрлицам, есть наличие и КП?

Да, отгружаем одноплатники, SoM Jetson/Coral, промышленные MCU и edge-компьютеры юридическим лицам по безналу с НДС, формируем коммерческое предложение и счёт. Позиции в наличии резервируются под заказ, по отсутствующим называем срок поставки. Доставка по России транспортными компаниями, отгрузочные документы в комплекте.

Чем NPU отличается от GPU для задач инференса?

GPU — универсальный параллельный вычислитель с высоким TDP и широкой программной поддержкой. NPU — специализированная микросхема, оптимизированная под матричные операции нейросетей: при сопоставимой производительности на инференсе потребляет значительно меньше энергии. Для edge-устройств с ограниченным питанием NPU предпочтительнее; для гибкого прототипирования и обучения — GPU.

На что смотреть, если нужно сравнить два ускорителя с разными TOPS?

TOPS сами по себе не сравнимы без контекста: смотрите на битность (INT8, INT4, FP16), реальную латентность на вашей конкретной модели (публичные бенчмарки на MLPerf Inference) и пропускную способность памяти. Ускоритель с меньшим числом TOPS, но с быстрой памятью и хорошим компилятором может обгонять формально более мощного конкурента на вашей задаче.

Как выбрать интерфейс и форм-фактор AI-ускорителя под хост-систему?

Сначала фиксируют слот хоста и линии: PCIe Gen3/Gen4 x4/x8/x16 для карт, M.2 Key M/E/B (обычно PCIe x1–x4), mini PCIe или USB 3.2 для модулей. Проверяют габарит, высоту радиатора, питание от слота/разъема, поддержку DMA/IOMMU и драйвер под ОС.

Что проверить по совместимости нейросетевой модели с NPU перед закупкой?

Проверьте, принимает ли SDK ONNX/TFLite/TF или требует собственный IR, какие opset и слои поддержаны аппаратно. Важны режимы INT8/FP16/BF16, пер-канальная квантизация, статические/динамические shapes, NMS/Resize/Deconv. Неподдержанные операции часто уходят на CPU и ломают задержку.

Какие требования к питанию и охлаждению учитывать для AI-ускорителя?

Для edge-модулей TDP обычно 2–15 Вт, для M.2 и mini PCIe — до 25 Вт, для PCIe-карт — 25–75 Вт от слота и выше с 6/8-pin. Уточняют линии 3,3/5/12 В, пиковый ток, допустимую температуру кристалла, airflow, тип радиатора и наличие throttling при +60…+85 °C.

261 позиций

AI-ускорители и NPU

Все разделы

Вычислители9 481

Машинное зрение7 998

Как выбрать AI-ускоритель или NPU

AI-ускорители и NPU (Neural Processing Unit) позволяют выполнять инференс нейросетей на порядок эффективнее, чем CPU. Выбор определяется задачей — будь то детекция объектов на конвейере, обработка речи или обучение моделей на edge-устройстве.

Развернуть текст

Производительность и тип нагрузки

Ключевой показатель — пиковая производительность на целевой точности: TOPS (Tera Operations Per Second) при INT8 для инференса, TFLOPS при FP16/BF16 для дообучения. Уточните, какой тип операций преобладает: свёрточные сети (CNN) и трансформеры имеют разный профиль нагрузки, и одни ускорители оптимизированы под один тип, другие — под оба. Обратите внимание, что маркетинговые TOPS замеряются при разных условиях — сравнивайте только при одинаковой битности и одинаковом типе операций.

Интерфейс подключения и форм-фактор

Для серверных и рабочих станций стандарт — PCIe (Gen3/Gen4/Gen5): чем выше полоса, тем меньше узкое место при передаче данных. Для встраиваемых систем используются M.2 (ключи M или B+M), USB 3.x и проприетарные шины. Модули на базе MIPI CSI/DSI актуальны для систем компьютерного зрения. Уточните TDP: серверный ускоритель с TDP 150+ Вт требует активного охлаждения и соответствующего блока питания, тогда как edge-модули могут укладываться в 5-15 Вт.

Программная поддержка и экосистема

Критически важно наличие зрелого SDK и поддержка фреймворков: TensorFlow Lite, ONNX Runtime, PyTorch (через экспорт в TorchScript/ONNX), OpenVINO, TensorRT. Проверьте, есть ли официальная поддержка квантизации (INT8, INT4) и компилятора моделей. Для промышленных применений важна долгосрочная поддержка драйверов под Linux и наличие стабильного API — частые breaking changes увеличивают стоимость владения. Открытость документации и наличие примеров кода под вашу задачу сокращают время запуска.

Надёжность и применимость в промышленной среде

Для встраиваемого применения на производстве уточните рабочий диапазон температур (industrial grade — как правило, -40...+85 °C), рейтинг защиты корпуса (IP54 и выше для запылённых сред). Для серверного развёртывания важны наличие ECC-памяти на борту, MTBF и наличие сертификатов CE/FCC. Масштабируемость через NVLink, PCIe-свитч или специализированные интерконнекты актуальна при построении кластеров.

Частые вопросы

Чем отличается одноплатный компьютер от микроконтроллера для промышленной задачи?

Одноплатные компьютеры (Raspberry Pi, Rock Pi, Orange Pi) несут полноценную ОС Linux, гигабайты ОЗУ и интерфейсы Ethernet/USB3/HDMI — это база для машинного зрения и обработки данных. Микроконтроллеры (STM32, NXP, GD32, ESP32) работают без ОС в реальном времени, управляют периферией по I2C, SPI, UART, CAN и потребляют единицы милливатт. Для AI-инференса на краю берут SoM Jetson или Coral, а для жёсткой логики и опроса датчиков — промышленный MCU.

Как выбрать AI-модуль для инференса нейросети на edge?

Ориентируйтесь на производительность в TOPS и поддержку фреймворка: NVIDIA Jetson (Orin Nano/NX) даёт от 20 до 100+ TOPS и работает с TensorRT, Google Coral на TPU оптимизирован под TensorFlow Lite (INT8, 4 TOPS), а FPGA-модули дают детерминированную задержку для кастомных пайплайнов. Учитывайте объём LPDDR, форм-фактор SO-DIMM или SMD и тепловой пакет — под нагрузкой модулю нужен радиатор или активное охлаждение.

Какие интерфейсы у промышленных edge-компьютеров для подключения к АСУ ТП?

Промышленные edge-компьютеры обычно несут изолированный RS485/RS232 с поддержкой Modbus RTU, порты Ethernet под Modbus TCP и OPC UA, дискретные входы/выходы (DI/DO) и CAN. Питание — широкий диапазон 9–36 В DC под автомобильные и шкафные сети, рабочий диапазон температур до -40…+70 °C. Для камер машинного зрения важны порты GigE Vision с PoE и USB3 Vision.

Нужен ли AI-ускоритель (NPU) если уже есть процессор?

AI-ускоритель (NPU) разгружает CPU от матричных операций нейросети и поднимает FPS инференса в разы при том же энергобюджете. Внешние ускорители подключаются по USB3, M.2 (PCIe) или как HAT к одноплатнику; они дают единицы TOPS на INT8 и удобны, когда апгрейдить сам вычислитель нельзя. Для лёгких моделей детекции хватает встроенного NPU SoC, для тяжёлых сетей берут Jetson или дискретный ускоритель.

Какую память и накопитель ставить в промышленный вычислитель?

Для встраиваемых систем выбирают индустриальные microSD и eMMC с pSLC-режимом либо M.2/2242 NVMe SSD с расширенным температурным диапазоном и поддержкой power-loss protection. Объём ОЗУ (LPDDR4/LPDDR5) подбирают под модель: для классического CV хватает 4–8 ГБ, для крупных нейросетей нужно 16 ГБ и больше. Ресурс записи (TBW) критичен при постоянном логировании.

AI-ускорители и NPU

AI-ускорители и NPU

Готовый старт для проекта

ТОП в категории

Вас также может заинтересовать