Intel Neural Compute Stick и ASI Biont: Edge AI с on-device ML на границе сети

Введение

Intel Neural Compute Stick 2 (NCS2) — это компактный USB-акселератор для выполнения нейросетевых вычислений на границе сети. Он превращает обычный компьютер или одноплатник в мощное Edge AI-устройство, способное запускать модели компьютерного зрения, обработки естественного языка и другие ML-задачи с минимальной задержкой. Однако ручное управление NCS2 требует написания кода на Python с OpenVINO, настройки окружения и интеграции с внешними системами. ASI Biont решает эту проблему: AI-агент подключается к устройству, автоматически пишет скрипты для инференса и управляет всем процессом через диалог в чате. В этой статье мы разберём, как подключить Intel Neural Compute Stick к ASI Biont, запустить on-device ML и автоматизировать сценарии на границе сети.

Что такое Intel Neural Compute Stick и зачем его подключать к AI-агенту

NCS2 — это USB-ускоритель на базе Intel Movidius Myriad X VPU, оптимизированный для работы с OpenVINO Toolkit. Он поддерживает модели в формате IR (Intermediate Representation) и позволяет выполнять инференс на устройствах с ограниченными ресурсами: Raspberry Pi, Intel NUC, промышленные ПК. Ключевые характеристики:
- Производительность: до 1 TOPS (триллион операций в секунду) при 16-битных вычислениях
- Поддерживаемые модели: YOLO, ResNet, MobileNet, SSD и сотни других из Open Model Zoo
- Энергопотребление: до 2.5 Вт через USB (без внешнего питания)
- Задержка: < 20 мс на кадр для YOLOv3-tiny на Raspberry Pi 4

Подключение NCS2 к ASI Biont даёт три преимущества:
1. Приватность данных — инференс выполняется локально, без отправки видеопотока в облако
2. Низкая задержка — решение принимается на устройстве за миллисекунды
3. Цена — связка NCS2 + ASI Biont стоит в 3-5 раз дешевле NVIDIA Jetson Nano, но решает 80% задач компьютерного зрения на границе

Как ASI Biont подключается к Intel Neural Compute Stick

ASI Biont подключается к любому устройству через execute_python — универсальный механизм, при котором AI-агент пишет Python-скрипт с использованием библиотек из sandbox-окружения на сервере ASI Biont. Для работы с NCS2 AI использует:
- paramiko — для SSH-подключения к одноплатнику (Raspberry Pi, Orange Pi), к которому физически подключён NCS2
- requests или aiohttp — для вызова REST API, если устройство предоставляет HTTP-интерфейс
- paho-mqtt — для асинхронного обмена сообщениями через MQTT-брокер (например, когда скрипт инференса публикует результаты в топик)

Пользователь описывает в чате: «Подключись к Raspberry Pi по SSH, запусти инференс YOLOv5 на NCS2 и присылай уведомления в Telegram, когда на камере появится человек». AI генерирует код, выполняет его в sandbox, и интеграция готова за секунды.

Конкретный сценарий: распознавание дефектов на конвейере с ASI Biont и NCS2

Постановка задачи

На производственном конвейере установлена камера, подключённая к Raspberry Pi 4 с Intel Neural Compute Stick 2. Требуется в реальном времени детектировать дефекты продукции (трещины, сколы) и при обнаружении отправлять команду на остановку конвейера через Modbus TCP. ASI Biont выступает в роли AI-диспетчера: он получает результаты инференса, анализирует их и принимает решение.

Шаг 1. Подключение к Raspberry Pi через SSH

Пользователь даёт команду в чате:

«Подключись к моей Raspberry Pi по SSH (IP: 192.168.1.100, логин: pi, пароль: raspberry) и установи OpenVINO Toolkit для NCS2»

AI генерирует скрипт с paramiko:

import paramiko

ssh = paramiko.SSHClient()
ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
ssh.connect('192.168.1.100', username='pi', password='raspberry')

# Установка OpenVINO
stdin, stdout, stderr = ssh.exec_command('wget https://storage.openvinotoolkit.org/repositories/openvino/packages/2024.3/linux/l_openvino_toolkit_ubuntu20_2024.3.0.tgz && tar -xzf l_openvino_toolkit_*.tgz')
print(stdout.read().decode())

ssh.close()

Шаг 2. Запуск инференса на NCS2

AI генерирует скрипт для Raspberry Pi, который загружает модель YOLOv4-tiny (оптимизированную под NCS2) и запускает детекцию на видеопотоке с камеры. Результаты публикуются в MQTT-топик:

import cv2
from openvino.inference_engine import IECore
import paho.mqtt.client as mqtt

# Инициализация NCS2
ie = IECore()
net = ie.read_network(model='yolov4-tiny.xml', weights='yolov4-tiny.bin')
exec_net = ie.load_network(network=net, device_name='MYRIAD')  # MYRIAD = NCS2

cap = cv2.VideoCapture(0)
client = mqtt.Client()
client.connect('192.168.1.50', 1883, 60)

while True:
    ret, frame = cap.read()
    if not ret:
        break
    # Предобработка и инференс
    resized = cv2.resize(frame, (416, 416))
    input_blob = cv2.dnn.blobFromImage(resized, 1/255.0, (416, 416), swapRB=True, crop=False)
    outputs = exec_net.infer(inputs={'data': input_blob})
    # Анализ результатов (упрощённо)
    for detection in outputs['detection_out']:
        if detection[2] > 0.5:  # confidence > 50%
            client.publish('factory/defects', f'Defect detected: {detection[1]}')

Шаг 3. ASI Biont принимает решение и управляет конвейером

AI-агент подписывается на MQTT-топик через industrial_command и при получении сообщения о дефекте отправляет команду на ПЛК по Modbus TCP:

# industrial_command(protocol='mqtt', command='subscribe', topic='factory/defects')
# При получении сообщения:
industrial_command(protocol='modbus', command='write_coil', slave=1, address=0, value=True)  # остановка конвейера

Результат

• Задержка от появления дефекта до остановки конвейера: < 50 мс
• Данные не покидают локальную сеть завода (приватность)
• ASI Biont может параллельно логировать все события в базу данных PostgreSQL и отправлять отчёты в Telegram

Почему это выгодно: цена, задержка, приватность

Источник: тесты производительности OpenVINO на Raspberry Pi 4 (openvinotoolkit.github.io)

Другие сценарии интеграции NCS2 с ASI Biont

1. Мониторинг счётчиков — NCS2 + камера распознаёт показания аналоговых приборов (манометры, термометры) и публикует данные в MQTT. ASI Biont анализирует тренды и предсказывает отказы.
2. Детекция объектов с веб-камеры — AI подключается к камере через HTTP API, запускает инференс на NCS2 и уведомляет Telegram при обнаружении конкретного объекта.
3. Автоматизация теплицы — NCS2 анализирует фото растений на предмет болезней, ASI Biont управляет поливом и освещением через реле на ESP32.

Как начать: пошаговая инструкция

1. Подготовьте оборудование: Raspberry Pi (любая модель, начиная с 3B+), Intel Neural Compute Stick 2, камера (USB или CSI).
2. Установите OpenVINO на Raspberry Pi (официальное руководство: docs.openvino.ai).
3. Скачайте bridge.py из дашборда ASI Biont (Devices → Create API Key → Скачать bridge) — это приложение соединяет ваш ПК с облаком через WebSocket.
4. Запустите bridge с токеном: python bridge.py --token=ВАШ_ТОКЕН.
5. В чате ASI Biont напишите: «Подключись к моей Raspberry Pi по SSH (IP: 192.168.1.100, логин: pi, пароль: raspberry), запусти инференс YOLOv5 на NCS2 с камеры и сохраняй результаты в CSV-файл на Raspberry Pi».
6. AI сгенерирует код, выполнит его, и интеграция готова.

Заключение

Intel Neural Compute Stick 2 — это доступный вход в мир Edge AI, а ASI Biont превращает его в полноценную автоматизированную систему. Вам не нужно писать код вручную: AI-агент сам подключается к устройству, генерирует скрипты инференса и управляет сценариями. Это снижает порог входа для инженеров и ускоряет внедрение on-device ML на производстве, в умном доме и робототехнике. Попробуйте интеграцию на asibiont.com и автоматизируйте свои устройства с AI уже сегодня.