Intel Neural Compute Stick и ASI Biont: как запустить нейросеть на периферии без облака за 10 минут

Введение

Intel Neural Compute Stick (NCS) — это USB-ускоритель для инференса нейросетей на периферии. Он позволяет запускать модели компьютерного зрения и классификации прямо на устройстве, без отправки данных в облако. Но как автоматизировать его работу? Как заставить AI-агента не только анализировать видео, но и принимать решения на основе детекций? Ответ — интеграция с ASI Biont.

ASI Biont — это AI-агент, который подключается к любому оборудованию через диалог в чате. Вам не нужно писать код вручную: просто опишите задачу, и AI сам создаст скрипт интеграции. В этой статье мы разберём, как подключить Intel Neural Compute Stick к ASI Biont, чтобы запускать нейросети на периферии с минимальной задержкой и полным контролем над данными.

Как ASI Biont подключается к Intel Neural Compute Stick

Intel Neural Compute Stick подключается к компьютеру через USB. Для интеграции с ASI Biont используется execute_python — универсальный механизм: AI пишет Python-скрипт, который выполняется в sandbox-окружении на сервере ASI Biont (Railway). В sandbox есть все необходимые библиотеки: OpenCV, numpy, onnxruntime, torch, transformers. Скрипт может подключаться к устройству по SSH (если NCS подключён к одноплатнику, например Raspberry Pi) или через HTTP API (если NCS работает на ПК с REST-сервером).

Почему именно execute_python? NCS — это специализированное устройство, которое требует установки Intel OpenVINO Toolkit и загрузки модели. AI-агент может сгенерировать код, который:
- Загружает модель (.xml и .bin) из репозитория или локального пути
- Инициализирует NCS через OpenVINO Inference Engine
- Запускает инференс на каждом кадре видеопотока
- Возвращает результаты в ASI Biont для дальнейшей автоматизации

Сценарий 1: Офлайн-детекция объектов на Raspberry Pi с Intel NCS

Проблема: Нужно детектировать людей и автомобили на видеопотоке с камеры, но интернет нестабилен, а задержка облачных сервисов (AWS Rekognition, Google Vision) составляет 2-5 секунд.

Решение: Подключаем Intel Neural Compute Stick к Raspberry Pi 4 по USB, устанавливаем OpenVINO, загружаем модель MobileNet-SSD. ASI Biont по SSH запускает скрипт, который:
1. Захватывает кадр с USB-камеры (OpenCV)
2. Преобразует его в blob для NCS
3. Запускает инференс (задержка ~50 мс)
4. Отображает bounding boxes на кадре
5. Если обнаружен человек — отправляет команду на сервопривод (GPIO) через paramiko

Пример кода (генерируется AI):

import cv2
import numpy as np
from openvino.inference_engine import IECore

ie = IECore()
net = ie.read_network(model='mobilenet-ssd.xml', weights='mobilenet-ssd.bin')
exec_net = ie.load_network(network=net, device_name='MYRIAD')

cap = cv2.VideoCapture(0)
while cap.isOpened():
    ret, frame = cap.read()
    if not ret:
        break
    # Предобработка кадра
    input_blob = cv2.resize(frame, (300, 300))
    input_blob = input_blob.transpose((2, 0, 1))
    input_blob = np.expand_dims(input_blob, axis=0)
    # Инференс
    output = exec_net.infer(inputs={'data': input_blob})
    # Обработка результатов
    detections = output['detection_out'][0][0]
    for detection in detections:
        confidence = detection[2]
        if confidence > 0.5:
            print(f'Обнаружен объект с уверенностью {confidence:.2f}')
            # Отправка команды на сервопривод
            # ...
    if cv2.waitKey(1) & 0xFF == ord('q'):
        break

Результаты:
- Задержка инференса: 40-60 мс на кадр (против 2-5 с в облаке)
- Полная автономность: данные не покидают локальную сеть
- AI-агент управляет процессом: может менять порог уверенности, модель или угол обзора камеры по текстовой команде

Сценарий 2: Классификация дефектов на конвейере с Intel NCS

Проблема: На заводе нужно сортировать детали по дефектам (царапины, сколы, загрязнения). Облачные решения требуют отправки изображений за пределы предприятия, что нарушает политику безопасности.

Решение: Intel Neural Compute Stick подключается к промышленному ПК (Windows/Linux). ASI Biont через execute_python запускает скрипт, который:
- Загружает модель классификации (ResNet-18, обученную на дефектах)
- Получает изображение с промышленной камеры (GigE Vision через aiohttp)
- Выполняет инференс на NCS
- Отправляет результат ("брак" / "годен") в Modbus TCP для PLC, который управляет конвейером

Пример команды от AI:

industrial_command(protocol='modbus', command='write_register', address=100, value=1)  # 1 = брак

Результаты:
- Время обработки одного изображения: 30-50 мс
- Данные не покидают локальную сеть — полное соответствие требованиям безопасности
- AI-агент может адаптировать модель под новые типы дефектов без перепрошивки оборудования

Почему это выгодно?

1. Безопасность данных: NCS обрабатывает всё локально. Ни одно изображение не отправляется в облако.
2. Низкая задержка: Инференс на периферии занимает миллисекунды, а не секунды.
3. Гибкость: AI-агент может менять модель, порог уверенности или логику автоматизации в реальном времени через чат.
4. Экономия: Не нужно покупать дорогие GPU-серверы или платить за облачные API.

Как начать?

1. Подключите Intel Neural Compute Stick к компьютеру или одноплатнику (Raspberry Pi, Orange Pi).
2. Установите OpenVINO Toolkit (инструкция на сайте Intel).
3. Зайдите в чат ASI Biont (asibiont.com) и напишите: "Подключись к моему Raspberry Pi по SSH, запусти детекцию объектов с Intel NCS, результат отправляй в Telegram при обнаружении человека".
4. AI сгенерирует код и выполнит его. Всё подключение занимает 10 минут.

Заключение

Intel Neural Compute Stick в связке с ASI Biont — это мощный инструмент для Edge AI. Вы получаете полноценную автоматизацию без необходимости вручную писать код интеграции. Хотите запустить нейросеть на периферии и управлять ей через AI-агента? Попробуйте интеграцию на asibiont.com уже сегодня.