Документация для версии Подсистема Detector Pack 3.0. Документация на другие версии также доступна.

Предыдущая страница Настройка ускорения запуска нейроаналитики на GPU  Выбор видеопотока камеры для программных модулей детекторов Следующая страница


В состав нейроаналитики добавлена утилита, позволяющая создавать кэши сетей на GPU без использования ПК Интеллект. Наличие кэша влияет на ускорение инициализации и оптимизирует потребление видеопамяти.

Внимание!

  • Для оптимизации работы нейроаналитики на GPU необходимо завершить работу ПК Интеллект (см. Запуск и завершение работы ПК Интеллект).
  • Если в системе используется ПО, работающее на GPU, то необходимо остановить процесс его работы.
  • При обновлении нейроаналитики или замене модели NVIDIA GPU требуется повторное создание кэша.

Создание GPU кэшей сетей:

  1. Пример команды:

    C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe -g 0 -p "<Системный диск>\<Директория расположения сети>\Название_сети.ann"

    , где ключ -g определяет порядковый номер видеокарты согласно nvidia-smi, а ключ -p позволяет выбрать необходимую сеть для создания кэша. 
    Для создания кэша для нескольких сетей необходимо перечислить пути к выбранным сетям через пробел.
    Пример команды:

    C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe -g 0 -p "<Системный диск>\<Директория расположения сети>\Название_сети.ann" "C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\Models\poseEstimator_original.ann"

  2. -v – ключ для вывода лога процедуры в консоль в процессе формирования кэша.
    Пример команды для автоматического создания кэшей 4-х сетей, входящих в нейроаналитику, с выводом логов:

    C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe -g 0 -v

    Пример команды:

    C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe -g 0 -p "<Системный диск>\<Директория расположения сети>\Название_сети.ann" -v

  3. --int8=1 – ключ для создания квантизированного варианта кэша для тех сетей, для которых доступна квантизация. По умолчанию: --int8=0 – выключен.
    Пример команды:

    C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe -g 0 --int8=1

    Внимание!

    Сети, для которых доступен режим квантизации, входят в нейроаналитику вместе с одноименным файлом *.info

    Сети, для которых доступен режим квантизации:

    1. GeneralNMCar_v1.0GPU_onnx.ann – Авто обычный ракурс.
    2. GeneralNMHuman_v1.0GPU_onnx.ann – Люди обычный ракурс.
    3. GeneralNMHumanTopView_v0.8GPU_onnx.ann – Люди вид сверху.
  • No labels