Page History

...

Начиная с версии DetectorPack 3.9 в состав пакета нейроаналитики (см. Установка дополнительных пакетов DetectorPackДетектор Пак) добавлена утилита, которая позволяет создавать GPU кэши сетей нейросетей без использования ПК Интеллект X. Наличие кэша влияет на ускорение инициализации и оптимизирует потребление видеопамяти.

...

Оптимизации работы нейроаналитики на GPU завершена. Утилита создаст кэши 4-х сетейнейросетей, входящих в состав пакета нейроаналитики:

...

Создание GPU кэшей сетей нейросетей с использованием ключей:

1. -p – ключ для создания кэша для определенной сетинейросети.
   Пример команды:

   Code Block
   C:\Program Files\Common Files\ITV\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<Системный диск>\<Директория расположения сети>нейросети>\Название_сетинейросети.ann"

   Для создания кэша для нескольких сетей нейросетей необходимо перечислить пути к выбранным сетям нейросетям через пробел.
   Пример команды:
   

   Code Block
   C:\Program Files\Common Files\ITV\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<Системный диск>\<Директория расположения сети>нейросети>\Название_сетинейросети.ann" "C:\Program Files\Common Files\ITV\DetectorPack\NeuroSDK\WaterLevelRuleNet_origin_onnx.ann"

   
   

2. -v – ключ для вывода лога процедуры в консоль в процессе формирования кэша.
   Пример команды для автоматического создания кэшей 4-х сетейнейросетей, входящих в состав пакета нейроаналитики с выводом логов:
   

   Code Block
   C:\Program Files\Common Files\ITV\DetectorPack\NeuroPackGpuCacheGenerator.exe -v

   Пример команды:
   

   Code Block
   C:\Program Files\Common Files\ITV\DetectorPack\NeuroPackGpuCacheGenerator.exe -p "<Системный диск>\<Директория расположения сети>нейросети>\Название_сетинейросети.ann" -v

   
   

3. --int8=1 – ключ для создания квантизированного варианта кэша для тех сетейнейросетей, для которых доступна квантизация.  По По умолчанию: --int8=0 – выключен.
   Пример команды:
   

   Code Block
   C:\Program Files\Common Files\ITV\DetectorPack\NeuroPackGpuCacheGenerator.exe --int8=1

   
   

   Note
   title Внимание!
   СетиНейросети, для которых доступен режим квантизации, входят в состав пакета нейроаналитики вместе с одноименным файлом *.info

   СетиНейросети, для которых доступен режим квантизации (см. Настройка детекторов анализа ситуации на базе нейротрекерадетектора Нейротрекер):

   • GeneralNMCar_v1.0GPU_onnx.ann – транспортные средства.
   • GeneralNMHuman_v1.0GPU_onnx.ann – человек.
   • GeneralNMHumanTopView_v0.8GPU_onnx.ann – человек, вид сверху.

Начиная с версии DetectorPack 3.11 добавлены сетинейросети:  

• • GeneralNMHumanAndVehicle_Nano_v1.0_GPU_onnx.ann – человек и транспортное средство (Нано).
  • GeneralNMHumanAndVehicle_Medium_v1.0_GPU_onnx.ann – человек и транспортное средство (Средняя).
  • GeneralNMHumanAndVehicle_Large_v1.0_GPU_onnx.ann – человек и транспортное средство (Большая).