Page History

...

Начиная с версии DetectorPack 3.9 в состав пакета Дополнение: пакет нейроаналитики (см.   Установка дополнительных пакетов DetectorPack) добавлена утилита, которая позволяет создавать GPU кэши сетей без использования ПК Интеллект X. Наличие кэша влияет на ускорение инициализации и оптимизирует потребление видеопамяти.

...

Оптимизация работы нейроаналитики на GPU завершена. Утилита создаст кэши 4 нейросетей, входящих в состав пакета Дополнение: пакет нейроаналитики:

• GeneralNMHuman_v1.0GPU_onnx.ann – человек (или GeneralNMHuman_v1.0_onnx.ann, начиная с версии Detector Pack 3.16) – Человек;
• smokeScanned_v1_onnx.ann (или bestSmoke_v1.ann, начиная с версии Detector Pack 3.14) – детекция дыма;
• fireScanned_v1_onnx.ann (или bestFire_v1.ann, начиная с версии Detector Pack 3.14) – детекция огня;
• reid_15_0_256__osnetfpn_segmentation_noise_20_common_29_onnx.ann – поиск похожих в нейротрекере (см. Поиск похожих образов).

...

1. -p – ключ для создания кэша для определенной нейросети.
   Пример команды:

   Code Block
   language bash
   ./NeuroPackGpuCacheGenerator -p /opt/ITV/DetectorPack/NeuroSDK/GeneralNMHumanAndVehicle_Nano_v1.0_GPU_onnx.ann

2. -v – ключ для вывода лога процедуры в консоль в процессе формирования кэша.
   Пример команды для автоматического создания кэшей 4-х нейросетей, входящих в состав пакета Дополнение: пакет нейроаналитики с выводом логов:
   

   Code Block
   language bash
   ./NeuroPackGpuCacheGenerator -v

3. --int8=1 – ключ для создания кэша для тех нейросетей, для которых доступна квантование. По умолчанию: --int8=0 – выключен.
   Пример команды:
   

   Code Block
   language bash
   ./NeuroPackGpuCacheGenerator -p /opt/ITV/DetectorPack/NeuroSDK/GeneralNMHumanAndVehicle_Nano_v1.0_GPU_onnx.ann --int8=1

   Note
   title Внимание!
   Нейросети, для которых доступен режим квантования, входят в состав пакета нейроаналитики вместе с одноименным файлом *.info

4. -f – ключ для сохранения логов процедуры кэширования в файлы. Доступен с версии DetectorPack 3.15. При совместном использовании ключей -v и -f логи по каждому созданному кэшу сохраняются в: /<Путь к папке с кэшем, созданной для системной переменной GPU_CACHE_DIR>/caching-utility-log. Для каждой нейросети создается отдельный файл лога. Файлы логов, созданные при предыдущих запусках утилиты, удаляются.

   Пример команды для создания кэша с подробным логированием в консоль и сохранением логов в файлы:

   Code Block
   language bash
   ./NeuroPackGpuCacheGenerator -v -f

Нейросети, для которых доступен режим квантования (см. Нейротрекер, Детектор остановившегося объекта, Нейросчетчик):

• GeneralNMCar_v1.0GPU_onnx.ann (или GeneralNMCar_v1.0_onnx.ann, начиная с версии Detector Pack 3.16) – Транспортное средство.
• GeneralNMHuman_v1.0GPU_onnx.ann (или GeneralNMHuman_v1.0_onnx.ann, начиная с версии Detector Pack 3.16) – Человек.
• GeneralNMHumanTopView_v0.8GPU_onnx.ann (или GeneralNMHumanTopView_v0.8_onnx.ann, начиная с версии Detector Pack 3.16)– Человек (вид сверху).

Начиная с версии DetectorPack 3.11 добавлены нейросети:

...